B2BB2B LLM

GitHub Copilot

Forbind GitHub Copilot Chat, VS Code-agenter og Copilot CLI til Model Gate med BYOK og et brugerdefineret OpenAI-kompatibelt slutpunkt.

GitHub Copilot gennem Model Gate

GitHub Copilot og understøttelse af Visual Studio Code Medbring din egen nøgle (BYOK) modeller. Model Gate kan bruges som et OpenAI-kompatibelt brugerdefineret slutpunkt til Copilot-chat- og agentarbejdsgange.

For VS-kode er den anbefalede opsætning Brugerdefineret slutpunkt udbyder med Responses API. Brug kun Chat-afslutninger, når en valgt model eller arbejdsgang specifikt kræver den pågældende API-familie.

Påkrævede værdier

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Opret en dedikeret API-nøgle i Model Gate kontrolpanel. For en team- eller arbejdsstationsintegration skal du foretrække en separat nøgle i stedet for at genbruge en ikke-relateret produktionsnøgle, så begrænsninger, anmodningshistorik, rotation og tilbagekaldelse forbliver lette at revidere.

Vis aktuelt aktiverede modeller, før du konfigurerer Copilot:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Brug et aktiveret kanonisk model-id eller et administratoradministreret alias, der returneres af dette slutpunkt.

VS-kode: anbefalet brugerdefineret slutpunktsopsætning

Aktuelle VS-kodeversioner afslører BYOK-modeller i Language Models-editoren.

1. Åbn kommandopaletten. 2. Løb Chat: Administrer sprogmodeller. 3. Vælg Tilføj modeller. 4. Vælg Brugerdefineret slutpunkt. 5. Brug et gruppenavn som f.eks Model Gate. 6. Indtast Model Gate API-nøglen, når VS Code anmoder om udbyderens legitimationsoplysninger. 7. Vælg Svar som API-type, når den valgte model understøtter Responses API. 8. Konfigurer modellen med det eksplicitte Model Gate-slutpunkt, og gem det genererede chatLanguageModels.json. 9. Vælg Model Gate-modellen fra Chat-modelvælgeren.

Brug ikke den forældede github.copilot.chat.customOAIModels indstilling for en ny konfiguration. Den nuværende brugerdefinerede slutpunktudbyder understøtter svar, chatafslutninger og endepunkter i meddelelsesstil og er den foretrukne VS-kodekonfigurationssti.

Anbefalet svarkonfiguration

Den genererede chatLanguageModels.json kan bruge en konfiguration som denne:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Erstatte gpt-5.4 med en aktiveret Model Gate-model eller alias.

VS Code sender normalt API-nøglen som:

Authorization: Bearer mg_live_...

som er den korrekte godkendelsesformular for Model Gate OpenAI-kompatible API.

Chat-afslutninger tilbage

Hvis den valgte arbejdsgang kræver chatafslutninger, skal du konfigurere modellen som:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Foretrækker en eksplicit fuld slutpunkts-URL. Dette undgår tvetydighed, hvis VS-kode ændrer URL-sti-inferensadfærd.

Anbefalinger for modelkapacitet

Copilot agent arbejdsgange kræver en model, der kan bruge værktøjer. Til pålidelig agentbrug gennem Model Gate:

- vælg en model med verificeret værktøj/funktionskald støtte; - vælg en model med streaming støtte; - for billedvedhæftninger, brug en model med verificeret vision/billede input kapacitet og sæt "vision": true for den model; - bruge en stor kontekstmodel til agentarbejde i depotskala; GitHub anbefaler i øjeblikket mindst et 128k-token kontekstvindue til Copilot CLI brugerdefinerede modeller; - ikke reklamere toolCalling, vision, ræsonnement, kontekst eller outputgrænser over den faktiske kapacitet af den valgte Model Gate-model; - test den nøjagtige model i Model Gate Playground, før du aktiverer den for et stort hold.

Hvis du manuelt indstiller contextWindow, maxInputTokens, eller maxOutputTokens i VS-kode skal du bruge den valgte models grænser fra den godkendte /models side eller fra GET /v1/models; ikke gætte dem. Model Gate kortlægger felterne som følger:

VS-kodeindstillingModel Gate felt
contextWindowcontext_window (samme værdi som context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Den autentificerede /models side viser disse som Sammenhæng, Max input, og Max output når den tilsvarende værdi er kendt. Sådan inspicerer du API-objektet direkte:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

En værdi på 0 betyder, at Model Gate ikke har en konfigureret værdi for denne grænse. I så fald skal du lade den tilsvarende manuelle VS-kodeindstilling være deaktiveret i stedet for at indtaste 0 eller opfinde en grænse.

Brugsmodeller i VS-kode

VS Code bruger også mindre baggrundsmodeller til opgaver såsom titler, resuméer, commit-meddelelser, omdøbningsforslag og hensigtsregistrering.

Hvis du bruger Model Gate BYOK uden en GitHub-hostet Copilot-model, skal du konfigurere:

chat.utilityModel
chat.utilitySmallModel

Vælg en hurtig og billig Model Gate model til chat.utilitySmallModel. Der er normalt ingen fordel ved at betale for den største begrundelsesmodel for generering af forpligtelsesmeddelelser eller andet letvægts forsyningsarbejde.

De chat.byokUtilityModelDefault indstilling kan også kontrollere, om hjælpearbejdet følger den valgte BYOK-hovedagentmodel, bruger GitHub Copilot hjælpemodeller eller ikke har nogen standard.

Copilot CLI

GitHub Copilot CLI understøtter OpenAI-kompatible brugerdefinerede udbydere gennem miljøvariabler.

Linux eller macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

copilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

copilot ```

For Copilot CLI skal den valgte model understøtte værktøjsopkald og streaming. Brug en aktiveret Model Gate-model eller et alias, og test det, før du gør konfigurationen permanent.

Anbring ikke API-nøglen i shell-historikken, en depotfil eller en committed .env. Brug dit OS-legitimationslager, beskyttet skalmiljø eller værktøj til administration af hemmeligheder i organisationen, hvor det er muligt.

Copilot Business og Enterprise

GitHub understøtter også tilpassede organisations-/virksomhedsmodeller gennem BYOK. GitHub lister i øjeblikket OpenAI-kompatible udbydere som en understøttet kategori af udbydere af tilpassede modeller. Denne funktion på organisationsniveau administreres af GitHub-politikken og kan være i preview afhængigt af Copilot-overfladen.

For en administreret organisation:

1. Aktiver GitHub brugerdefinerede modeller / BYOK politik, der kræves til din Copilot-plan. 2. Tilføj en brugerdefineret OpenAI-kompatibel udbyder/model i organisationens eller virksomhedens Copilot-modelindstillinger. 3. Brug en dedikeret Model Gate API-nøgle med de minimum nødvendige Model Gate-tilladelser og begrænsninger. 4. Brug Model Gate-slutpunktet og et model-id, som din konto kan få adgang til. 5. Valider modellen i Copilot Chat/agent arbejdsgange, før du eksponerer den bredt i organisationsmodelvælgeren.

GitHub kan ændre organisationens brugerdefinerede model UI, mens funktionen udvikler sig. Følg den nuværende GitHub administrative UI for de nøjagtige feltetiketter i stedet for at stole på skærmbilleder fra en ældre udgivelse.

Sikkerheds- og omkostningsanbefalinger

- Opret en dedikeret Model Gate-nøgle til Copilot i stedet for at dele en generel nøgle. - Anvend en RPM-grænse, samtidighedsgrænse, forbrugsgrænse eller Business-gruppepolitik, der er passende for udvikler-agenttrafik. - Drej nøglen med det samme, hvis den er indsat i kildekontrol, chat, logfiler eller et problem. - Forpligt dig aldrig mg_live_... i chatLanguageModels.json; lad VS Code gemme legitimationsoplysningerne eller henvise til et input/hemmelighed. - Hold destruktive værktøjsgodkendelser aktiveret, medmindre dit udviklingsmiljø er bevidst sandboxed. - Agenttilstand kan generere mange model-/værktøjsvendinger fra én brugerinstruktion. Indstil Model Gate-forbrugsgrænser, før du aktiverer dyre begrundelsesmodeller for store lagre. - Brug en mindre brugsmodel til baggrundsopgaver og reserver større begrundelsesmodeller til planlægning, fejlfinding eller komplekse refaktorer. - Tjek Model Gate Request History, når du undersøger uventede omkostninger, latens, rate-limit eller udbyderfejl.

Hvad BYOK gør og ikke erstatter

En Model Gate BYOK-model kan drive VS Code-chat, agentarbejdsgange, værktøjer og hjælpeopgaver, når modellen understøtter de nødvendige funktioner.

Det gør den ikke automatically replace every GitHub Copilot feature. Afhængigt af den aktuelle VS Code/GitHub-udgivelse kan funktioner såsom standard inline-kodefuldførelser, semantisk søgning, indlejringer eller andre GitHub-hostede tjenester stadig kræve GitHub-godkendelse, en Copilot-plan eller GitHub-infrastruktur.

Brug derfor Model Gate BYOK, når dit mål er at kontrollere chat-/agentmodelstien og dens fakturering, ikke som en antagelse om, at al GitHub Copilot netværkstrafik dirigeres gennem Model Gate.

Bekræft Model Gate før du tester Copilot

Svar

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Chatafslutninger

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Hvis disse anmodninger mislykkes, skal du rette API-nøgle/model/Model Gate-politikken, før du fejlfinder Copilot.

Fejlfinding

ProblemOpløsning
Modellen vises ikke i agenttilstandBekræft, at modellen er konfigureret med værktøjskald, og at den faktiske Model Gate-model understøtter funktions-/værktøjskald. Genstart VS-kode efter ændring af udbyderkonfigurationen.
401 invalid_api_keyIndtast eller drej den dedikerede Model Gate-nøgle igen. Bekræft Copilot sender Authorization: Bearer ....
404 eller forkert slutpunktBrug det eksplicitte til svar https://api.model-gate.com/v1/responses; til brug af chatafslutninger /v1/chat/completions.
Modellen er ikke fundetForespørgsel /v1/models og bruge et aktiveret kanonisk id eller alias.
Agent kan ikke bruge værktøjerVælg en model med verificeret værktøj/funktionskald. Copilot CLI kræver også streaming.
Billedvedhæftning ignoreres/afvisesBrug en model med verificeret billedinput/visionskapacitet og konfigurer vision: true kun for den model.
Hjælpefunktioner virker ikke med BYOK-kun opsætningKonfigurer chat.utilityModel og chat.utilitySmallModel til tilgængelige BYOK-modeller.
Inline-fuldførelser bruger stadig GitHub eller kræver loginForventet: BYOK styrer primært chat/agent/hjælpemodeltrafik, ikke alle Copilot-funktioner.
Forespørgsler er uventet dyreBrug en mindre model til brugsarbejde, lavere ræsonnement, hvor det er relevant, og konfigurer Model Gate-forbrug/RPM/samtidig grænser.

Aktuelle upstream-referencer

GitHub og VS Code kan ændre BYOK-konfiguration mellem udgivelser. For aktuel opstrømsadfærd, tjek:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models