B2BB2B LLM

GitHub Copilot

Koble GitHub Copilot Chat, VS Code-agenter og Copilot CLI til Model Gate med BYOK og et tilpasset OpenAI-kompatibelt endepunkt.

GitHub Copilot gjennom Model Gate

GitHub Copilot og støtte for Visual Studio Code Ta med din egen nøkkel (BYOK) modeller. Model Gate kan brukes som et OpenAI-kompatibelt tilpasset endepunkt for Copilot-chat- og agentarbeidsflyter.

For VS-kode er det anbefalte oppsettet Egendefinert endepunkt leverandør med Responses API. Bruk chatfullføringer bare når en valgt modell eller arbeidsflyt spesifikt krever den API-familien.

Nødvendige verdier

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Opprett en dedikert API-nøkkel i Modell Gate kontrollpanel. For en team- eller arbeidsstasjonsintegrasjon, foretrekk en separat nøkkel i stedet for å gjenbruke en ikke-relatert produksjonsnøkkel, slik at grenser, forespørselshistorikk, rotasjon og tilbakekall forblir enkle å revidere.

Liste over gjeldende modeller før du konfigurerer Copilot:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Bruk en aktivert kanonisk modell-ID eller administratoradministrert alias returnert av dette endepunktet.

VS-kode: anbefalt tilpasset endepunktoppsett

Gjeldende VS-kodeversjoner viser BYOK-modeller i redigeringsprogrammet for språkmodeller.

1. Åpne kommandopaletten. 2. Løp Chat: Administrer språkmodeller. 3. Velg Legg til modeller. 4. Velg Egendefinert endepunkt. 5. Bruk et gruppenavn som f.eks Model Gate. 6. Angi Model Gate API-nøkkelen når VS Code ber om leverandørens legitimasjon. 7. Velg Svar som API-type når den valgte modellen støtter Responses API. 8. Konfigurer modellen med det eksplisitte Model Gate-endepunktet og lagre det genererte chatLanguageModels.json. 9. Velg Model Gate-modellen fra Chat-modellvelgeren.

Ikke bruk den utdaterte github.copilot.chat.customOAIModels innstilling for en ny konfigurasjon. Den nåværende leverandøren av tilpasset endepunkt støtter svar, chatfullføringer og endepunkter i meldingsstil og er den foretrukne VS-kodekonfigurasjonsbanen.

Anbefalt svarkonfigurasjon

Den genererte chatLanguageModels.json kan bruke en konfigurasjon som dette:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Bytt ut gpt-5.4 med en aktivert Model Gate-modell eller alias.

VS-kode sender normalt API-nøkkelen som:

Authorization: Bearer mg_live_...

som er det riktige autentiseringsskjemaet for Model Gate OpenAI-kompatible API.

Tilbakemelding for chatfullføringer

Hvis den valgte arbeidsflyten krever chatfullføringer, konfigurer modellen som:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Foretrekk en eksplisitt fullstendig endepunkt-URL. Dette unngår tvetydighet hvis VS-kode endrer URL-bane-slutningsadferd.

Anbefalinger for modellegenskaper

Copilot-agentarbeidsflyter krever en modell som kan bruke verktøy. For pålitelig agentbruk gjennom Model Gate:

- velg en modell med verifisert verktøy/funksjonsanrop støtte; - velg en modell med streaming støtte; - for bildevedlegg, bruk en modell med verifisert inndata for syn/bilde kapasitet og sett "vision": true for den modellen; - bruke en stor kontekstmodell for agentarbeid i depotskala; GitHub anbefaler for øyeblikket minst et 128k-token kontekstvindu for Copilot CLI tilpassede modeller; - ikke annonser toolCalling, vision, resonnement, kontekst eller utdatagrenser over den faktiske muligheten til den valgte Model Gate-modellen; - test den eksakte modellen i Model Gate Playground før du aktiverer den for et stort team.

Hvis du stiller inn manuelt contextWindow, maxInputTokens, eller maxOutputTokens i VS-kode, bruk den valgte modellens grenser fra den autentiserte /models side eller fra GET /v1/models; ikke gjett dem. Model Gate kartlegger feltene som følger:

VS-kodeinnstillingModel Gate-felt
contextWindowcontext_window (samme verdi som context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Den autentiserte /models side viser disse som Kontekst, Maks inngang, og Maks utgang når den tilsvarende verdien er kjent. Slik inspiserer du API-objektet direkte:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

En verdi på 0 betyr at Model Gate ikke har en konfigurert verdi for den grensen. I så fall lar du den tilsvarende manuelle VS-kodeinnstillingen være uaktivert i stedet for å gå inn 0 eller finne opp en grense.

Bruksmodeller i VS-kode

VS Code bruker også mindre bakgrunnsmodeller for oppgaver som titler, sammendrag, commit-meldinger, endre navn på forslag og intensjonsdeteksjon.

Hvis du bruker Model Gate BYOK uten en GitHub-vertsbasert Copilot-modell, konfigurer:

chat.utilityModel
chat.utilitySmallModel

Velg en rask og rimelig Model Gate-modell for chat.utilitySmallModel. Det er vanligvis ingen fordel å betale for den største resonneringsmodellen for generering av forpliktelsesmeldinger eller annet lettvektsarbeid.

De chat.byokUtilityModelDefault innstillingen kan også kontrollere om verktøyarbeid følger den valgte BYOK-hovedagentmodellen, bruker GitHub Copilot verktøymodeller eller ikke har noen standard.

Copilot CLI

GitHub Copilot CLI støtter OpenAI-kompatible tilpassede leverandører gjennom miljøvariabler.

Linux eller macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

copilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

copilot ```

For Copilot CLI må den valgte modellen støtte verktøyoppringing og strømming. Bruk en aktivert Model Gate-modell eller alias og test den før du gjør konfigurasjonen permanent.

Ikke plasser API-nøkkelen i skallhistorikken, en depotfil eller en committed .env. Bruk din OS-legitimasjonslager, beskyttet skallmiljø eller verktøy for hemmelig administrasjon av organisasjoner der det er mulig.

Copilot Business og Enterprise

GitHub støtter også tilpassede organisasjons-/bedriftsmodeller gjennom BYOK. GitHub lister for øyeblikket OpenAI-kompatible leverandører som en støttet tilpasset modellleverandørkategori. Denne funksjonen på organisasjonsnivå administreres av GitHub-policyen og kan være i forhåndsvisning avhengig av Copilot-overflaten.

For en administrert organisasjon:

1. Aktiver GitHub tilpassede modeller / BYOK politikk som kreves for Copilot-planen din. 2. Legg til en tilpasset OpenAI-kompatibel leverandør/modell i organisasjonens eller bedriftens Copilot-modellinnstillinger. 3. Bruk en dedikert Model Gate API-nøkkel med minimum nødvendige Model Gate-tillatelser og grenser. 4. Bruk Model Gate-endepunktet og en modell-ID som kontoen din har tilgang til. 5. Valider modellen i Copilot Chat/agent arbeidsflyter før du eksponerer den bredt i organisasjonsmodellvelgeren.

GitHub kan endre brukergrensesnittet med tilpasset organisasjonsmodell mens funksjonen utvikler seg. Følg gjeldende GitHub administrative brukergrensesnitt for de eksakte feltetikettene i stedet for å stole på skjermbilder fra en eldre utgivelse.

Sikkerhet og kostnadsanbefalinger

- Lag en dedikert Model Gate-nøkkel for Copilot i stedet for å dele en generell nøkkel. – Bruk en RPM-grense, samtidighetsgrense, forbruksgrense eller forretningsgruppepolicy som passer for utvikler-agenttrafikk. - Roter nøkkelen umiddelbart hvis den limes inn i kildekontroll, chat, logger eller et problem. - Forplikt deg aldri mg_live_... i chatLanguageModels.json; la VS-kode lagre legitimasjonen eller referere til en inndata/hemmelighet. - Hold destruktive verktøygodkjenninger aktivert med mindre utviklingsmiljøet ditt er satt i sandkasse med vilje. - Agentmodus kan generere mange modell-/verktøysvinger fra én brukerinstruksjon. Angi Model Gate-forbruksgrenser før du aktiverer dyre resonneringsmodeller for store depoter. - Bruk en mindre bruksmodell for bakgrunnsoppgaver og reserver større resonneringsmodeller for planlegging, feilsøking eller komplekse refaktorer. - Sjekk Model Gate Request History når du undersøker uventede kostnader, forsinkelser, hastighetsgrenser eller leverandørfeil.

Hva BYOK gjør og ikke erstatter

En Model Gate BYOK-modell kan drive VS Code-chat, agentarbeidsflyter, verktøy og verktøyoppgaver når modellen støtter de nødvendige egenskapene.

Det gjør det ikke erstatte hver GitHub Copilot funksjon automatisk. Avhengig av gjeldende VS Code/GitHub-utgivelse, kan funksjoner som standard inline-kodefullføringer, semantisk søk, innebygginger eller andre GitHub-vertstjenester fortsatt kreve GitHub-autentisering, en Copilot-plan eller GitHub-infrastruktur.

Bruk derfor Model Gate BYOK når målet ditt er å kontrollere chat-/agentmodellbane og dens fakturering, ikke som en antagelse om at all GitHub Copilot nettverkstrafikk rutes gjennom Model Gate.

Bekreft Model Gate før du tester Copilot

Svar

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Chatfullføringer

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Hvis disse forespørslene mislykkes, må du fikse API-nøkkelen/modellen/Model Gate-policyen før du feilsøker Copilot.

Feilsøking

ProblemOppløsning
Modellen vises ikke i agentmodusKontroller at modellen er konfigurert med verktøykalling og at den faktiske Model Gate-modellen støtter funksjon/verktøykall. Start VS-kode på nytt etter å ha endret leverandørkonfigurasjonen.
401 invalid_api_keyGå inn på nytt eller roter den dedikerte Model Gate-nøkkelen. Bekreft at Copilot sender Authorization: Bearer ....
404 eller feil endepunktFor svar bruk den eksplisitte https://api.model-gate.com/v1/responses; for bruk av chatfullføringer /v1/chat/completions.
Finner ikke modellenSpørsmål /v1/models og bruk en aktivert kanonisk ID eller alias.
Agent kan ikke bruke verktøyVelg en modell med verifisert verktøy/funksjonskall. Copilot CLI krever også streaming.
Bildevedlegg ignoreres/avvisesBruk en modell med bekreftet bildeinngang/synsevne og konfigurer vision: true kun for den modellen.
Verktøyfunksjoner fungerer ikke med kun BYOK-oppsettKonfigurer chat.utilityModel og chat.utilitySmallModel til tilgjengelige BYOK-modeller.
Innebygde fullføringer bruker fortsatt GitHub eller krever påloggingForventet: BYOK kontrollerer primært chat/agent/verktøymodelltrafikk, ikke alle Copilot-funksjoner.
Forespørsler er uventet dyreBruk en mindre modell for nyttearbeid, lavere resonnement der det er hensiktsmessig, og konfigurer Model Gate-forbruk/RPM/samtidighetsgrenser.

Aktuelle oppstrømsreferanser

GitHub og VS Code kan endre BYOK-konfigurasjon mellom utgivelser. For gjeldende oppstrømsatferd, sjekk:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models