GitHub Copilot skozi Model Gate

GitHub Copilot in podpora za Visual Studio Code Prinesite svoj ključ (BYOK) modeli. Model Gate je mogoče uporabiti kot končno točko po meri, združljivo z OpenAI, za klepet Copilot in poteke dela agentov.

Za kodo VS je priporočena nastavitev Končna točka po meri ponudnik z Responses API. Dokončanje klepeta uporabite le, kadar izbrani model ali potek dela posebej zahteva to družino API-jev.

Zahtevane vrednosti

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Ustvarite namenski ključ API v Nadzorna plošča modela Gate. Za integracijo skupine ali delovne postaje raje uporabite ločen ključ namesto ponovne uporabe nepovezanega produkcijskega ključa, tako da je omejitve, zgodovino zahtev, rotacijo in preklic enostavno nadzorovati.

Preden konfigurirate Copilot, navedite trenutno omogočene modele:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Uporabite omogočen ID kanoničnega modela ali vzdevek, ki ga upravlja skrbnik, ki ga vrne ta končna točka.

Koda VS: priporočena nastavitev končne točke po meri

Trenutne različice kode VS razkrivajo modele BYOK v urejevalniku jezikovnih modelov.

1. Odprite ukazno paleto. 2. Teči Klepet: Upravljanje jezikovnih modelov. 3. Izberite Dodajanje modelov. 4. Izberite Končna točka po meri. 5. Uporabite ime skupine, npr Model Gate. 6. Vnesite ključ API-ja Model Gate, ko VS Code zahteva poverilnico ponudnika. 7. Izberite Odzivi kot vrsto API-ja, ko izbrani model podpira API za odzive. 8. Konfigurirajte model z eksplicitno končno točko Model Gate in shranite ustvarjeno chatLanguageModels.json. 9. V izbirniku modela Klepet izberite model Vrata modela.

Ne uporabljajte zastarelega github.copilot.chat.customOAIModels nastavitev za novo konfiguracijo. Trenutni ponudnik končne točke po meri podpira odzive, zaključke klepeta in končne točke v slogu sporočil in je prednostna konfiguracijska pot kode VS.

Priporočena konfiguracija odgovorov

Ustvarjeno chatLanguageModels.json lahko uporabi takšno konfiguracijo:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Zamenjaj gpt-5.4 z omogočenim modelom ali vzdevkom Model Gate.

Koda VS običajno pošlje ključ API kot:

Authorization: Bearer mg_live_...

ki je pravilen obrazec za preverjanje pristnosti za API, združljiv z Model Gate OpenAI.

Nadomestni način dokončanja klepeta

Če izbrani potek dela zahteva zaključke klepeta, konfigurirajte model kot:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Dajte prednost eksplicitnemu polnemu URL-ju končne točke. S tem se izognete dvoumnosti, če koda VS spremeni vedenje sklepanja o poti URL-ja.

Priporočila glede zmogljivosti modela

Delovni tokovi agenta Copilot zahtevajo model, ki lahko uporablja orodja. Za zanesljivo uporabo posrednika prek Model Gate:

- izberite model s preverjenim klic orodja/funkcije podpora; - izberite model z pretakanje podpora; - za slikovne priloge uporabite model s preverjenim vnos vizije/slike zmogljivost in nastavitev "vision": true za ta model; - uporaba velikega kontekstnega modela za delo agenta na ravni repozitorija; GitHub trenutno priporoča kontekstno okno z vsaj 128k žetonom za modele po meri Copilot CLI; - ne oglašujte toolCalling, vision, sklepanje, kontekst ali meje izhoda nad dejansko zmogljivostjo izbranega modela vrat modela; - preizkusite natančen model na igrišču Model Gate, preden ga omogočite veliki ekipi.

Če nastavite ročno contextWindow, maxInputTokens, oz maxOutputTokens v kodi VS uporabite omejitve izbranega modela iz overjenega /models strani ali iz GET /v1/models; ne ugibajte jih. Model Gate preslika polja na naslednji način:

Nastavitev kode VS	Model Gate polje
contextWindow	context_window (enaka vrednost kot context_length)
maxInputTokens	max_input_tokens
maxOutputTokens	max_output_tokens

Potrjeno /models stran prikazuje te kot Kontekst, Največji vnos, in Največja moč ko je ustrezna vrednost znana. Če želite neposredno pregledati objekt API:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Vrednost 0 pomeni, da Model Gate nima konfigurirane vrednosti za to mejo. V tem primeru pustite ustrezno ročno nastavitev kode VS nenastavljeno, namesto da bi jo vnesli 0 ali izumljanje meje.

Uporabni modeli v kodi VS

VS Code uporablja tudi manjše modele ozadja za opravila, kot so naslovi, povzetki, sporočila o potrditvi, predlogi za preimenovanje in zaznavanje namena.

Če uporabljate Model Gate BYOK brez modela Copilot, ki ga gosti GitHub, konfigurirajte:

chat.utilityModel
chat.utilitySmallModel

Izberite hiter in poceni model vrat za chat.utilitySmallModel. Običajno ni nobene koristi od plačila za največji model sklepanja za generiranje sporočil o potrditvi ali drugo lahkotno pomožno delo.

The chat.byokUtilityModelDefault nastavitev lahko nadzoruje tudi, ali delo pomožnega programa sledi izbranemu modelu glavnega agenta BYOK, uporablja pomožne modele GitHub Copilot ali nima privzete vrednosti.

Kopilot CLI

GitHub Copilot CLI podpira ponudnike po meri, združljive z OpenAI, prek spremenljivk okolja.

Linux ali macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

kopilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

kopilot ```

Za Copilot CLI mora izbrani model podpirati klicanje orodja in pretakanje. Uporabite omogočen model ali vzdevek Model Gate in ga preizkusite, preden nastavite trajno konfiguracijo.

Ključa API ne postavljajte v zgodovino lupine, datoteko repozitorija ali committed .env. Uporabite svojo shrambo poverilnic OS, zaščiteno okolje lupine ali orodje za upravljanje skrivnosti organizacije, kjer je to mogoče.

Copilot Business and Enterprise

GitHub podpira tudi modele po meri organizacije/podjetja prek BYOK. GitHub trenutno navaja sezname Ponudniki, združljivi z OpenAI kot podprto kategorijo ponudnika modela po meri. To zmogljivost na ravni organizacije upravlja pravilnik GitHub in je lahko v predogledu, odvisno od površine Copilot.

Za upravljano organizacijo:

1. Omogočite GitHub modeli po meri / BYOK politika, potrebna za vaš načrt Copilot. 2. Dodajte ponudnika/model po meri, združljivega z OpenAI, v nastavitvah modela Copilot organizacije ali podjetja. 3. Uporabite namenski ključ API-ja Model Gate z minimalnimi potrebnimi dovoljenji in omejitvami Model Gate. 4. Uporabite končno točko Model Gate in ID modela, do katerega lahko dostopa vaš račun. 5. Potrdite model v potekih dela Copilot Chat/agenta, preden ga na splošno izpostavite v izbirniku modela organizacije.

GitHub lahko spremeni uporabniški vmesnik po meri organizacije, medtem ko se funkcija razvija. Sledite trenutnemu skrbniškemu uporabniškemu vmesniku GitHub za natančne oznake polj, namesto da se zanašate na posnetke zaslona iz starejše izdaje.

Priporočila glede varnosti in stroškov

- Ustvarite namenski ključ Model Gate za Copilot namesto skupne rabe ključa za splošne namene. - Uporabite omejitev RPM, omejitev sočasnosti, omejitev porabe ali pravilnik poslovne skupine, ki je primeren za promet razvijalca-agenta. - Takoj obrnite ključ, če je prilepljen v nadzor vira, klepet, dnevnike ali težavo. - Nikoli se ne zaveži mg_live_... v chatLanguageModels.json; naj koda VS shrani poverilnico ali se sklicuje na vnos/skrivnost. - Omogočite odobritve destruktivnih orodij, razen če je vaše razvojno okolje namerno v peskovniku. - Agentski način lahko ustvari veliko obratov modela/orodja iz enega uporabniškega navodila. Nastavite omejitve porabe Model Gate, preden omogočite drage modele sklepanja za velika skladišča. - Uporabite manjši uporabni model za opravila v ozadju in rezervirajte večje obrazložitvene modele za načrtovanje, odpravljanje napak ali zapletene refaktorje. - Preverite zgodovino zahtev za vrata modela, ko raziskujete nepričakovane stroške, zakasnitev, omejitev hitrosti ali napake ponudnika.

Kaj BYOK naredi in česa ne nadomesti

Model Gate BYOK lahko poganja klepet VS Code, poteke dela agentov, orodja in opravila pripomočkov, če model podpira zahtevane zmogljivosti.

Res je ne samodejno zamenja vsako GitHub Copilot funkcijo. Odvisno od trenutne izdaje kode VS/GitHub lahko funkcije, kot so standardna dokončanja kode v vrstici, semantično iskanje, vdelave ali druge storitve, ki jih gosti GitHub, še vedno zahtevajo preverjanje pristnosti GitHub, načrt Copilot ali infrastrukturo GitHub.

Zato uporabite Model Gate BYOK, ko je vaš cilj nadzor nad pot modela klepeta/agenta in njegovo zaračunavanje, ne kot predpostavka, da je ves GitHub Copilot omrežni promet usmerjen skozi Model Gate.

Preverite Model Gate pred testiranjem Copilot

Odzivi

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Zaključki klepeta

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Če te zahteve niso uspešne, popravite pravilnik o ključu/modelu API/modelnih vratih pred odpravljanjem napak v Copilot-u.

Odpravljanje težav

Težava	Resolucija
Model se ne prikaže v agentskem načinu	Preverite, ali je model konfiguriran s klicanjem orodij in ali dejanski model Model Gate podpira klice funkcij/orodij. Po spremembi konfiguracije ponudnika znova zaženite kodo VS.
401 invalid_api_key	Ponovno vnesite ali obrnite namenski ključ Model Gate. Potrdite pošiljanje Copilota Authorization: Bearer ....
404 ali napačna končna točka	Za odgovore uporabite eksplicitno https://api.model-gate.com/v1/responses; za uporabo zaključkov klepeta /v1/chat/completions.
Model ni najden	Poizvedba /v1/models in uporabite omogočen kanonični ID ali vzdevek.
Agent ne more uporabljati orodij	Izberite model s preverjenim priklicem orodja/funkcije. Copilot CLI zahteva tudi pretakanje.
Priloga slike je prezrta/zavrnjena	Uporabite model s preverjeno zmožnostjo vnosa slike/vida in konfigurirajte vision: true samo za ta model.
Funkcije pripomočka ne delujejo z nastavitvijo samo BYOK	Konfiguriraj chat.utilityModel in chat.utilitySmallModel na razpoložljive modele BYOK.
Inline dokončanja še vedno uporabljajo GitHub ali zahtevajo prijavo	Pričakovano: BYOK nadzira predvsem promet klepeta/agenta/pomožnega modela, ne vsake funkcije Copilot.
Zahteve so nepričakovano drage	Uporabite manjši model za pomožna dela, nižje sklepanje, kjer je primerno, in konfigurirajte omejitve porabe/RPM/sočasnosti modela Gate.

Trenutne zgornje reference

GitHub in VS Code lahko spremenita konfiguracijo BYOK med izdajami. Za trenutno vedenje navzgor preverite:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models