B2BB2B LLM

GitHub Copilot

Pripojte GitHub Copilot Chat, agentov VS Code a Copilot CLI k Model Gate pomocou BYOK a vlastného koncového bodu kompatibilného s OpenAI.

GitHub Copilot cez Model Gate

GitHub Copilot a podpora kódu Visual Studio Prineste si vlastný kľúč (BYOK) modelov. Model Gate možno použiť ako vlastný koncový bod kompatibilný s OpenAI pre četovanie Copilot a pracovné postupy agentov.

Pre VS Code je odporúčané nastavenie Vlastný koncový bod poskytovateľ s Responses API. Dokončenia chatu používajte iba vtedy, keď vybraný model alebo pracovný postup špecificky vyžaduje túto rodinu rozhraní API.

Požadované hodnoty

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Vytvorte vyhradený kľúč API v Ovládací panel modelu Gate. Pri integrácii tímu alebo pracovnej stanice uprednostňujte samostatný kľúč namiesto opätovného použitia nesúvisiaceho produkčného kľúča, aby bolo možné jednoducho kontrolovať limity, históriu požiadaviek, rotáciu a zrušenie.

Pred konfiguráciou Copilota vypíšte aktuálne povolené modely:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Použite povolené kanonické ID modelu alebo alias spravovaný správcom, ktorý vráti tento koncový bod.

VS Code: odporúčané nastavenie vlastného koncového bodu

Aktuálne verzie kódu VS odhaľujú modely BYOK v editore jazykových modelov.

1. Otvorte paletu príkazov. 2. Behajte Chat: Správa jazykových modelov. 3. Vyberte Pridať modely. 4. Vyberte Vlastný koncový bod. 5. Použite názov skupiny ako napr Model Gate. 6. Keď kód VS požaduje poverenie poskytovateľa, zadajte kľúč API brány modelu. 7. Vyberte Odpovede ako typ rozhrania API, keď vybraný model podporuje rozhranie API odpovedí. 8. Nakonfigurujte model s explicitným koncovým bodom Model Gate a vygenerovaný uložte chatLanguageModels.json. 9. Vyberte model brány modelu z výberu modelu chatu.

Nepoužívajte zastarané github.copilot.chat.customOAIModels nastavenie pre novú konfiguráciu. Aktuálny poskytovateľ vlastného koncového bodu podporuje odpovede, dokončenia chatu a koncové body v štýle správ a je preferovanou cestou konfigurácie kódu VS.

Konfigurácia odporúčaných odpovedí

Vygenerované chatLanguageModels.json môžete použiť takúto konfiguráciu:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Vymeňte gpt-5.4 s povoleným modelom brány modelu alebo aliasom.

VS Code normálne odosiela kľúč API ako:

Authorization: Bearer mg_live_...

čo je správny overovací formulár pre API kompatibilné s Model Gate OpenAI.

Záložná možnosť dokončenia četu

Ak vybraný pracovný postup vyžaduje Dokončenia rozhovoru, nakonfigurujte model ako:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Uprednostňujte explicitnú úplnú adresu URL koncového bodu. Tým sa zabráni nejednoznačnosti, ak kód VS zmení správanie odvodzovania cesty URL.

Odporúčania týkajúce sa schopností modelu

Pracovné postupy agenta Copilot vyžadujú model, ktorý môže používať nástroje. Pre spoľahlivé použitie agenta cez Model Gate:

- vyberte si model s overeným volanie nástroja/funkcie podpora; - vyberte si model s streamovanie podpora; - pre obrazové prílohy použite model s over vízia/vstup obrazu schopnosti a nastavenia "vision": true pre tento model; - používať rozsiahly kontextový model pre prácu agentov na úrovni úložiska; GitHub v súčasnosti odporúča kontextové okno so 128 000 tokenmi pre vlastné modely Copilot CLI; - nerobiť reklamu toolCalling, vision, odôvodnenie, kontext alebo výstupné limity nad aktuálnu schopnosť vybraného modelu brány modelu; - otestujte presný model na ihrisku Model Gate predtým, ako ho umožníte veľkému tímu.

Ak nastavíte manuálne contextWindow, maxInputTokens, alebo maxOutputTokens v kóde VS použite limity vybraného modelu z overených /models stránku alebo z GET /v1/models; nehádajte ich. Model Gate mapuje polia takto:

Nastavenie kódu VSPole modelovej brány
contextWindowcontext_window (rovnaká hodnota ako context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Overené /models stránka zobrazuje tieto ako Kontext, Max vstupa Maximálny výkon keď je známa zodpovedajúca hodnota. Ak chcete priamo skontrolovať objekt API:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Hodnota 0 znamená, že Model Gate nemá pre tento limit nakonfigurovanú hodnotu. V takom prípade ponechajte príslušné manuálne nastavenie kódu VS nenastavené a nezadávajte ho 0 alebo vymyslenie limitu.

Úžitkové vzory vo VS Code

VS Code tiež používa menšie modely na pozadí pre úlohy, ako sú názvy, súhrny, správy odovzdania, návrhy na premenovanie a detekcia zámerov.

Ak používate Model Gate BYOK bez modelu Copilot hosteného na GitHub, nakonfigurujte:

chat.utilityModel
chat.utilitySmallModel

Vyberte si rýchly a lacný model Gate pre chat.utilitySmallModel. Platenie za najväčší model uvažovania za generovanie správ odovzdania alebo inú nenáročnú pomocnú prácu zvyčajne neprináša žiadnu výhodu.

The chat.byokUtilityModelDefault nastavenie môže tiež ovládať, či sa práca s nástrojmi riadi vybratým modelom hlavného zástupcu BYOK, používa úžitkové modely GitHub Copilot alebo nemá žiadne predvolené.

Druhý pilot CLI

GitHub Copilot CLI podporuje vlastných poskytovateľov kompatibilných s OpenAI prostredníctvom premenných prostredia.

Linux alebo macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

druhý pilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

druhý pilot ```

Pre Copilot CLI musí vybraný model podporovať volanie nástroja a streamovanie. Použite povolený model brány modelu alebo alias a otestujte ho pred tým, ako nastavíte konfiguráciu natrvalo.

Neumiestňujte kľúč API do histórie shellu, súboru úložiska alebo potvrdenia .env. Ak je to možné, použite úložisko poverení operačného systému, chránené prostredie shell alebo nástroje na správu tajných informácií organizácie.

Copilot Business and Enterprise

GitHub tiež podporuje vlastné modely organizácie/podniku prostredníctvom BYOK. GitHub momentálne uvádza zoznam Poskytovatelia kompatibilný s OpenAI ako podporovaná kategória poskytovateľa vlastného modelu. Táto funkcia na úrovni organizácie je spravovaná zásadou GitHub a môže byť v ukážke v závislosti od povrchu Copilota.

Pre riadenú organizáciu:

1. Povoľte GitHub vlastné modely / BYOK pravidlá potrebné pre váš plán Copilot. 2. Pridajte vlastného poskytovateľa/model kompatibilného s OpenAI v nastaveniach modelu organizácie alebo podnikového modelu Copilot. 3. Použite vyhradený kľúč rozhrania Model Gate API s minimálnymi potrebnými povoleniami a limitmi Model Gate. 4. Použite koncový bod Model Gate a ID modelu, ku ktorému má váš účet prístup. 5. Overte model v pracovných tokoch Copilot Chat/agent predtým, než ho široko odkryjete vo výbere modelu organizácie.

GitHub môže zmeniť používateľské rozhranie vlastného modelu organizácie, zatiaľ čo sa funkcia vyvíja. Presné označenia polí nájdete podľa aktuálneho administratívneho používateľského rozhrania GitHub, a nie spoliehať sa na snímky obrazovky zo staršieho vydania.

Odporúčania týkajúce sa bezpečnosti a nákladov

- Vytvorte vyhradený kľúč Model Gate pre Copilota namiesto zdieľania univerzálneho kľúča. - Použite limit RPM, súbežný limit, limit výdavkov alebo politiku obchodnej skupiny vhodnú pre návštevnosť vývojára-agenta. - Okamžite otočte kľúč, ak je vložený do ovládacieho prvku zdroja, chatu, denníkov alebo problému. - Nikdy sa nezaväzuj mg_live_... v chatLanguageModels.json; nechajte kód VS uložiť poverenie alebo odkaz na vstup/tajomstvo. - Schvaľovanie deštruktívnych nástrojov nechajte povolené, pokiaľ vaše vývojové prostredie nie je zámerne izolované. - Režim agenta môže generovať mnoho otočení modelu/nástroja z jedného pokynu používateľa. Pred povolením drahých modelov uvažovania pre veľké úložiská nastavte limity výdavkov Model Gate. - Použite menší úžitkový model pre úlohy na pozadí a väčšie modely uvažovania si vyhraďte na plánovanie, ladenie alebo komplexné refaktory. - Skontrolujte históriu požiadaviek modelovej brány pri vyšetrovaní neočakávaných nákladov, latencie, limitu rýchlosti alebo chýb poskytovateľa.

Čo BYOK nahrádza a čo nenahrádza

Model Model Gate BYOK môže poháňať chat VS Code, pracovné postupy agentov, nástroje a pomocné úlohy, keď model podporuje požadované funkcie.

áno nie automaticky nahradiť každú funkciu GitHub Copilot. V závislosti od aktuálneho vydania VS Code/GitHub môžu funkcie, ako je štandardné dopĺňanie vloženého kódu, sémantické vyhľadávanie, vkladanie alebo iné služby hostené GitHub, stále vyžadovať overenie GitHub, plán Copilot alebo infraštruktúru GitHub.

Preto použite Model Gate BYOK, keď je vaším cieľom ovládať cesta modelu chat/agent a jej fakturácia, nie za predpokladu, že všetka sieťová prevádzka GitHub Copilot smeruje cez Model Gate.

Pred testovaním Copilota overte Model Gate

Odpovede

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Dokončenia četu

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Ak tieto požiadavky zlyhajú, pred ladením Copilota opravte zásadu API kľúč/model/Model Gate.

Riešenie problémov

ProblémRozlíšenie
Model sa nezobrazuje v režime agentaOverte, či je model nakonfigurovaný s volaním nástrojov a či skutočný model brány modelu podporuje volania funkcií/nástrojov. Po zmene konfigurácie poskytovateľa reštartujte kód VS.
401 invalid_api_keyZnova zadajte alebo otočte vyhradený kľúč brány modelu. Potvrďte odoslanie Copilotom Authorization: Bearer ....
404 alebo nesprávny koncový bodPre odpovede použite explicitné https://api.model-gate.com/v1/responses; na použitie dokončenia rozhovoru /v1/chat/completions.
Model sa nenašielDopyt /v1/models a použite povolené kanonické ID alebo alias.
Agent nemôže používať nástrojeVyberte model s overeným volaním nástroja/funkcie. Copilot CLI tiež vyžaduje streamovanie.
Obrazová príloha je ignorovaná/odmietnutáPoužite model s overenou schopnosťou vstupu obrazu/videnia a nakonfigurujte ho vision: true len pre ten model.
Užitočné funkcie nefungujú s nastavením iba BYOKKonfigurovať chat.utilityModel a chat.utilitySmallModel na dostupné modely BYOK.
Vložené dokončenia stále používajú GitHub alebo vyžadujú prihlásenieOčakávané: BYOK primárne riadi návštevnosť modelu chatu/agenta/utility, nie každú funkciu Copilota.
Žiadosti sú nečakane drahéNa pomocné práce použite menší model, v prípade potreby nižšie zdôvodnenie a nakonfigurujte limity výdavkov/RPM/súbežnosti Model Gate.

Aktuálne upstream referencie

GitHub a VS Code môžu zmeniť konfiguráciu BYOK medzi vydaniami. Pre aktuálne upstream správanie skontrolujte:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models