B2BB2B LLM

GitHub Copilot

Conectați GitHub Copilot Chat, agenți VS Code și Copilot CLI la Model Gate cu BYOK și un punct final personalizat compatibil cu OpenAI.

GitHub Copilot prin Model Gate

GitHub Copilot și suport pentru codul Visual Studio Aduceți-vă propria cheie (BYOK) modele. Model Gate poate fi folosit ca punct final personalizat compatibil cu OpenAI pentru fluxurile de lucru pentru chat și agenți Copilot.

Pentru VS Code, configurația recomandată este Punct final personalizat furnizorul cu API de răspunsuri. Utilizați Terminările de chat numai atunci când un model sau un flux de lucru selectat necesită în mod specific acea familie de API.

Valori obligatorii

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Creați o cheie API dedicată în Panou de control Model Gate. Pentru integrarea unei echipe sau a unei stații de lucru, preferați o cheie separată în loc să reutilizați o cheie de producție care nu are legătură, astfel încât limitele, istoricul solicitărilor, rotația și revocarea să rămână ușor de auditat.

Listați modelele activate în prezent înainte de a configura Copilot:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Utilizați un ID de model canonic activat sau un alias gestionat de administrator returnat de acest punct final.

Cod VS: setare recomandată pentru punctul final personalizat

Versiunile curente VS Code expun modelele BYOK în editorul de modele de limbaj.

1. Deschideți paleta de comenzi. 2. Aleargă Chat: Gestionați modelele lingvistice. 3. Selectați Adăugați modele. 4. Selectați Punct final personalizat. 5. Utilizați un nume de grup, cum ar fi Model Gate. 6. Introduceți cheia API Model Gate atunci când VS Code solicită acreditările furnizorului. 7. Selectați Răspunsuri ca tip API atunci când modelul selectat acceptă API-ul Responses. 8. Configurați modelul cu punctul final Model Gate explicit și salvați cel generat chatLanguageModels.json. 9. Selectați modelul Model Gate din selectorul de modele Chat.

Nu folosiți depreciat github.copilot.chat.customOAIModels setare pentru o nouă configurație. Furnizorul actual de puncte finale personalizate acceptă punctele finale în stilul răspunsurilor, completărilor de chat și mesajelor și este calea preferată de configurare VS Code.

Configurația răspunsurilor recomandate

Cel generat chatLanguageModels.json pot folosi o configurație ca aceasta:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Înlocui gpt-5.4 cu un model sau un alias Model Gate activat.

VS Code trimite în mod normal cheia API ca:

Authorization: Bearer mg_live_...

care este forma corectă de autentificare pentru API-ul compatibil Model Gate OpenAI.

Finalizări de chat alternativă

Dacă fluxul de lucru ales necesită Terminări de chat, configurați modelul ca:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Preferați o adresă URL explicită a punctului final complet. Acest lucru evită ambiguitatea dacă VS Code modifică comportamentul de inferență a căii URL.

Recomandări privind capacitatea modelului

Fluxurile de lucru ale agenților Copilot necesită un model care poate folosi instrumente. Pentru utilizarea de încredere a agenților prin Model Gate:

- alege un model cu verificat apelare instrument/funcție sprijin; - alege un model cu streaming sprijin; - pentru imagini atasate, folositi un model cu verificat intrare viziune/imagine capacitate și set "vision": true pentru acel model; - utilizați un model de context mare pentru lucrul cu agenți la scară de depozit; În prezent, GitHub recomandă o fereastră de context de cel puțin 128k token pentru modelele personalizate Copilot CLI; - nu face publicitate toolCalling, vision, raționament, context sau limite de ieșire peste capacitatea reală a modelului Model Gate selectat; - testați modelul exact în Model Gate Playground înainte de a-l activa pentru o echipă mare.

Dacă setați manual contextWindow, maxInputTokens, sau maxOutputTokens în VS Code, utilizați limitele modelului selectat din cele autentificate /models pagina sau din GET /v1/models; nu le ghici. Model Gate mapează câmpurile după cum urmează:

Setarea codului VSCâmpul Model Gate
contextWindowcontext_window (aceeași valoare ca context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Cel autentificat /models pagina le afișează ca Context, Intrare maximă, și Ieșire maximă când se cunoaşte valoarea corespunzătoare. Pentru a inspecta direct obiectul API:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

O valoare de 0 înseamnă că Model Gate nu are o valoare configurată pentru acea limită. În acest caz, lăsați setarea manuală VS Code nesetata, în loc să introduceți 0 sau inventarea unei limite.

Modele utilitare în VS Code

VS Code folosește, de asemenea, modele de fundal mai mici pentru sarcini precum titluri, rezumate, mesaje de confirmare, sugestii de redenumire și detectarea intențiilor.

Dacă utilizați Model Gate BYOK fără un model Copilot găzduit de GitHub, configurați:

chat.utilityModel
chat.utilitySmallModel

Alegeți un model Model Gate rapid și ieftin pentru chat.utilitySmallModel. De obicei, nu există niciun beneficiu în a plăti pentru cel mai mare model de raționament pentru generarea de mesaje de angajare sau alte lucrări utilitare ușoare.

The chat.byokUtilityModelDefault setarea poate controla, de asemenea, dacă munca de utilitate urmează modelul de agent principal BYOK selectat, utilizează modele de utilitate GitHub Copilot sau nu are nicio valoare implicită.

Copilot CLI

GitHub Copilot CLI acceptă furnizorii personalizați compatibili cu OpenAI prin variabile de mediu.

Linux sau macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

copilotul ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

copilotul ```

Pentru Copilot CLI, modelul selectat trebuie să accepte apelare instrumente și streaming. Utilizați un model sau un alias Model Gate activat și testați-l înainte de a face configurația permanentă.

Nu plasați cheia API în istoricul shell-ului, într-un fișier de depozit sau într-un commit .env. Utilizați depozitul de acreditări ale sistemului de operare, mediul shell protejat sau instrumentele de gestionare a secretelor organizației, acolo unde este posibil.

Copilot Business și Enterprise

De asemenea, GitHub acceptă modele personalizate de organizații/întreprinderi prin BYOK. GitHub listează în prezent Furnizori compatibili cu OpenAI ca categorie de furnizor de model personalizat acceptată. Această capacitate la nivel de organizație este gestionată de politica GitHub și poate fi în previzualizare, în funcție de suprafața Copilot.

Pentru o organizație administrată:

1. Activați GitHub modele personalizate / BYOK politica necesară pentru planul dvs. Copilot. 2. Adăugați un furnizor/model personalizat compatibil OpenAI în setările modelului Copilot ale organizației sau ale întreprinderii. 3. Utilizați o cheie API Model Gate dedicată cu permisiunile și limitele minime necesare Model Gate. 4. Utilizați punctul final Model Gate și un ID de model pe care contul dvs. îl poate accesa. 5. Validați modelul în fluxurile de lucru Copilot Chat/agent înainte de a-l expune pe scară largă în selectorul de modele de organizare.

GitHub poate schimba interfața de utilizare a modelului personalizat al organizației în timp ce funcția evoluează. Urmați interfața de utilizare administrativă GitHub actuală pentru etichetele câmpurilor exacte, în loc să vă bazați pe capturi de ecran dintr-o versiune mai veche.

Recomandări de securitate și costuri

- Creați o cheie Model Gate dedicată pentru Copilot în loc să partajați o cheie de uz general. - Aplicați o limită de RPM, o limită de concurență, o limită de cheltuieli sau o politică de grup de afaceri adecvată pentru traficul dezvoltatorului-agent. - Rotiți cheia imediat dacă este lipită în controlul sursei, chat, jurnale sau o problemă. - Să nu te angajezi niciodată mg_live_... în chatLanguageModels.json; lăsați VS Code să stocheze acreditările sau să facă referire la o intrare/secret. - Păstrați aprobările instrumentelor distructive activate, cu excepția cazului în care mediul dvs. de dezvoltare este în mod intenționat sandbox. - Modul agent poate genera multe ture de model/instrument dintr-o singură instrucțiune de utilizator. Setați limitele de cheltuieli Model Gate înainte de a activa modele costisitoare de raționament pentru depozite mari. - Utilizați un model de utilitate mai mic pentru sarcinile de fundal și rezervați modele de raționament mai mari pentru planificare, depanare sau refactorări complexe. - Verificați istoricul cererilor de model Gate atunci când investigați costuri neașteptate, latență, limita de rată sau erori ale furnizorului.

Ce face și ce nu înlocuiește BYOK

Un model Model Gate BYOK poate alimenta chatul VS Code, fluxurile de lucru ale agenților, instrumentele și sarcinile utilitare atunci când modelul acceptă capabilitățile necesare.

Da nu înlocuiți automat fiecare GitHub Copilot caracteristică. În funcție de versiunea curentă VS Code/GitHub, funcții precum completările standard de cod inline, căutarea semantică, încorporarea sau alte servicii găzduite de GitHub pot necesita în continuare autentificare GitHub, un plan Copilot sau infrastructură GitHub.

Prin urmare, utilizați Model Gate BYOK atunci când scopul dvs. este să controlați calea modelului de chat/agent și facturarea acestuia, nu ca o presupunere că tot traficul de rețea GitHub Copilot este direcționat prin Model Gate.

Verificați Model Gate înainte de a testa Copilot

Răspunsuri

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Finalizări de chat

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Dacă aceste solicitări eșuează, remediați politica cheie API/model/Model Gate înainte de a depana Copilot.

Depanare

ProblemăRezoluţie
Modelul nu apare în modul agentVerificați că modelul este configurat cu apeluri de instrumente și că modelul actual Model Gate acceptă apeluri de funcții/instrumente. Reporniți VS Code după modificarea configurației furnizorului.
401 invalid_api_keyReintroduceți sau rotiți tasta dedicată Model Gate. Confirmați trimiterile Copilot Authorization: Bearer ....
404 sau punct final greșitPentru răspunsuri folosiți explicit https://api.model-gate.com/v1/responses; pentru utilizarea finalizărilor de chat /v1/chat/completions.
Modelul nu este găsitInterogare /v1/models și utilizați un ID sau un alias canonic activat.
Agentul nu poate folosi instrumenteSelectați un model cu apelarea instrumentului/funcției verificată. Copilot CLI necesită și streaming.
Atașarea imaginii este ignorată/respinsăUtilizați un model cu capacitate verificată de introducere a imaginii/viziune și configurați vision: true doar pentru modelul respectiv.
Caracteristicile utilitare nu funcționează numai cu configurarea BYOKConfigurați chat.utilityModel şi chat.utilitySmallModel la modelele BYOK disponibile.
Terminările în linie folosesc în continuare GitHub sau necesită conectareDe așteptat: BYOK controlează în primul rând traficul de chat/agent/model de utilitate, nu toate caracteristicile Copilot.
Solicitările sunt neașteptat de costisitoareUtilizați un model mai mic pentru lucrări de utilitate, raționament mai mic acolo unde este cazul și configurați limitele de cheltuieli/RPM/concurență Model Gate.

Referințe curente în amonte

GitHub și VS Code pot schimba configurația BYOK între versiuni. Pentru comportamentul curent în amonte, verificați:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models