GitHub Copilot
Savienojiet GitHub Copilot Chat, VS Code aģentus un Copilot CLI ar Model Gate, izmantojot BYOK un pielāgotu ar OpenAI saderīgu galapunktu.
GitHub Copilot caur Model Gate
GitHub Copilot un Visual Studio Code atbalsts Paņemiet līdzi savu atslēgu (BYOK) modeļiem. Model Gate var izmantot kā ar OpenAI saderīgu pielāgotu galapunktu Copilot tērzēšanas un aģenta darbplūsmām.
VS kodam ieteicamā iestatīšana ir Pielāgots galapunkts pakalpojumu sniedzējs ar Atbilžu API. Izmantojiet tērzēšanas pabeigšanu tikai tad, ja atlasītajam modelim vai darbplūsmai īpaši nepieciešama šī API saime.
Nepieciešamās vērtības
API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1
Izveidojiet īpašu API atslēgu Modeļa vārtu vadības panelis. Grupas vai darbstacijas integrācijai dodiet priekšroku atsevišķai atslēgai, nevis atkārtoti izmantojiet nesaistītu ražošanas atslēgu, lai ierobežojumus, pieprasījumu vēsturi, rotāciju un atsaukšanu joprojām būtu viegli pārbaudīt.
Pirms Copilot konfigurēšanas uzskaitiet pašlaik iespējotos modeļus:
curl https://api.model-gate.com/v1/models \
-H "Authorization: Bearer mg_live_..."
Izmantojiet iespējotu kanoniskā modeļa ID vai administratora pārvaldītu aizstājvārdu, ko atgriež šis galapunkts.
VS kods: ieteicamā pielāgotā galapunkta iestatīšana
Pašreizējās VS koda versijas valodu modeļu redaktorā atklāj BYOK modeļus.
1. Atveriet komandu paleti. 2. Skrien Tērzēšana: pārvaldiet valodu modeļus. 3. Izvēlieties Pievienot modeļus. 4. Izvēlieties Pielāgots galapunkts. 5. Izmantojiet grupas nosaukumu, piemēram, Model Gate. 6. Ievadiet Model Gate API atslēgu, kad VS Code pieprasa nodrošinātāja akreditācijas datus. 7. Izvēlieties Atbildes kā API tipu, ja atlasītais modelis atbalsta Responses API. 8. Konfigurējiet modeli ar precīzo Model Gate galapunktu un saglabājiet ģenerēto chatLanguageModels.json. 9. Tērzēšanas modeļu atlasītājā atlasiet Model Gate modeli.
Neizmantojiet novecojušo github.copilot.chat.customOAIModels iestatījums jaunai konfigurācijai. Pašreizējais pielāgotā galapunkta nodrošinātājs atbalsta atbildes, tērzēšanas pabeigšanas un ziņojumu stila galapunktus, un tas ir vēlamais VS koda konfigurācijas ceļš.
Ieteicamā atbilžu konfigurācija
Radītais chatLanguageModels.json var izmantot šādu konfigurāciju:
[
{
"name": "Model Gate",
"vendor": "customendpoint",
"apiKey": "${input:modelGateApiKey}",
"apiType": "responses",
"models": [
{
"id": "gpt-5.4",
"name": "GPT-5.4 through Model Gate",
"url": "https://api.model-gate.com/v1/responses",
"toolCalling": true
}
]
}
]
Aizstāt gpt-5.4 ar iespējotu Model Gate modeli vai aizstājvārdu.
VS kods parasti nosūta API atslēgu kā:
Authorization: Bearer mg_live_...
kas ir pareizā ar Model Gate OpenAI saderīgā API autentifikācijas veidlapa.
Atkāpšanās no tērzēšanas pabeigšanas
Ja izvēlētajai darbplūsmai ir nepieciešama tērzēšanas pabeigšana, konfigurējiet modeli šādi:
[
{
"name": "Model Gate",
"vendor": "customendpoint",
"apiKey": "${input:modelGateApiKey}",
"apiType": "chat-completions",
"models": [
{
"id": "MODEL_ID",
"name": "MODEL_ID through Model Gate",
"url": "https://api.model-gate.com/v1/chat/completions",
"toolCalling": true
}
]
}
]
Dodiet priekšroku precīzam pilnam galapunkta URL. Tas novērš neskaidrības, ja VS kods maina URL ceļa secinājumu darbību.
Modeļa iespēju ieteikumi
Kopilota aģenta darbplūsmām ir nepieciešams modelis, kurā var izmantot rīkus. Drošai aģenta lietošanai, izmantojot Model Gate:
- izvēlieties modeli ar pārbaudītu rīku/funkciju izsaukšana atbalsts; - izvēlieties modeli ar straumēšana atbalsts; - attēlu pielikumiem izmantojiet modeli ar pārbaudītu redzes/attēla ievade spēja un komplekts "vision": true šim modelim; - izmantot liela konteksta modeli repozitorija mēroga aģentu darbam; GitHub pašlaik iesaka vismaz 128 000 marķiera konteksta logu Copilot CLI pielāgotajiem modeļiem; - nereklamē toolCalling, vision, pamatojums, konteksts vai izvades ierobežojumi, kas pārsniedz atlasītā Model Gate modeļa faktiskās iespējas; - pārbaudiet precīzu modeli spēļu laukumā Model Gate, pirms to iespējojat lielai komandai.
Ja iestatāt manuāli contextWindow, maxInputTokens, vai maxOutputTokens VS kodā izmantojiet atlasītā modeļa ierobežojumus no autentificētā /models lapa vai no GET /v1/models; neuzmini tos. Model Gate kartē laukus šādi:
| VS koda iestatīšana | Model Gate lauks |
|---|---|
contextWindow | context_window (tāda pati vērtība kā context_length) |
maxInputTokens | max_input_tokens |
maxOutputTokens | max_output_tokens |
Autentificēts /models lapā tie tiek rādīti kā Konteksts, Maksimālā ievade, un Maksimālā jauda kad ir zināma atbilstošā vērtība. Lai tieši pārbaudītu API objektu:
curl -s https://api.model-gate.com/v1/models \
-H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'
Vērtība 0 nozīmē, ka Model Gate šim ierobežojumam nav konfigurētas vērtības. Tādā gadījumā atstājiet attiecīgo manuālo VS koda iestatījumu neiestatītu, nevis ievadiet 0 vai izdomājot ierobežojumu.
Lietderīgie modeļi VS kodā
VS Code izmanto arī mazākus fona modeļus tādiem uzdevumiem kā nosaukumi, kopsavilkumi, ziņojumi, pārdēvēšanas ieteikumi un nodomu noteikšana.
Ja izmantojat Model Gate BYOK bez GitHub viesota Copilot modeļa, konfigurējiet:
chat.utilityModel
chat.utilitySmallModel
Izvēlieties ātru un lētu Model Gate modeli chat.utilitySmallModel. Parasti nav nekādu labumu, ja maksā par lielāko spriešanas modeli saistībā ar ziņojumu ģenerēšanu vai citiem viegliem komunālajiem darbiem.
The chat.byokUtilityModelDefault iestatījums var arī kontrolēt, vai utilīta darbs atbilst atlasītajam BYOK galvenā aģenta modelim, izmanto GitHub Copilot utilītu modeļus vai arī tam nav noklusējuma.
Otrā pilota CLI
GitHub Copilot CLI atbalsta ar OpenAI saderīgus pielāgotus pakalpojumu sniedzējus, izmantojot vides mainīgos.
Linux vai macOS
export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"
otrais pilots ```
Windows PowerShell
$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"
otrais pilots ```
Copilot CLI atlasītajam modelim ir jāatbalsta rīku izsaukšana un straumēšana. Izmantojiet iespējotu Model Gate modeli vai aizstājvārdu un pārbaudiet to, pirms padarīt konfigurāciju par pastāvīgu.
Neievietojiet API atslēgu čaulas vēsturē, repozitorija failā vai apņemšanās failā .env. Ja iespējams, izmantojiet savu OS akreditācijas datu krātuvi, aizsargāto čaulas vidi vai organizācijas noslēpumu pārvaldības rīkus.
Copilot Business un Enterprise
GitHub atbalsta arī organizācijas/uzņēmuma pielāgotus modeļus, izmantojot BYOK. GitHub pašlaik ir saraksti Ar OpenAI saderīgi pakalpojumu sniedzēji kā atbalstīta pielāgotā modeļa nodrošinātāja kategorija. Šo organizācijas līmeņa iespēju pārvalda GitHub politika, un tā var būt priekšskatījumā atkarībā no Copilot virsmas.
Pārvaldītai organizācijai:
1. Iespējojiet GitHub pielāgoti modeļi / BYOK politika, kas nepieciešama jūsu Copilot plānam. 2. Pievienojiet pielāgotu ar OpenAI saderīgu nodrošinātāju/modeli organizācijas vai uzņēmuma Copilot modeļa iestatījumos. 3. Izmantojiet īpašu Model Gate API atslēgu ar minimālajām nepieciešamajām Model Gate atļaujām un ierobežojumiem. 4. Izmantojiet Model Gate galapunktu un modeļa ID, kuram var piekļūt jūsu konts. 5. Validiet modeli Copilot Chat/aģenta darbplūsmās, pirms to plaši atklājat organizācijas modeļa atlasītājā.
Kamēr funkcija attīstās, GitHub var mainīt organizācijas pielāgotā modeļa lietotāja interfeisu. Sekojiet pašreizējai GitHub administratīvajai lietotāja saskarnei, lai iegūtu precīzas lauku etiķetes, nevis paļauties uz ekrānuzņēmumiem no vecāka laidiena.
Drošības un izmaksu ieteikumi
- Izveidojiet īpašu Model Gate atslēgu Copilot, nevis kopīgojiet vispārējas nozīmes atslēgu. - Lietojiet IPT ierobežojumu, vienlaicības ierobežojumu, tēriņu ierobežojumu vai biznesa grupas politiku, kas piemērota izstrādātāja aģenta datplūsmai. - Nekavējoties pagrieziet atslēgu, ja tā ir ielīmēta avota vadīklā, tērzēšanā, žurnālos vai ir radusies problēma. - Nekad neapņemies mg_live_... iekšā chatLanguageModels.json; ļaujiet VS Code saglabāt akreditācijas datus vai atsauci uz ievadi/noslēpumu. - Saglabājiet iespējotus destruktīvus rīku apstiprinājumus, ja vien jūsu izstrādes vide nav apzināti ievietota smilškastes režīmā. - Aģenta režīms var ģenerēt vairākus modeļa/rīka pagriezienus no vienas lietotāja instrukcijas. Iestatiet Model Gate tēriņu ierobežojumus, pirms iespējojat dārgus argumentācijas modeļus lielām krātuvēm. - Izmantojiet mazāku lietderības modeli fona uzdevumiem un rezervējiet lielākus argumentācijas modeļus plānošanai, atkļūdošanai vai sarežģītiem faktoriem. - Pārbaudiet modeļa vārtu pieprasījumu vēsturi, pētot neparedzētas izmaksas, latentumu, ātruma ierobežojumu vai pakalpojumu sniedzēja kļūdas.
Ko BYOK dara un ko neaizstāj
Model Gate BYOK modelis var darbināt VS Code tērzēšanu, aģenta darbplūsmas, rīkus un utilītu uzdevumus, ja modelis atbalsta vajadzīgās iespējas.
Tā dara nē automātiski aizstāt katru GitHub Copilot līdzekli. Atkarībā no pašreizējā VS Code/GitHub laidiena tādām funkcijām kā standarta iekļautā koda pabeigšana, semantiskā meklēšana, iegulšana vai citi GitHub mitinātie pakalpojumi joprojām var pieprasīt GitHub autentifikāciju, Copilot plānu vai GitHub infrastruktūru.
Tāpēc izmantojiet Model Gate BYOK, kad jūsu mērķis ir kontrolēt tērzēšanas/aģenta modeļa ceļš un tā norēķini, nevis kā pieņēmums, ka visa GitHub Copilot tīkla trafika tiek maršrutēta caur Model Gate.
Pirms Copilot testēšanas pārbaudiet Model Gate
Atbildes
curl https://api.model-gate.com/v1/responses \
-H "Authorization: Bearer mg_live_..." \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"input": "Reply with exactly: Model Gate OK"
}'
Tērzēšanas pabeigšana
curl https://api.model-gate.com/v1/chat/completions \
-H "Authorization: Bearer mg_live_..." \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
}'
Ja šie pieprasījumi neizdodas, pirms Copilot atkļūdošanas izlabojiet API atslēgas/modeļa/modeļa vārtu politiku.
Problēmu novēršana
| Problēma | Izšķirtspēja |
|---|---|
| Modelis neparādās aģenta režīmā | Pārbaudiet, vai modelis ir konfigurēts ar rīku izsaukšanu un vai faktiskais Model Gate modelis atbalsta funkciju/rīku izsaukumus. Pēc nodrošinātāja konfigurācijas maiņas restartējiet VS Code. |
401 invalid_api_key | Atkārtoti ievadiet vai pagrieziet īpašo Model Gate atslēgu. Apstipriniet Copilot nosūtīšanu Authorization: Bearer .... |
404 vai nepareizs galapunkts | Atbildēm izmantojiet nepārprotamu https://api.model-gate.com/v1/responses; tērzēšanas pabeigšanai /v1/chat/completions. |
| Modelis nav atrasts | Vaicājums /v1/models un izmantojiet iespējotu kanonisko ID vai aizstājvārdu. |
| Aģents nevar izmantot rīkus | Atlasiet modeli ar pārbaudītu rīku/funkciju izsaukumu. Copilot CLI ir nepieciešama arī straumēšana. |
| Attēla pielikums tiek ignorēts/noraidīts | Izmantojiet modeli ar pārbaudītu attēla ievades/redzes iespēju un konfigurējiet vision: true tikai šim modelim. |
| Lietderības līdzekļi nedarbojas tikai ar BYOK iestatīšanu | Konfigurēt chat.utilityModel un chat.utilitySmallModel uz pieejamajiem BYOK modeļiem. |
| Iekļautajām pabeigšanām joprojām tiek izmantots GitHub vai ir nepieciešama pierakstīšanās | Paredzētais: BYOK galvenokārt kontrolē tērzēšanas/aģenta/utilīta modeļa trafiku, nevis katru Copilot funkciju. |
| Pieprasījumi ir negaidīti dārgi | Lietojiet mazāku modeli komunālajiem darbiem, samaziniet argumentāciju, ja nepieciešams, un konfigurējiet Model Gate tēriņu/IPT/vienlaicīguma ierobežojumus. |
Pašreizējās augšupējās atsauces
GitHub un VS kods var mainīt BYOK konfigurāciju starp laidieniem. Lai uzzinātu pašreizējo darbību augšup pa straumi, pārbaudiet:
- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models