GitHub Copilot

Ühendage GitHub Copilot Chat, VS Code agendid ja Copilot CLI mudeliväravaga BYOKi ja kohandatud OpenAI-ga ühilduva lõpp-punktiga.

GitHub Copilot Model Gate'i kaudu

GitHub Copilot ja Visual Studio Code tugi Tooge oma võti (BYOK) mudelid. Model Gate'i saab kasutada OpenAI-ga ühilduva kohandatud lõpp-punktina Copiloti vestluse ja agendi töövoogude jaoks.

VS-koodi jaoks on soovitatav seadistus Kohandatud lõpp-punkt teenusepakkuja Vastuste API. Kasutage vestluse lõpetamist ainult siis, kui valitud mudel või töövoog seda API-perekonda konkreetselt nõuab.

Nõutavad väärtused

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Looge rakenduses spetsiaalne API-võti Model Gate juhtpaneel. Meeskonna või tööjaama integreerimiseks eelistage sõltumatu tootmisvõtme taaskasutamise asemel eraldi võtit, et piiranguid, taotluste ajalugu, pööramist ja tühistamist oleks lihtne kontrollida.

Enne Copiloti konfigureerimist loetlege praegu lubatud mudelid:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Kasutage selle lõpp-punkti poolt tagastatud lubatud kanoonilise mudeli ID-d või administraatori hallatavat pseudonüümi.

VS-kood: soovitatav kohandatud lõpp-punkti seadistus

Praegused VS-koodi versioonid paljastavad BYOK-mudelid keelemudelite redaktoris.

1. Avage käsupalett. 2. Jookse Vestlus: keelemudelite haldamine. 3. Valige Lisage mudeleid. 4. Valige Kohandatud lõpp-punkt. 5. Kasutage rühma nime, näiteks Model Gate. 6. Sisestage Model Gate API võti, kui VS Code küsib pakkuja mandaati. 7. Valige Vastused API tüübina, kui valitud mudel toetab vastuste API-d. 8. Konfigureerige mudel selgesõnalise Model Gate lõpp-punktiga ja salvestage loodud chatLanguageModels.json. 9. Valige Chati mudelivalijast Model Gate mudel.

Ärge kasutage aegunud github.copilot.chat.customOAIModels seadistus uue konfiguratsiooni jaoks. Praegune kohandatud lõpp-punkti pakkuja toetab vastuseid, vestluse lõpetamisi ja sõnumite stiilis lõpp-punkte ning on eelistatud VS-koodi konfiguratsioonitee.

Soovitatud vastuste konfiguratsioon

Loodud chatLanguageModels.json saab kasutada sellist konfiguratsiooni:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Asenda gpt-5.4 lubatud Model Gate'i mudeli või varjunimega.

VS-kood saadab tavaliselt API võtme järgmiselt:

Authorization: Bearer mg_live_...

mis on Model Gate OpenAI-ühilduva API õige autentimisvorm.

Vestluse lõpetamise varu

Kui valitud töövoog nõuab vestluse lõpetamist, konfigureerige mudel järgmiselt:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Eelista selgesõnalist täielikku lõpp-punkti URL-i. See väldib ebaselgust, kui VS-kood muudab URL-i tee järelduste käitumist.

Mudeli võimekuse soovitused

Teise piloodi agendi töövood nõuavad mudelit, mis saab kasutada tööriistu. Usaldusväärseks agendi kasutamiseks Model Gate'i kaudu:

- valige kinnitatud mudel tööriista/funktsiooni kutsumine toetus; - valige mudel voogesitus toetus; - pildimanuste jaoks kasutage kontrollitud mudelit nägemus/kujutise sisend võime ja komplekt "vision": true selle mudeli jaoks; - kasutada hoidla mastaabis agenditööks suurt kontekstimudelit; GitHub soovitab praegu Copilot CLI kohandatud mudelite jaoks vähemalt 128 000 märgiga kontekstiakent; - ära reklaami toolCalling, vision, arutluskäik, kontekst või väljundpiirangud, mis ületavad valitud Model Gate'i mudeli tegelikku võimekust; - testige täpset mudelit Model Gate mänguväljakul, enne kui lubate selle suurele meeskonnale.

Kui seadistate käsitsi contextWindow, maxInputTokens, või maxOutputTokens VS-koodis kasutage valitud mudeli piiranguid autentitud mudelist /models lehelt või alates GET /v1/models; ära arva neid. Model Gate kaardistab väljad järgmiselt:

VS-koodi seadistus	Model Gate väli
`contextWindow`	`context_window` (sama väärtus kui `context_length`)
`maxInputTokens`	`max_input_tokens`
`maxOutputTokens`	`max_output_tokens`

Autentitud /models lehel kuvatakse need kujul Kontekst, Maksimaalne sisendja Maksimaalne väljund kui vastav väärtus on teada. API-objekti otse kontrollimiseks tehke järgmist.

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Väärtus 0 tähendab, et Model Gate'il pole selle limiidi jaoks konfigureeritud väärtust. Sel juhul jätke vastav käsitsi VS-koodi seadistus sisestamise asemel määramata 0 või piiri leiutamine.

Kasulikud mudelid VS-koodis

VS Code kasutab ka väiksemaid taustamudeleid selliste ülesannete jaoks nagu pealkirjad, kokkuvõtted, siduvad sõnumid, ümbernimetamise soovitused ja kavatsuste tuvastamine.

Kui kasutate Model Gate BYOK-i ilma GitHubi hostitud kopiloodi mudelita, konfigureerige:

chat.utilityModel
chat.utilitySmallModel

Valige kiire ja odav Model Gate mudel chat.utilitySmallModel. Suurima arutlusmudeli eest kohustus-sõnumi genereerimise või muude kergete kommunaaltööde eest maksmisest pole tavaliselt mingit kasu.

The chat.byokUtilityModelDefault säte saab määrata ka seda, kas utiliit järgib valitud BYOK-i põhiagendi mudelit, kasutab GitHub Copilot kasulikku mudelit või puudub vaikeseade.

Teise piloodi CLI

GitHub Copilot CLI toetab OpenAI-ga ühilduvaid kohandatud pakkujaid keskkonnamuutujate kaudu.

Linux või macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

kaaspiloot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

kaaspiloot ```

Copilot CLI puhul peab valitud mudel toetama tööriista helistamine ja voogesitus. Kasutage lubatud Model Gate'i mudelit või varjunime ja testige seda enne konfiguratsiooni püsivaks muutmist.

Ärge asetage API-võtit kestaajalukku, hoidlafaili ega pühendunud faili .env. Võimaluse korral kasutage oma OS-i mandaadisalvet, kaitstud kestakeskkonda või organisatsiooni salajase halduse tööriistu.

Copilot Business and Enterprise

GitHub toetab ka organisatsiooni/ettevõtte kohandatud mudeleid BYOKi kaudu. GitHub on praegu loendis OpenAI-ga ühilduvad pakkujad toetatud kohandatud mudeli pakkuja kategooriana. Seda organisatsiooni tasemel võimalust haldab GitHubi poliitika ja see võib olenevalt Copiloti pinnast olla eelvaates.

Hallatava organisatsiooni jaoks:

1. Lubage GitHub kohandatud mudelid / BYOK teie Copiloti plaani jaoks nõutav poliitika. 2. Lisage organisatsiooni või ettevõtte Copiloti mudeli sätetesse kohandatud OpenAI-ga ühilduv pakkuja/mudel. 3. Kasutage spetsiaalset Model Gate API võtit minimaalsete vajalike Model Gate õiguste ja piirangutega. 4. Kasutage Model Gate'i lõpp-punkti ja mudeli ID-d, millele teie konto juurde pääseb. 5. Kontrollige mudelit Copilot Chati/agendi töövoogudes, enne kui avalikustate selle organisatsiooni mudelivalijas.

GitHub saab funktsiooni arenemise ajal organisatsiooni kohandatud mudeli kasutajaliidest muuta. Täpsete väljasiltide leidmiseks järgige praegust GitHubi haldusliidest, selle asemel, et tugineda vanema versiooni ekraanipiltidele.

Turvalisuse ja kulude soovitused

- Üldotstarbelise võtme jagamise asemel looge Copiloti jaoks spetsiaalne Model Gate võti. - Rakendage arendaja-agendi liikluse jaoks sobivat RPM-i limiiti, samaaegsuse limiiti, kululimiiti või ärirühma eeskirju. - Pöörake võtit kohe, kui see on kleebitud allika juhtimisse, vestlusesse, logidesse või probleem. - Ärge kunagi pühenduge mg_live_... sisse chatLanguageModels.json; laske VS Code'il mandaadi salvestada või viidata sisendile/saladusele. - Hoidke hävitavate tööriistade heakskiitmine lubatud, välja arvatud juhul, kui teie arenduskeskkond on tahtlikult liivakasti paigutatud. - Agendirežiim võib ühe kasutajajuhise põhjal genereerida palju mudeli/tööriista pöördeid. Enne suurte hoidlate jaoks kallite arutlusmudelite lubamist määrake mudelivärava kululimiidid. - Kasutage taustaülesannete jaoks väiksemat kasulikku mudelit ja reserveerige suuremad arutlusmudelid planeerimiseks, silumiseks või keerukateks ümberteguriteks. - Kontrollige mudelivärava taotluste ajalugu, kui uurite ootamatuid kulusid, latentsust, kiiruspiirangut või pakkuja vigu.

Mida BYOK teeb ja mida ei asenda

Mudelivärava BYOK mudel võib toita VS-koodi vestlust, agendi töövooge, tööriistu ja utiliidi ülesandeid, kui mudel toetab vajalikke võimalusi.

On küll mitte asendab automaatselt iga GitHub Copilot funktsiooni. Sõltuvalt praegusest VS-koodi/GitHubi väljalasest võivad sellised funktsioonid nagu standardsed tekstisisesed koodilõpud, semantiline otsing, manustamine või muud GitHubi hostitud teenused siiski nõuda GitHubi autentimist, Copiloti plaani või GitHubi infrastruktuuri.

Seetõttu kasutage Model Gate BYOK-i, kui teie eesmärk on kontrollida vestluse/agendi mudeli tee ja selle arveldamine, mitte eeldusel, et kogu GitHub Copilot võrguliiklus suunatakse Model Gate'i kaudu.

Enne Copiloti testimist kontrollige Model Gate'i

Vastused

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Vestluse lõpetamised

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Kui need taotlused ebaõnnestuvad, parandage enne Copiloti silumist API võtme/mudeli/mudelivärava poliitika.

Veaotsing

Probleem	Resolutsioon
Mudel ei ilmu agendirežiimis	Veenduge, et mudel on konfigureeritud tööriistakutsega ja kas tegelik Model Gate'i mudel toetab funktsioonide/tööriistade väljakutseid. Pärast pakkuja konfiguratsiooni muutmist taaskäivitage VS-kood.
`401 invalid_api_key`	Sisestage või pöörake spetsiaalne Model Gate võti uuesti. Kinnitage, et Copilot saadab `Authorization: Bearer ...`.
`404` või vale lõpp-punkt	Vastuste jaoks kasutage selgesõnalist `https://api.model-gate.com/v1/responses`; vestluse lõpuleviimiseks `/v1/chat/completions`.
Mudelit ei leitud	Päring `/v1/models` ja kasutage lubatud kanoonilist ID-d või varjunime.
Agent ei saa tööriistu kasutada	Valige kinnitatud tööriista/funktsiooni kutsumisega mudel. Copilot CLI nõuab ka voogesitust.
Pildimanust ignoreeritakse/lükatakse tagasi	Kasutage kontrollitud kujutise sisendi/nägemisvõimalusega mudelit ja konfigureerige `vision: true` ainult selle mudeli jaoks.
Utiliidi funktsioonid ei tööta ainult BYOK-i seadistusega	Seadistage `chat.utilityModel` ja `chat.utilitySmallModel` saadaolevatele BYOK mudelitele.
Tekstisisesed lõpetamised kasutavad endiselt GitHubi või nõuavad sisselogimist	Eeldatav: BYOK juhib peamiselt vestluse / agendi / kasuliku mudeli liiklust, mitte kõiki Copiloti funktsioone.
Taotlused on ootamatult kallid	Kasutage kasuliku töö jaoks väiksemat mudelit, vähendage vajaduse korral arutluskäiku ja konfigureerige mudelivärava kulu-/RPM-/samaaegsuslimiidid.

Praegused ülesvoolu viited

GitHub ja VS-kood võivad versioonide vahel muuta BYOK-i konfiguratsiooni. Praeguse ülesvoolu käitumise kohta kontrollige:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models