B2BB2B LLM

GitHub Copilot

Povežite GitHub Copilot Chat, VS Code agente i Copilot CLI na Model Gate s BYOK-om i krajnjom točkom prilagođenom OpenAI-u.

GitHub Copilot kroz Model Gate

GitHub Copilot i podrška za Visual Studio Code Ponesite vlastiti ključ (BYOK) modeli. Model Gate može se koristiti kao prilagođena krajnja točka kompatibilna s OpenAI-om za Copilot chat i tijekove rada agenata.

Za VS Code, preporučena postavka je Prilagođena krajnja točka davatelj s Responses API. Koristite Chat Completions samo kada odabrani model ili tijek rada posebno zahtijeva tu API obitelj.

Tražene vrijednosti

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Stvorite namjenski API ključ u Upravljačka ploča modela Gate. Za integraciju tima ili radne stanice dajte prednost zasebnom ključu umjesto ponovne upotrebe nepovezanog proizvodnog ključa tako da ograničenja, povijest zahtjeva, rotaciju i opoziv ostanu laki za reviziju.

Navedite trenutno omogućene modele prije konfiguriranja Copilota:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Upotrijebite omogućeni kanonski ID modela ili alias kojim upravlja administrator koji vraća ova krajnja točka.

VS kod: preporučeno podešavanje prilagođene krajnje točke

Trenutne verzije VS koda izlažu BYOK modele u uređivaču jezičnih modela.

1. Otvorite paletu naredbi. 2. Trčite Chat: Upravljanje modelima jezika. 3. Odaberite Dodajte modele. 4. Odaberite Prilagođena krajnja točka. 5. Koristite naziv grupe kao što je Model Gate. 6. Unesite API ključ Model Gate kada VS Code zatraži vjerodajnicu davatelja. 7. Odaberite Odgovori kao vrstu API-ja kada odabrani model podržava Responses API. 8. Konfigurirajte model s eksplicitnom krajnjom točkom Vrata modela i spremite generirano chatLanguageModels.json. 9. Odaberite model Vrata modela iz alata za odabir modela Chat.

Nemojte koristiti zastarjelo github.copilot.chat.customOAIModels postavku za novu konfiguraciju. Trenutačni pružatelj prilagođene krajnje točke podržava odgovore, dovršetke razgovora i krajnje točke u stilu poruka te je preferirani put konfiguracije VS koda.

Preporučena konfiguracija odgovora

Generirano chatLanguageModels.json može koristiti ovakvu konfiguraciju:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Zamijeniti gpt-5.4 s omogućenim Model Gate modelom ili aliasom.

VS Code obično šalje API ključ kao:

Authorization: Bearer mg_live_...

što je ispravan obrazac za provjeru autentičnosti za Model Gate OpenAI kompatibilan API.

Zamjena za završetke chata

Ako odabrani tijek rada zahtijeva dovršetak razgovora, konfigurirajte model kao:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Dajte prednost eksplicitnom punom URL-u krajnje točke. Time se izbjegava dvosmislenost ako VS Code promijeni ponašanje zaključivanja URL-puta.

Preporuke za mogućnosti modela

Tijek rada agenta Copilot zahtijeva model koji može koristiti alate. Za pouzdanu upotrebu agenta kroz Model Gate:

- odaberite model s provjerenim pozivanje alata/funkcije podrška; - odaberite model s strujanje podrška; - za privitke slika koristite model s provjerenim unos vizije/slike sposobnost i set "vision": true za taj model; - koristiti model velikog konteksta za rad agenta na razini spremišta; GitHub trenutno preporučuje kontekstni prozor od najmanje 128k tokena za Copilot CLI prilagođene modele; - ne oglašavati toolCalling, vision, rezoniranje, kontekst ili ograničenja izlaza iznad stvarne mogućnosti odabranog modela Vrata modela; - testirajte točan model na igralištu Model Gate Playground prije nego što ga omogućite velikom timu.

Ako ručno postavite contextWindow, maxInputTokens, ili maxOutputTokens u VS kodu upotrijebite ograničenja odabranog modela iz provjerenog /models stranicu ili iz GET /v1/models; ne pogađajte ih. Model Gate mapira polja na sljedeći način:

Postavka VS kodaModel Vrata polja
contextWindowcontext_window (ista vrijednost kao context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Ovjereni /models stranica ih prikazuje kao Kontekst, Maksimalni unos, i Maks. učinak kada je poznata odgovarajuća vrijednost. Da biste izravno pregledali API objekt:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Vrijednost od 0 znači da Model Gate nema konfiguriranu vrijednost za to ograničenje. U tom slučaju ostavite odgovarajuću ručnu postavku VS koda nepostavljenu umjesto da je unesete 0 ili izmišljanje granice.

Korisni modeli u VS kodu

VS Code također koristi manje pozadinske modele za zadatke kao što su naslovi, sažeci, poruke predaje, prijedlozi za preimenovanje i otkrivanje namjere.

Ako koristite Model Gate BYOK bez Copilot modela hostiranog na GitHubu, konfigurirajte:

chat.utilityModel
chat.utilitySmallModel

Odaberite brz i jeftin model Model Gate za chat.utilitySmallModel. Obično nema koristi u plaćanju najvećeg modela razmišljanja za generiranje poruka predaje ili drugog laganog pomoćnog posla.

The chat.byokUtilityModelDefault postavka također može kontrolirati slijedi li pomoćni rad odabrani BYOK model glavnog agenta, koristi GitHub Copilot pomoćne modele ili nema zadane postavke.

Kopilot CLI

GitHub Copilot CLI podržava prilagođene pružatelje koji su kompatibilni s OpenAI-jem putem varijabli okruženja.

Linux ili macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

kopilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

kopilot ```

Za Copilot CLI, odabrani model mora podržavati pozivanje alata i strujanje. Upotrijebite omogućen model ili alias Model Gate i testirajte ga prije nego što konfiguraciju učinite trajnom.

Nemojte stavljati API ključ u povijest ljuske, datoteku spremišta ili predanu datoteku .env. Upotrijebite svoju pohranu vjerodajnica OS-a, okruženje zaštićene ljuske ili alate za upravljanje tajnom organizacije gdje je to moguće.

Copilot Business and Enterprise

GitHub također podržava prilagođene modele organizacije/poduzeća putem BYOK-a. GitHub trenutačno navodi OpenAI-kompatibilni pružatelji usluga kao podržana kategorija pružatelja prilagođenog modela. Ovom mogućnošću na razini organizacije upravlja GitHub pravilo i može biti u pretpregledu ovisno o Copilot površini.

Za upravljanu organizaciju:

1. Omogućite GitHub prilagođeni modeli / BYOK pravila potrebna za vaš Copilot plan. 2. Dodajte prilagođenog pružatelja/model kompatibilan s OpenAI-om u postavkama modela Copilot organizacije ili poduzeća. 3. Upotrijebite namjenski API ključ Model Gate s minimalno potrebnim dozvolama i ograničenjima Model Gate. 4. Koristite krajnju točku Model Gate i ID modela kojem vaš račun može pristupiti. 5. Provjerite valjanost modela u radnim tokovima Copilot Chata/agenta prije nego što ga opširno izložite u biraču modela organizacije.

GitHub može promijeniti korisničko sučelje prema prilagođenom modelu organizacije dok se značajka razvija. Slijedite trenutno GitHub administrativno korisničko sučelje za točne oznake polja umjesto da se oslanjate na snimke zaslona iz starijeg izdanja.

Preporuke za sigurnost i troškove

- Napravite namjenski ključ Model Gate za Copilot umjesto dijeljenja ključa opće namjene. - Primijenite ograničenje RPM-a, ograničenje istovremenosti, ograničenje potrošnje ili pravilo poslovne grupe prikladno za promet razvojnog agenta. - Odmah rotirajte ključ ako je zalijepljen u kontrolu izvora, chat, zapisnike ili problem. - Nikad se ne obvezuj mg_live_... u chatLanguageModels.json; neka VS Code pohrani vjerodajnicu ili referencu na unos/tajnu. - Neka odobrenja destruktivnih alata budu omogućena osim ako je vaše razvojno okruženje namjerno zatvoreno u sandbox. - Agentski način rada može generirati mnogo okreta modela/alata iz jedne korisničke upute. Postavite ograničenja potrošnje modela Gate prije omogućavanja skupih modela rezoniranja za velika spremišta. - Koristite manji korisni model za pozadinske zadatke i rezervirajte veće modele razmišljanja za planiranje, otklanjanje pogrešaka ili složene refaktore. - Provjerite povijest zahtjeva za vrata modela kada istražujete neočekivane troškove, kašnjenje, ograničenje brzine ili pogreške pružatelja.

Što BYOK radi, a što ne zamjenjuje

Model Gate BYOK model može pokretati VS Code chat, tijekove rada agenta, alate i pomoćne zadatke kada model podržava potrebne mogućnosti.

To čini ne automatski zamijeni svaku značajku GitHub Copilot. Ovisno o trenutnom VS Code/GitHub izdanju, značajke kao što su standardna inline dovršetka koda, semantičko pretraživanje, ugrađivanja ili druge usluge koje hostira GitHub i dalje mogu zahtijevati GitHub provjeru autentičnosti, Copilot plan ili GitHub infrastrukturu.

Stoga koristite Model Gate BYOK kada vam je cilj kontrolirati put modela chata/agenta i njegova naplata, a ne kao pretpostavka da se sav GitHub Copilot mrežni promet usmjerava kroz Model Gate.

Provjerite Model Gate prije testiranja Copilota

Odgovori

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Završeci razgovora

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Ako ovi zahtjevi ne uspiju, popravite pravilo API ključ/model/Model Gate prije otklanjanja pogrešaka Copilota.

Rješavanje problema

ProblemRezolucija
Model se ne pojavljuje u modu agentaProvjerite je li model konfiguriran s pozivanjem alata i da stvarni model Model Gate podržava pozive funkcija/alata. Ponovno pokrenite VS Code nakon promjene konfiguracije pružatelja usluga.
401 invalid_api_keyPonovno unesite ili okrenite namjenski ključ Model Gate. Potvrdite slanje Copilota Authorization: Bearer ....
404 ili krivu krajnju točkuZa odgovore koristite eksplicitno https://api.model-gate.com/v1/responses; za korištenje dovršetaka razgovora /v1/chat/completions.
Model nije pronađenUpit /v1/models i koristite omogućeni kanonski ID ili alias.
Agent ne može koristiti alateOdaberite model s provjerenim pozivanjem alata/funkcije. Copilot CLI također zahtijeva streaming.
Privitak slike je zanemaren/odbijenKoristite model s potvrđenom sposobnošću unosa slike/vizije i konfigurirajte vision: true samo za taj model.
Značajke uslužnog programa ne rade s postavljanjem samo BYOKKonfigurirati chat.utilityModel i chat.utilitySmallModel dostupnim BYOK modelima.
Inline dovršavanja i dalje koriste GitHub ili zahtijevaju prijavuOčekivano: BYOK prvenstveno kontrolira promet chata/agenta/uslužnog modela, a ne svaku značajku Copilot.
Zahtjevi su neočekivano skupiUpotrijebite manji model za pomoćni rad, niže obrazloženje gdje je to prikladno i konfigurirajte ograničenja potrošnje/RPM-a/istodobnosti modela Gate.

Trenutne upstream reference

GitHub i VS Code mogu promijeniti BYOK konfiguraciju između izdanja. Za trenutno uzvodno ponašanje provjerite:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models