B2BB2B LLM

GitHub Copilot

Csatlakoztassa a GitHub Copilot Chat, VS Code ügynököket és a Copilot CLI-t a Model Gate-hez a BYOK segítségével és egy egyéni OpenAI-kompatibilis végponttal.

GitHub Copilot a Model Gate-en keresztül

GitHub Copilot és a Visual Studio Code támogatása Hozd a saját kulcsodat (BYOK) modellek. A Model Gate OpenAI-kompatibilis egyéni végpontként használható a Copilot csevegési és ügynöki munkafolyamatokhoz.

VS Code esetén az ajánlott beállítás a Egyéni végpont szolgáltató a Válaszok API. A Chat Completions funkciót csak akkor használja, ha egy kiválasztott modell vagy munkafolyamat kifejezetten ezt az API-családot igényli.

Kötelező értékek

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Hozzon létre egy dedikált API-kulcsot a Model Gate vezérlőpult. Csapat- vagy munkaállomás-integráció esetén előnyben részesítse a külön kulcsot a nem kapcsolódó éles kulcs újrafelhasználása helyett, így a korlátozások, a kérelmek előzményei, a rotáció és a visszavonás könnyen ellenőrizhetőek maradnak.

A Copilot konfigurálása előtt sorolja fel a jelenleg engedélyezett modelleket:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Használjon engedélyezett kanonikus modellazonosítót vagy rendszergazda által felügyelt álnevet, amelyet ez a végpont küld vissza.

VS Code: ajánlott egyéni végpont beállítása

A jelenlegi VS-kód verziók a BYOK modelleket teszik közzé a Nyelvi modellek szerkesztőben.

1. Nyissa meg a Parancspalettát. 2. Fuss Csevegés: Nyelvi modellek kezelése. 3. Válassza ki Modellek hozzáadása. 4. Válassza ki Egyéni végpont. 5. Használjon csoportnevet, pl Model Gate. 6. Adja meg a Model Gate API kulcsot, amikor a VS Code kéri a szolgáltató hitelesítő adatait. 7. Válassza ki Válaszok API-típusként, ha a kiválasztott modell támogatja a Responses API-t. 8. Konfigurálja a modellt az explicit Model Gate végponttal, és mentse el a generált chatLanguageModels.json. 9. Válassza ki a Model Gate modellt a Chat modellválasztóból.

Ne használja az elavult github.copilot.chat.customOAIModels beállítás egy új konfigurációhoz. A jelenlegi egyéni végpont-szolgáltató támogatja a válaszokat, a csevegés befejezését és az üzenetek stílusú végpontokat, és ez a preferált VS-kód konfigurációs elérési útja.

Javasolt válaszkonfiguráció

A generált chatLanguageModels.json használhat egy ilyen konfigurációt:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Cserélje ki gpt-5.4 engedélyezett Model Gate modellel vagy álnévvel.

A VS Code általában a következőképpen küldi el az API-kulcsot:

Authorization: Bearer mg_live_...

amely a Model Gate OpenAI-kompatibilis API helyes hitelesítési űrlapja.

Csevegés befejezések tartalék

Ha a kiválasztott munkafolyamat csevegési befejezést igényel, konfigurálja a modellt a következőképpen:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Előnyben részesítse az explicit teljes végpont URL-t. Ezzel elkerülhető a kétértelműség, ha a VS Code megváltoztatja az URL-útvonal-következtetési viselkedést.

Modellképességi ajánlások

A másodpilóta ügynök munkafolyamatokhoz olyan modellre van szükség, amely képes eszközöket használni. A Model Gate-en keresztüli megbízható ügynökhasználat érdekében:

- válasszon egy igazolt modellt eszköz/funkció hívás támogatás; - válasszon egy modellt folyó támogatás; - képmellékletekhez használjon ellenőrzött modellt látás/képbevitel képesség és készlet "vision": true ehhez a modellhez; - nagy kontextus-modellt használni a repository-méretű ügynökmunkához; A GitHub jelenleg legalább 128 000 token kontextusablakot javasol a Copilot CLI egyéni modellekhez; - ne reklámozzon toolCalling, vision, érvelés, kontextus vagy kimeneti korlátok a kiválasztott Model Gate modell tényleges képessége felett; - tesztelje a pontos modellt a Model Gate játszótéren, mielőtt engedélyezné egy nagy csapat számára.

Ha manuálisan állítja be contextWindow, maxInputTokens, vagy maxOutputTokens a VS Code-ban használja a kiválasztott modell korlátait a hitelesítettből /models oldalról vagy innen GET /v1/models; ne találd ki őket. A Model Gate a következőképpen térképezi fel a mezőket:

VS kód beállításaModel Gate mező
contextWindowcontext_window (ugyanaz az érték, mint context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

A hitelesített /models oldalon ezeket mint Kontextus, Max bemenet, és Max kimenet amikor a megfelelő érték ismert. Az API objektum közvetlen ellenőrzéséhez:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Egy érték 0 azt jelenti, hogy a Model Gate nem rendelkezik konfigurált értékkel ehhez a határértékhez. Ebben az esetben hagyja a megfelelő kézi VS Code beállítást hatástalanul, ahelyett, hogy megadná 0 vagy feltalálni egy határt.

Hasznossági modellek a VS Code-ban

A VS Code kisebb háttérmodelleket is használ olyan feladatokhoz, mint a címek, összefoglalók, véglegesítési üzenetek, átnevezési javaslatok és szándékfelismerés.

Ha a Model Gate BYOK-ot GitHub által hosztolt másodpilóta modell nélkül használja, konfigurálja:

chat.utilityModel
chat.utilitySmallModel

Válasszon egy gyors és olcsó Model Gate modellt chat.utilitySmallModel. Általában nincs haszna, ha a legnagyobb okoskodási modellt kell fizetnie kötelezettségvállalási üzenetgeneráláshoz vagy más könnyű közüzemi munkákhoz.

A chat.byokUtilityModelDefault A beállítás azt is szabályozhatja, hogy a segédprogramok a kiválasztott BYOK főügynöki modellt követik-e, használjon-e GitHub Copilot segédprogramot, vagy nincs-e alapértelmezett.

Másodpilóta CLI

GitHub Copilot A CLI környezeti változókon keresztül támogatja az OpenAI-kompatibilis egyéni szolgáltatókat.

Linux vagy macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

másodpilóta ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

másodpilóta ```

A Copilot CLI esetében a kiválasztott modellnek támogatnia kell eszközhívás és streaming. Használjon engedélyezett Model Gate modellt vagy álnevet, és tesztelje, mielőtt a konfigurációt véglegessé tenné.

Ne helyezze el az API-kulcsot a shell-előzményekbe, lerakatfájlba vagy véglegesített fájlba .env. Ha lehetséges, használja az operációs rendszer hitelesítőadat-tárát, a védett shell-környezetet vagy a szervezeti titokkezelési eszközöket.

Másodpilóta Business and Enterprise

A GitHub a BYOK-on keresztül támogatja a szervezeti/vállalati egyedi modelleket is. A GitHub jelenleg listázza OpenAI-kompatibilis szolgáltatók támogatott egyedi modell-szolgáltatói kategóriaként. Ezt a szervezeti szintű képességet a GitHub-házirend kezeli, és a másodpilóta felületétől függően előnézetben is elérhető.

Felügyelt szervezet esetén:

1. Engedélyezze a GitHubot egyedi modellek / BYOK a Copilot-tervhez szükséges szabályzat. 2. Adjon hozzá egy egyéni OpenAI-kompatibilis szolgáltatót/modellt a szervezeti vagy vállalati másodpilóta modell beállításaihoz. 3. Használjon dedikált Model Gate API-kulcsot a minimálisan szükséges Model Gate engedélyekkel és korlátokkal. 4. Használja a Model Gate végpontot és egy olyan modellazonosítót, amelyhez fiókja hozzáfér. 5. Érvényesítse a modellt a Copilot Chat/ügynök munkafolyamatokban, mielőtt széles körben közzétenné a szervezeti modellválasztóban.

A GitHub módosíthatja a szervezet egyedi modelljének felhasználói felületét, miközben a funkció fejlődik. Kövesse a jelenlegi GitHub adminisztrációs felhasználói felületet a pontos mezőcímkékért, ahelyett, hogy egy régebbi kiadás képernyőképeire hagyatkozna.

Biztonsági és költségajánlatok

- Hozzon létre egy dedikált Model Gate kulcsot a Copilot számára az általános célú kulcs megosztása helyett. - Alkalmazzon RPM-korlátot, egyidejűségi korlátot, költési korlátot vagy üzleti csoportházirendet, amely megfelel a fejlesztői ügynök forgalmának. - Azonnal forgassa el a kulcsot, ha be van illesztve a forrásvezérlésbe, a csevegésbe, a naplókba vagy probléma van. - Soha ne kötelezze el magát mg_live_... be chatLanguageModels.json; hagyja, hogy a VS Code tárolja a hitelesítő adatokat, vagy hivatkozzon egy bemenetre/titokra. - Tartsa engedélyezve a destruktív eszközök jóváhagyását, kivéve, ha a fejlesztői környezet szándékosan homokozóba van helyezve. - Az ügynök mód számos modell/eszköz fordulatot generálhat egyetlen felhasználói utasításból. Állítsa be a Model Gate költési korlátait, mielőtt engedélyezné a drága gondolkodási modelleket a nagy adattárak számára. - Használjon kisebb segédmodellt a háttérfeladatokhoz, és tartson fenn nagyobb okoskodási modelleket tervezéshez, hibakereséshez vagy összetett átalakításokhoz. - A nem várt költségek, késleltetés, sebességkorlát vagy szolgáltatói hibák kivizsgálásakor ellenőrizze a modellkapu-kérelem előzményeit.

Amit a BYOK tesz és mit nem helyettesít

A Model Gate BYOK modell képes a VS Code chat, az ügynöki munkafolyamatok, az eszközök és a segédprogram feladatok ellátására, ha a modell támogatja a szükséges képességeket.

Ez igen nem automatikusan cserél minden GitHub Copilot funkciót. Az aktuális VS Code/GitHub-kiadástól függően az olyan funkciókhoz, mint a szabványos soron belüli kódkiegészítések, a szemantikus keresés, a beágyazások vagy a GitHub által hosztolt egyéb szolgáltatások továbbra is megkövetelhetik a GitHub-hitelesítést, a másodpilóta-csomagot vagy a GitHub-infrastruktúrát.

Ezért használja a Model Gate BYOK-ot, amikor a cél a chat/agent modell elérési útja és számlázása, nem abból a feltételezésből, hogy az összes GitHub Copilot hálózati forgalom a Model Gate-en keresztül van irányítva.

A Copilot tesztelése előtt ellenőrizze a Model Gate-t

Válaszok

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Csevegés befejezése

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Ha ezek a kérések sikertelenek, javítsa ki az API kulcs/modell/modellkapu házirendjét a Copilot hibakeresése előtt.

Hibaelhárítás

ProblémaFelbontás
A modell nem jelenik meg ügynök módbanEllenőrizze, hogy a modell eszközhívással van konfigurálva, és hogy a tényleges Model Gate modell támogatja-e a funkció-/eszközhívásokat. A szolgáltatói konfiguráció módosítása után indítsa újra a VS Code-ot.
401 invalid_api_keyÍrja be újra vagy forgassa el a dedikált Model Gate kulcsot. Erősítse meg a másodpilóta küldését Authorization: Bearer ....
404 vagy rossz végpontA válaszokhoz használja az explicit https://api.model-gate.com/v1/responses; a Chat Completions használatához /v1/chat/completions.
A modell nem találhatóLekérdezés /v1/models és használjon engedélyezett kanonikus azonosítót vagy álnevet.
Az ügynök nem használhat szerszámokatVálasszon egy modellt ellenőrzött eszköz-/funkcióhívással. A másodpilóta CLI streamelést is igényel.
A képmelléklet figyelmen kívül hagyva/elutasítvaHasználjon ellenőrzött képbeviteli/látási képességgel rendelkező modellt, és konfigurálja vision: true csak arra a modellre.
A segédprogramok nem működnek a csak BYOK beállítássalKonfigurálás chat.utilityModel és chat.utilitySmallModel elérhető BYOK modellekhez.
A soron belüli kitöltések továbbra is a GitHubot használják, vagy bejelentkezést igényelnekElvárás: A BYOK elsősorban a csevegés/ügynök/használati modell forgalmat szabályozza, nem minden másodpilóta funkciót.
A kérések váratlanul drágákHasználjon kisebb modellt a közüzemi munkákhoz, csökkentse az indoklást adott esetben, és állítsa be a Model Gate ráfordítási/RPM/koncurrenciális korlátait.

Aktuális upstream referenciák

A GitHub és a VS Code módosíthatja a BYOK konfigurációt a kiadások között. Az aktuális upstream viselkedéshez ellenőrizze:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models