B2BB2B LLM

GitHub Copilot

Повежите GitHub Copilot ћаскање, ВС Цоде агенте и Цопилот ЦЛИ на модел Гате помоћу БИОК-а и прилагођене крајње тачке компатибилне са ОпенАИ.

GitHub Copilot кроз модел капију

GitHub Copilot и подршка за Висуал Студио Цоде Донесите свој кључ (БИОК) модели. Модел Гате се може користити као прилагођена крајња тачка компатибилна са ОпенАИ-ом за Цопилот разговоре и радне токове агента.

За ВС Цоде, препоручено подешавање је Прилагођена крајња тачка провајдер са Респонсес АПИ. Користите довршавања ћаскања само када изабрани модел или ток посла изричито захтева ту породицу АПИ-ја.

Обавезне вредности

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Креирајте наменски АПИ кључ у Модел контролне табле капије. За интеграцију тима или радне станице, дајте предност засебном кључу уместо поновног коришћења неповезаног производног кључа, тако да ограничења, историја захтева, ротација и опозив остају лаки за ревизију.

Наведите тренутно омогућене моделе пре конфигурисања Цопилот-а:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Користите омогућен ИД канонског модела или псеудоним којим управља администратор који враћа ова крајња тачка.

ВС код: препоручено прилагођено подешавање крајње тачке

Тренутне верзије ВС кода излажу БИОК моделе у уређивачу језичких модела.

1. Отворите командну палету. 2. Трчи Ћаскање: Управљајте језичким моделима. 3. Изаберите Додај моделе. 4. Изаберите Прилагођена крајња тачка. 5. Користите назив групе као што је Model Gate. 6. Унесите АПИ кључ модела капије када ВС Цоде затражи акредитив добављача. 7. Изаберите Одговори као тип АПИ-ја када изабрани модел подржава АПИ за одговоре. 8. Конфигуришите модел са експлицитном крајњом тачком Модел Гате и сачувајте генерисано chatLanguageModels.json. 9. Изаберите модел капије модела из бирача модела за ћаскање.

Немојте користити застарели github.copilot.chat.customOAIModels подешавање за нову конфигурацију. Тренутни добављач прилагођене крајње тачке подржава крајње тачке у стилу одговора, довршавања ћаскања и порука и преферирана је путања конфигурације ВС кода.

Препоручена конфигурација одговора

Генерисани chatLanguageModels.json може користити овакву конфигурацију:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Замените gpt-5.4 са омогућеним моделом капије модела или псеудонимом.

ВС Цоде обично шаље АПИ кључ као:

Authorization: Bearer mg_live_...

што је исправан образац за аутентификацију за АПИ компатибилан са Модел Гате ОпенАИ.

Замена за завршетак ћаскања

Ако изабрани ток посла захтева довршавање ћаскања, конфигуришите модел као:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Преферирајте експлицитну пуну УРЛ адресу крајње тачке. Ово избегава двосмисленост ако ВС Цоде промени понашање закључивања УРЛ путање.

Препоруке о могућностима модела

Токови посла агента копилота захтевају модел који може да користи алате. За поуздану употребу агената кроз Модел Гате:

- изаберите модел са верификованим позивање алата/функције подршка; - изаберите модел са стреаминг подршка; - за прилоге слика користите модел са верификованим визију/унос слике способност и сет "vision": true за тај модел; - користите велики контекстни модел за рад агената на нивоу спремишта; ГитХуб тренутно препоручује најмање контекстни прозор од 128к токена за прилагођене моделе Цопилот ЦЛИ; - не оглашавати toolCalling, vision, образложење, контекст или излазна ограничења изнад стварних могућности изабраног модела капије модела; - тестирајте тачан модел у Модел Гате Плаигроунд пре него што га омогућите великом тиму.

Ако ручно подесите contextWindow, maxInputTokens, или maxOutputTokens у ВС коду, користите ограничења изабраног модела из аутентификованих /models странице или са GET /v1/models; не погађај их. Модел Гате мапира поља на следећи начин:

Подешавање ВС кодаМодел Гате поља
contextWindowcontext_window (иста вредност као context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Аутентификовани /models страница приказује ове као Контекст, Мак инпут, и Мак оутпут када је позната одговарајућа вредност. Да бисте директно прегледали АПИ објекат:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Вредност од 0 значи да Модел Гате нема конфигурисану вредност за ту границу. У том случају, оставите одговарајућу ручну поставку ВС кода неподешену уместо да улазите 0 или измишљање границе.

Корисни модели у ВС Цоде

ВС Цоде такође користи мање позадинске моделе за задатке као што су наслови, резимеи, поруке урезивања, предлози за преименовање и откривање намере.

Ако користите Модел Гате БИОК без Цопилот модела који хостује ГитХуб, конфигуришите:

chat.utilityModel
chat.utilitySmallModel

Изаберите брз и јефтин модел капије за chat.utilitySmallModel. Обично нема користи у плаћању највећег модела образложења за генерисање поруке урезивања или други лаки услужни рад.

Тхе chat.byokUtilityModelDefault подешавање такође може да контролише да ли помоћни рад прати изабрани БИОК модел главног агента, користи GitHub Copilot помоћне моделе или нема подразумевани.

Цопилот ЦЛИ

GitHub Copilot ЦЛИ подржава прилагођене добављаче компатибилне са ОпенАИ кроз променљиве окружења.

Линук или мацОС

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

копилот ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

копилот ```

За Цопилот ЦЛИ, изабрани модел мора да подржава позивање алата и стримовање. Користите омогућен модел или псеудоним и тестирајте га пре него што конфигурацију учините трајном.

Не стављајте АПИ кључ у историју љуске, датотеку спремишта или урезану .env. Користите своје складиште акредитива за ОС, заштићено окружење љуске или алате за управљање тајном организације где је то могуће.

Цопилот Бусинесс анд Ентерприсе

ГитХуб такође подржава прилагођене моделе организације/предузећа преко БИОК-а. ГитХуб је тренутно на листи ОпенАИ компатибилни провајдери као подржана категорија добављача прилагођеног модела. Овом способношћу на нивоу организације управља ГитХуб политика и може бити у прегледу у зависности од површине Цопилот-а.

За организацију којом се управља:

1. Омогућите ГитХуб прилагођени модели / БИОК политика потребна за ваш план Цопилот. 2. Додајте прилагођеног добављача/модела компатибилног са ОпенАИ-ом у поставкама модела Цопилот организације или предузећа. 3. Користите наменски Модел Гате АПИ кључ са минимално потребним дозволама и ограничењима Модел Гате-а. 4. Користите крајњу тачку Модел Гате и ИД модела којима ваш налог може да приступи. 5. Потврдите модел у токовима посла Цопилот Цхат/агента пре него што га широко изложите у бирачу модела организације.

ГитХуб може да промени кориснички интерфејс прилагођеног модела организације док се функција развија. Пратите тренутни ГитХуб административни интерфејс за тачне ознаке поља уместо да се ослањате на снимке екрана из старијег издања.

Препоруке за безбедност и трошкове

- Направите наменски кључ за модел капије за Цопилот уместо да делите кључ опште намене. – Примените ограничење броја обртаја, ограничење истовремености, ограничење потрошње или смернице пословне групе које одговарају саобраћају програмера и агента. - Одмах ротирајте кључ ако је налепљен у контролу извора, ћаскање, евиденције или проблем. - Никада се не обавезуј mg_live_... ин chatLanguageModels.json; нека ВС Цоде складишти акредитиве или упућује на улаз/тајну. – Омогућите деструктивна одобрења алата осим ако ваше развојно окружење није намерно заштићено. - Режим агента може да генерише много окрета модела/алата из једне корисничке инструкције. Поставите ограничења потрошње Модел Гате пре него што омогућите скупе моделе расуђивања за велика спремишта. - Користите мањи услужни модел за позадинске задатке и резервишите веће моделе резоновања за планирање, отклањање грешака или сложене рефакторе. - Проверите историју захтева модела капије када истражујете неочекиване трошкове, кашњење, ограничење брзине или грешке добављача.

Шта БИОК ради, а шта не замењује

Модел Гате БИОК може да напаја ВС Цоде ћаскање, токове рада агента, алате и услужне задатке када модел подржава потребне могућности.

Има не аутоматски заменити сваку функцију GitHub Copilot. У зависности од тренутног издања ВС Цоде/ГитХуб, функције као што су стандардна инлине довршавања кода, семантичка претрага, уграђивање или друге услуге хостоване на ГитХуб-у могу и даље да захтевају ГитХуб аутентификацију, Цопилот план или ГитХуб инфраструктуру.

Стога, користите Модел Гате БИОК када вам је циљ да контролишете путања модела цхат/агента и његов обрачун, а не као претпоставка да се сав мрежни саобраћај GitHub Copilot усмерава кроз Модел Гате.

Проверите модел капије пре тестирања Цопилота

Одговори

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Завршетак ћаскања

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Ако ови захтеви не успеју, поправите смернице АПИ кључ/модел/модел Гате пре отклањања грешака у Цопилот-у.

Решавање проблема

ПроблемРезолуција
Модел се не појављује у режиму агентаПроверите да ли је модел конфигурисан са позивањем алата и да стварни модел капије модела подржава позиве функција/алата. Поново покрените ВС код након промене конфигурације провајдера.
401 invalid_api_keyПоново унесите или ротирајте наменски кључ Модел капије. Потврдите да копилот шаље Authorization: Bearer ....
404 или погрешна крајња тачкаЗа одговоре користите експлицитно https://api.model-gate.com/v1/responses; за коришћење Довршетака ћаскања /v1/chat/completions.
Модел није пронађенУпит /v1/models и користите омогућен канонски ИД или псеудоним.
Агент не може да користи алатеИзаберите модел са верификованим позивањем алата/функције. Цопилот ЦЛИ такође захтева стримовање.
Прилог слике се игнорише/одбацујеКористите модел са верификованом могућношћу уноса слике/вида и конфигуришите vision: true само за тај модел.
Услужне функције не раде са подешавањем само за БИОККонфигуришите chat.utilityModel и chat.utilitySmallModel на доступне моделе БИОК.
Инлине довршавања и даље користе ГитХуб или захтевају пријавуОчекивано: БИОК првенствено контролише саобраћај за ћаскање/агент/услужни модел, а не сваку функцију Цопилот-а.
Захтеви су неочекивано скупиКористите мањи модел за рад услужних програма, ниже образложење где је то прикладно и конфигуришите ограничења потрошње/окретања у минути/конкурентности Модел Гате-а.

Тренутне упстреам референце

ГитХуб и ВС Цоде могу да промене БИОК конфигурацију између издања. За тренутно понашање узводно, проверите:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models