B2BB2B LLM

GitHub Copilot

Свържете GitHub Copilot Chat, VS Code агенти и Copilot CLI към Model Gate с BYOK и персонализирана крайна точка, съвместима с OpenAI.

GitHub Copilot през Model Gate

GitHub Copilot и поддръжка на Visual Studio Code Донесете свой собствен ключ (BYOK) модели. Model Gate може да се използва като персонализирана крайна точка, съвместима с OpenAI, за чат на Copilot и работни процеси на агенти.

За VS Code препоръчителната настройка е Персонализирана крайна точка доставчик с API за отговори. Използвайте Chat Completions само когато избран модел или работен процес изисква конкретно това семейство API.

Задължителни стойности

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Създайте специален API ключ в Модел Gate контролен панел. За интеграция на екип или работна станция предпочитайте отделен ключ вместо повторно използване на несвързан производствен ключ, така че ограниченията, историята на заявките, ротацията и отмяната да останат лесни за одит.

Избройте текущо активираните модели, преди да конфигурирате Copilot:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Използвайте активиран идентификатор на каноничен модел или псевдоним, управляван от администратор, върнат от тази крайна точка.

VS код: препоръчителна персонализирана настройка на крайната точка

Текущите версии на VS Code разкриват BYOK модели в редактора на езикови модели.

1. Отворете командната палитра. 2. Бягайте Чат: Управление на езикови модели. 3. Изберете Добавяне на модели. 4. Изберете Персонализирана крайна точка. 5. Използвайте име на група като Model Gate. 6. Въведете API ключа на Model Gate, когато VS Code поиска идентификационните данни на доставчика. 7. Изберете Отговори като тип API, когато избраният модел поддържа API за отговори. 8. Конфигурирайте модела с изричната крайна точка на Model Gate и запазете генерираното chatLanguageModels.json. 9. Изберете модела Model Gate от инструмента за избор на модел Chat.

Не използвайте отхвърленото github.copilot.chat.customOAIModels настройка за нова конфигурация. Текущият доставчик на потребителска крайна точка поддържа крайни точки в стил Responses, Chat Completions и Messages и е предпочитаният път за конфигуриране на VS Code.

Препоръчителна конфигурация за отговори

Генерираният chatLanguageModels.json може да използва конфигурация като тази:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Сменете gpt-5.4 с активиран модел или псевдоним на Model Gate.

VS Code обикновено изпраща API ключа като:

Authorization: Bearer mg_live_...

което е правилната форма за удостоверяване за OpenAI-съвместимия API на Model Gate.

Резервни завършвания на чат

Ако избраният работен процес изисква завършвания на чат, конфигурирайте модела като:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Предпочитайте ясен пълен URL адрес на крайна точка. Това избягва двусмислието, ако VS Code промени поведението на извод за URL път.

Препоръки за капацитет на модела

Работните процеси на Copilot агент изискват модел, който може да използва инструменти. За надеждно използване на агент чрез Model Gate:

- изберете модел с проверен извикване на инструмент/функция подкрепа; - изберете модел с стрийминг подкрепа; - за прикачени изображения използвайте модел с проверен въвеждане на визия/изображение възможност и набор "vision": true за този модел; - използвайте модел с голям контекст за работа на агенти в мащаб на хранилище; Понастоящем GitHub препоръчва поне 128k-токен контекстен прозорец за потребителски модели на Copilot CLI; - не рекламирайте toolCalling, vision, разсъждения, контекст или граници на изхода над действителната способност на избрания модел на модел Gate; - тествайте точния модел в Playground Model Gate, преди да го активирате за голям екип.

Ако зададете ръчно contextWindow, maxInputTokens, или maxOutputTokens във VS Code използвайте ограниченията на избрания модел от удостоверения /models страница или от GET /v1/models; не ги познай. Model Gate картографира полетата, както следва:

Настройка на VS кодМодел Gate поле
contextWindowcontext_window (същата стойност като context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Удостоверените /models страницата ги показва като Контекст, Максимален вход, и Максимална мощност когато е известна съответната стойност. За да инспектирате директно API обекта:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Стойност на 0 означава, че Model Gate няма конфигурирана стойност за това ограничение. В такъв случай оставете съответната ръчна настройка на VS кода незададена, вместо да я въвеждате 0 или измисляне на граница.

Полезни модели във VS Code

VS Code също използва по-малки фонови модели за задачи като заглавия, резюмета, съобщения за ангажиране, предложения за преименуване и откриване на намерения.

Ако използвате Model Gate BYOK без модел Copilot, хостван от GitHub, конфигурирайте:

chat.utilityModel
chat.utilitySmallModel

Изберете бърз и евтин модел Model Gate за chat.utilitySmallModel. Обикновено няма полза от плащането за най-големия модел на разсъждения за генериране на съобщение за ангажиране или друга лека помощна работа.

The chat.byokUtilityModelDefault настройката може също да контролира дали помощната работа следва избрания модел на главен агент BYOK, използва GitHub Copilot помощни модели или няма подразбиране.

Copilot CLI

GitHub Copilot CLI поддържа персонализирани доставчици, съвместими с OpenAI, чрез променливи на средата.

Linux или macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

втори пилот ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

втори пилот ```

За Copilot CLI избраният модел трябва да поддържа извикване на инструменти и стрийминг. Използвайте активиран модел или псевдоним на Model Gate и го тествайте, преди да направите конфигурацията постоянна.

Не поставяйте API ключа в хронологията на обвивката, във файл на хранилище или в committed .env. Използвайте вашето хранилище за идентификационни данни на ОС, защитена среда на обвивка или инструментариум за управление на секрети на организация, където е възможно.

Copilot Business и Enterprise

GitHub също поддържа потребителски модели на организация/предприятие чрез BYOK. В момента GitHub изрежда списъци OpenAI-съвместими доставчици като поддържана категория доставчик на потребителски модел. Тази възможност на ниво организация се управлява от правилата на GitHub и може да е в предварителен преглед в зависимост от повърхността на Copilot.

За управлявана организация:

1. Активирайте GitHub модели по поръчка / BYOK политика, необходима за вашия план Copilot. 2. Добавете персонализиран OpenAI-съвместим доставчик/модел в настройките на модела Copilot на организацията или предприятието. 3. Използвайте специален ключ за API на Model Gate с минимално необходимите разрешения и ограничения за Model Gate. 4. Използвайте крайната точка на Model Gate и ID на модела, до който вашият акаунт има достъп. 5. Валидирайте модела в работните потоци на Copilot Chat/агент, преди да го изложите широко в инструмента за избор на организационен модел.

GitHub може да промени потребителския интерфейс на персонализирания модел на организацията, докато функцията се развива. Следвайте текущия административен интерфейс на GitHub за точните етикети на полетата, вместо да разчитате на екранни снимки от по-стара версия.

Препоръки за сигурност и цена

- Създайте специален ключ за модел Gate за Copilot, вместо да споделяте ключ с общо предназначение. - Приложете ограничение за RPM, ограничение за паралелност, ограничение на разходите или политика на бизнес група, подходяща за трафика на програмист-агент. - Завъртете ключа незабавно, ако е поставен в контрола на източника, чат, регистрационни файлове или проблем. - Никога не се обвързвайте mg_live_... в chatLanguageModels.json; оставете VS Code да съхранява идентификационните данни или да посочи вход/тайна. - Поддържайте активирани одобрения за разрушителни инструменти, освен ако вашата среда за разработка не е умишлено защитена. - Режимът на агент може да генерира много завъртания на модел/инструмент от една потребителска инструкция. Задайте лимити на разходите на Model Gate, преди да активирате скъпи модели на разсъждение за големи хранилища. - Използвайте по-малък полезен модел за фонови задачи и запазете по-големи модели за разсъждение за планиране, отстраняване на грешки или сложни рефактори. - Проверявайте хронологията на заявките за модел Gate, когато проучвате неочаквани разходи, латентност, лимит на скоростта или грешки на доставчика.

Какво BYOK прави и какво не замества

Модел Gate BYOK може да захранва VS Code чат, работни потоци на агенти, инструменти и помощни задачи, когато моделът поддържа необходимите възможности.

Това го прави не автоматично замества всеки GitHub Copilot елемент. В зависимост от текущата версия на VS Code/GitHub, функции като стандартни довършвания на вграден код, семантично търсене, вграждания или други услуги, хоствани от GitHub, все още могат да изискват GitHub удостоверяване, Copilot план или GitHub инфраструктура.

Затова използвайте Model Gate BYOK, когато целта ви е да контролирате модел път на чат/агент и неговото таксуване, а не като предположение, че целият GitHub Copilot мрежов трафик се насочва през Model Gate.

Проверете Model Gate, преди да тествате Copilot

Отговори

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Чат завършвания

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Ако тези заявки са неуспешни, поправете правилата за API ключ/модел/Model Gate, преди да отстраните грешките на Copilot.

Отстраняване на неизправности

проблемРезолюция
Моделът не се показва в агентски режимУверете се, че моделът е конфигуриран с извикване на инструмент и че действителният модел на Model Gate поддържа извиквания на функция/инструмент. Рестартирайте VS Code след промяна на конфигурацията на доставчика.
401 invalid_api_keyВъведете отново или завъртете специалния ключ Model Gate. Потвърдете изпращането на Copilot Authorization: Bearer ....
404 или грешна крайна точкаЗа отговори използвайте изричния https://api.model-gate.com/v1/responses; за използване на довършвания на чат /v1/chat/completions.
Моделът не е намеренЗапитване /v1/models и използвайте активиран каноничен идентификатор или псевдоним.
Агентът не може да използва инструментиИзберете модел с потвърдено извикване на инструмент/функция. Copilot CLI също изисква поточно предаване.
Прикаченото изображение се игнорира/отхвърляИзползвайте модел с проверени възможности за въвеждане на изображение/визия и конфигурирайте vision: true само за този модел.
Функциите на помощната програма не работят при настройка само за BYOKКонфигуриране chat.utilityModel и chat.utilitySmallModel към наличните модели BYOK.
Вградените довършвания все още използват GitHub или изискват влизанеОчаквано: BYOK основно контролира трафика на чат/агент/полезен модел, а не всяка функция на Copilot.
Заявките са неочаквано скъпиИзползвайте по-малък модел за помощна работа, по-ниско разсъждение, където е подходящо, и конфигурирайте лимитите за разходи/RPM/паралелност на Model Gate.

Текущи референции нагоре по веригата

GitHub и VS Code могат да променят конфигурацията на BYOK между версиите. За текущото поведение нагоре по веригата проверете:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models