B2BB2B LLM

GitHub Copilot

BYOK ve OpenAI uyumlu özel bir uç nokta ile GitHub Copilot Chat, VS Code aracıları ve Copilot CLI'yi Model Gate'e bağlayın.

GitHub Copilot ile Model Kapısı

GitHub Copilot ve Visual Studio Code desteği Kendi Anahtarınızı Getirin (BYOK) modeller. Model Gate, Copilot sohbeti ve aracı iş akışları için OpenAI uyumlu özel bir uç nokta olarak kullanılabilir.

VS Code için önerilen kurulum şudur: Özel Uç Nokta sağlayıcı ile Yanıtlar API'sı. Sohbet Tamamlamalarını yalnızca seçilen bir model veya iş akışı özellikle bu API ailesini gerektirdiğinde kullanın.

Gerekli değerler

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Özel bir API anahtarı oluşturun. Model Kapısı kontrol paneli. Bir ekip veya iş istasyonu entegrasyonu için ilgisiz bir üretim anahtarını yeniden kullanmak yerine ayrı bir anahtar tercih edin; böylece limitlerin, istek geçmişinin, rotasyonun ve iptalin denetlenmesi kolay kalır.

Copilot'u yapılandırmadan önce şu anda etkin olan modelleri listeleyin:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Bu uç noktanın döndürdüğü etkinleştirilmiş bir standart model kimliğini veya yönetici tarafından yönetilen takma adı kullanın.

VS Kodu: önerilen Özel Uç Nokta kurulumu

Mevcut VS Code sürümleri, Dil Modelleri düzenleyicisinde BYOK modellerini kullanıma sunar.

1. Komut Paletini açın. 2. Çalıştır Sohbet: Dil Modellerini Yönetin. 3. Seçin Model Ekle. 4. Seçin Özel Uç Nokta. 5. Gibi bir grup adı kullanın Model Gate. 6. VS Code sağlayıcının kimlik bilgilerini istediğinde Model Gate API anahtarını girin. 7. Seçin Yanıtlar Seçilen model Responses API'yi desteklediğinde API türü olarak. 8. Modeli açık Model Geçidi uç noktasıyla yapılandırın ve oluşturulan verileri kaydedin. chatLanguageModels.json. 9. Sohbet modeli seçiciden Model Kapısı modelini seçin.

Kullanımdan kaldırılmış olanı kullanmayın github.copilot.chat.customOAIModels yeni bir yapılandırma için ayar. Mevcut Özel Uç Nokta sağlayıcısı Yanıtları, Sohbet Tamamlamalarını ve Mesaj tarzı uç noktaları destekler ve tercih edilen VS Code yapılandırma yoludur.

Önerilen Yanıtlar yapılandırması

Oluşturulan chatLanguageModels.json bunun gibi bir konfigürasyon kullanabilirsiniz:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Yer değiştirmek gpt-5.4 Etkinleştirilmiş bir Model Gate modeli veya takma adı ile.

VS Code normalde API anahtarını şu şekilde gönderir:

Authorization: Bearer mg_live_...

Model Gate OpenAI uyumlu API için doğru kimlik doğrulama formu budur.

Sohbet Tamamlamaları yedeği

Seçilen iş akışı Sohbet Tamamlamalarını gerektiriyorsa modeli şu şekilde yapılandırın:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Açık bir tam uç nokta URL'sini tercih edin. Bu, VS Kodunun URL yolu çıkarım davranışını değiştirmesi durumunda belirsizliği önler.

Model yeteneği önerileri

Yardımcı pilot aracısı iş akışları, araçları kullanabilen bir model gerektirir. Model Gate aracılığıyla güvenilir temsilci kullanımı için:

- doğrulanmış bir model seçin araç/işlev çağırma Destek; - ile bir model seçin akış Destek; - resim ekleri için doğrulanmış bir model kullanın görüş/görüntü girişi yetenek ve ayar "vision": true bu model için; - veri havuzu ölçeğinde aracı çalışması için geniş bir bağlam modeli kullanın; GitHub şu anda Copilot CLI özel modelleri için en az 128k jetonlu bir bağlam penceresi önermektedir; - reklam yapmayın toolCalling, visionseçilen Model Geçidi modelinin gerçek yeteneğinin üzerindeki muhakeme, bağlam veya çıktı limitleri; - büyük bir ekip için etkinleştirmeden önce tam modeli Model Gate Oyun Alanında test edin.

Eğer manuel olarak ayarlarsanız contextWindow, maxInputTokens, veya maxOutputTokens VS Kodunda, kimliği doğrulanmış modelden seçilen modelin sınırlarını kullanın /models sayfadan veya GET /v1/models; onları tahmin etmeyin. Model Gate, alanları şu şekilde eşler:

VS Kodu ayarıModel Kapısı alanı
contextWindowcontext_window (aynı değer context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Kimliği doğrulanmış /models sayfa bunları şu şekilde gösterir: Bağlam, Maksimum giriş, Ve Maksimum çıktı karşılık gelen değer bilindiğinde. API nesnesini doğrudan incelemek için:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Bir değer 0 Model Gate'in bu limit için yapılandırılmış bir değere sahip olmadığı anlamına gelir. Bu durumda, ilgili manuel VS Kodu ayarını ayarlamak yerine ayarlamadan bırakın. 0 veya bir sınır icat etmek.

VS Code'daki faydalı modeller

VS Code ayrıca başlıklar, özetler, taahhüt mesajları, yeniden adlandırma önerileri ve amaç tespiti gibi görevler için daha küçük arka plan modelleri kullanır.

Model Gate BYOK'u GitHub tarafından barındırılan Copilot modeli olmadan kullanıyorsanız şunları yapılandırın:

chat.utilityModel
chat.utilitySmallModel

Hızlı ve ucuz bir Model Gate modeli seçin. chat.utilitySmallModel. Taahhüt mesajı oluşturma veya diğer hafif yardımcı işler için en büyük akıl yürütme modeline ödeme yapmanın genellikle hiçbir faydası yoktur.

The chat.byokUtilityModelDefault ayar aynı zamanda yardımcı çalışmanın seçilen BYOK ana aracı modelini takip edip etmediğini, GitHub Copilot faydalı model kullanıp kullanmadığını veya varsayılanı olup olmadığını da kontrol edebilir.

Yardımcı Pilot CLI

GitHub Copilot CLI, ortam değişkenleri aracılığıyla OpenAI uyumlu özel sağlayıcıları destekler.

Linux veya macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

yardımcı pilot ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

yardımcı pilot ```

Copilot CLI için seçilen modelin desteklemesi gerekir araç çağırma ve akış. Etkinleştirilmiş bir Model Geçidi modeli veya takma adı kullanın ve yapılandırmayı kalıcı hale getirmeden önce test edin.

API anahtarını kabuk geçmişine, bir depo dosyasına veya taahhütlü bir dosyaya yerleştirmeyin. .env. Mümkün olduğunda işletim sistemi kimlik bilgileri deponuzu, korumalı kabuk ortamınızı veya kuruluşunuzun gizli yönetim araçlarını kullanın.

Yardımcı Pilot İşletmesi ve İşletmesi

GitHub ayrıca BYOK aracılığıyla organizasyon/kurumsal özel modelleri de destekler. GitHub şu anda listeleniyor OpenAI uyumlu sağlayıcılar desteklenen bir özel model sağlayıcı kategorisi olarak. Bu kuruluş düzeyindeki yetenek GitHub ilkesi tarafından yönetilir ve Copilot yüzeyine bağlı olarak önizlemede olabilir.

Yönetilen bir kuruluş için:

1. GitHub'ı etkinleştirin özel modeller / BYOK Copilot planınız için gereken politika. 2. Organizasyon veya kurumsal Copilot modeli ayarlarına özel bir OpenAI uyumlu sağlayıcı/model ekleyin. 3. Gerekli minimum Model Geçidi izinlerine ve limitlerine sahip özel bir Model Geçidi API anahtarı kullanın. 4. Model Geçidi uç noktasını ve hesabınızın erişebileceği bir model kimliğini kullanın. 5. Modeli, organizasyon modeli seçicide geniş bir şekilde kullanıma sunmadan önce, Copilot Chat/temsilci iş akışlarında doğrulayın.

GitHub, özellik gelişirken kuruluşun özel model kullanıcı arayüzünü değiştirebilir. Tam alan etiketleri için eski bir sürümün ekran görüntülerine güvenmek yerine mevcut GitHub yönetim kullanıcı arayüzünü takip edin.

Güvenlik ve maliyet önerileri

- Genel amaçlı bir anahtarı paylaşmak yerine, Copilot için özel bir Model Kapısı anahtarı oluşturun. - Geliştirici-aracı trafiğine uygun bir RPM sınırı, eşzamanlılık sınırı, harcama sınırı veya İş grubu politikası uygulayın. - Kaynak kontrolüne, sohbete, günlüklere veya bir soruna yapıştırılırsa anahtarı hemen çevirin. - Asla taahhütte bulunma mg_live_... içinde chatLanguageModels.json; VS Code'un kimlik bilgilerini saklamasına veya bir girişe/gizli bilgiye referans vermesine izin verin. - Geliştirme ortamınız kasıtlı olarak korumalı alana alınmadığı sürece, yıkıcı araç onaylarını etkin tutun. - Ajan modu, bir kullanıcı talimatından birçok model/araç dönüşü oluşturabilir. Büyük depolar için pahalı muhakeme modellerini etkinleştirmeden önce Model Geçidi harcama limitlerini ayarlayın. - Arka plan görevleri için daha küçük bir faydalı model kullanın ve planlama, hata ayıklama veya karmaşık yeniden düzenleme işlemleri için daha büyük akıl yürütme modellerini ayırın. - Beklenmeyen maliyet, gecikme, hız sınırı veya sağlayıcı hatalarını araştırırken Model Geçidi İstek Geçmişini kontrol edin.

BYOK ne yapar ve nelerin yerine geçmez

Model Gate BYOK modeli, model gerekli yetenekleri desteklediğinde VS Code sohbetine, aracı iş akışlarına, araçlara ve yardımcı program görevlerine güç sağlayabilir.

öyle Olumsuz her GitHub Copilot özelliğini otomatik olarak değiştir. Mevcut VS Code/GitHub sürümüne bağlı olarak standart satır içi kod tamamlamalar, semantik arama, yerleştirmeler veya diğer GitHub tarafından barındırılan hizmetler gibi özellikler hala GitHub kimlik doğrulaması, Copilot planı veya GitHub altyapısı gerektirebilir.

Bu nedenle amacınız kontrol etmek olduğunda Model Gate BYOK'u kullanın. sohbet/temsilci modeli yolu ve faturalandırması, tüm GitHub Copilot ağ trafiğinin Model Geçidi üzerinden yönlendirildiği varsayımı olarak değil.

Copilot'u test etmeden önce Model Kapısını doğrulayın

Yanıtlar

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Sohbet Tamamlamaları

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Bu istekler başarısız olursa Copilot'ta hata ayıklamadan önce API anahtarı/modeli/Model Geçidi politikasını düzeltin.

Sorun giderme

SorunÇözünürlük
Model aracı modunda görünmüyorModelin araç çağrısıyla yapılandırıldığını ve gerçek Model Kapısı modelinin işlev/araç çağrılarını desteklediğini doğrulayın. Sağlayıcı yapılandırmasını değiştirdikten sonra VS Code'u yeniden başlatın.
401 invalid_api_keyÖzel Model Kapısı anahtarını yeniden girin veya döndürün. Copilot gönderimlerini onaylayın Authorization: Bearer ....
404 veya yanlış uç noktaYanıtlar için açık ifadeyi kullanın https://api.model-gate.com/v1/responses; Sohbet Tamamlamalarının kullanımı için /v1/chat/completions.
Model bulunamadıSorgu /v1/models ve etkinleştirilmiş bir standart kimlik veya takma ad kullanın.
Temsilci araçları kullanamıyorDoğrulanmış araç/işlev çağrısına sahip bir model seçin. Copilot CLI ayrıca akış gerektirir.
Resim eki göz ardı edildi/reddedildiDoğrulanmış görüntü girişi/görme özelliğine sahip bir model kullanın ve yapılandırın vision: true sadece o model için.
Yardımcı program özellikleri yalnızca BYOK kurulumuyla çalışmazYapılandır chat.utilityModel Ve chat.utilitySmallModel mevcut BYOK modellerine.
Satır içi tamamlamalar hala GitHub kullanıyor veya oturum açmayı gerektiriyorBeklenen: BYOK, her Copilot özelliğini değil, öncelikle sohbet/aracı/yardımcı model trafiğini kontrol eder.
İstekler beklenmedik derecede pahalıFaydalı işler için daha küçük bir model kullanın, uygun olduğunda daha düşük muhakeme yapın ve Model Geçidi harcama/RPM/eşzamanlılık sınırlarını yapılandırın.

Mevcut yukarı akış referansları

GitHub ve VS Code, sürümler arasında BYOK yapılandırmasını değiştirebilir. Mevcut yukarı akış davranışı için şunları kontrol edin:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models