B2BB2B LLM

GitHub Copilot

Συνδέστε GitHub Copilot Chat, αντιπροσώπους VS Code και Copilot CLI στο Model Gate με το BYOK και ένα προσαρμοσμένο τελικό σημείο συμβατό με OpenAI.

GitHub Copilot μέσω της Πύλης Μοντέλων

GitHub Copilot και υποστήριξη κώδικα του Visual Studio Φέρτε το δικό σας κλειδί (BYOK) μοντέλα. Το Model Gate μπορεί να χρησιμοποιηθεί ως προσαρμοσμένο τελικό σημείο συμβατό με OpenAI για ροές εργασιών συνομιλίας και αντιπροσώπου Copilot.

Για τον κώδικα VS, η συνιστώμενη ρύθμιση είναι η Προσαρμοσμένο τελικό σημείο πάροχος με το Responses API. Χρησιμοποιήστε τις Ολοκληρώσεις συνομιλίας μόνο όταν ένα επιλεγμένο μοντέλο ή ροή εργασίας απαιτεί συγκεκριμένα αυτήν την οικογένεια API.

Απαιτούμενες τιμές

API key: mg_live_...
Responses endpoint: https://api.model-gate.com/v1/responses
Chat Completions endpoint: https://api.model-gate.com/v1/chat/completions
Base URL for Copilot CLI: https://api.model-gate.com/v1

Δημιουργήστε ένα αποκλειστικό κλειδί API στο Πίνακας ελέγχου Model Gate. Για την ενσωμάτωση μιας ομάδας ή ενός σταθμού εργασίας, προτιμήστε ένα ξεχωριστό κλειδί αντί να επαναχρησιμοποιήσετε ένα άσχετο κλειδί παραγωγής, ώστε τα όρια, το ιστορικό αιτημάτων, η εναλλαγή και η ανάκληση να παραμένουν εύκολο να ελεγχθούν.

Καταγράψτε τα μοντέλα που είναι ενεργοποιημένα αυτήν τη στιγμή πριν από τη διαμόρφωση του Copilot:

curl https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..."

Χρησιμοποιήστε ένα ενεργοποιημένο κανονικό αναγνωριστικό μοντέλου ή ένα ψευδώνυμο που διαχειρίζεται ο διαχειριστής που επιστρέφεται από αυτό το τελικό σημείο.

Κωδικός VS: Συνιστάται προσαρμοσμένη ρύθμιση τερματικού

Οι τρέχουσες εκδόσεις VS Code εκθέτουν μοντέλα BYOK στο πρόγραμμα επεξεργασίας μοντέλων γλώσσας.

1. Ανοίξτε την Παλέτα εντολών. 2. Τρέξε Chat: Διαχείριση μοντέλων γλώσσας. 3. Επιλέξτε Προσθήκη μοντέλων. 4. Επιλέξτε Προσαρμοσμένο τελικό σημείο. 5. Χρησιμοποιήστε ένα όνομα ομάδας όπως π.χ Model Gate. 6. Εισαγάγετε το κλειδί Model Gate API όταν ο Κώδικας VS ζητά τα διαπιστευτήρια παρόχου. 7. Επιλέξτε Απαντήσεις ως τύπος API όταν το επιλεγμένο μοντέλο υποστηρίζει το Responses API. 8. Διαμορφώστε το μοντέλο με το ρητό τελικό σημείο Model Gate και αποθηκεύστε το δημιουργημένο chatLanguageModels.json. 9. Επιλέξτε το μοντέλο Πύλης Μοντέλων από το εργαλείο επιλογής μοντέλου συνομιλίας.

Μην χρησιμοποιείτε το καταργημένο github.copilot.chat.customOAIModels ρύθμιση για μια νέα διαμόρφωση. Ο τρέχων πάροχος προσαρμοσμένου σημείου τερματισμού υποστηρίζει αποκρίσεις, ολοκληρώσεις συνομιλίας και τελικά σημεία σε στυλ μηνυμάτων και είναι η προτιμώμενη διαδρομή διαμόρφωσης κώδικα VS.

Διαμόρφωση προτεινόμενων απαντήσεων

Το παραγόμενο chatLanguageModels.json μπορεί να χρησιμοποιήσει μια διαμόρφωση όπως αυτή:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "responses",
    "models": [
      {
        "id": "gpt-5.4",
        "name": "GPT-5.4 through Model Gate",
        "url": "https://api.model-gate.com/v1/responses",
        "toolCalling": true
      }
    ]
  }
]

Αντικαθιστώ gpt-5.4 με ενεργοποιημένο μοντέλο ή ψευδώνυμο Πύλης Model.

Ο Κώδικας VS συνήθως στέλνει το κλειδί API ως εξής:

Authorization: Bearer mg_live_...

που είναι η σωστή φόρμα ελέγχου ταυτότητας για το API συμβατό με OpenAI με το Model Gate.

Εναλλακτικά Ολοκληρώσεις συνομιλίας

Εάν η επιλεγμένη ροή εργασίας απαιτεί Ολοκληρώσεις συνομιλίας, διαμορφώστε το μοντέλο ως:

[
  {
    "name": "Model Gate",
    "vendor": "customendpoint",
    "apiKey": "${input:modelGateApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "MODEL_ID",
        "name": "MODEL_ID through Model Gate",
        "url": "https://api.model-gate.com/v1/chat/completions",
        "toolCalling": true
      }
    ]
  }
]

Προτιμήστε μια ρητή πλήρη διεύθυνση URL τελικού σημείου. Αυτό αποφεύγει την ασάφεια εάν ο κώδικας VS αλλάξει τη συμπεριφορά συμπερασμάτων διαδρομής URL.

Προτάσεις ικανότητας μοντέλου

Οι ροές εργασίας αντιπροσώπου Copilot απαιτούν ένα μοντέλο που μπορεί να χρησιμοποιήσει εργαλεία. Για αξιόπιστη χρήση αντιπροσώπου μέσω της Πύλης Model:

- επιλέξτε ένα μοντέλο με επαληθευμένο κλήση εργαλείου/λειτουργίας υποστήριξη; - επιλέξτε ένα μοντέλο με ροής υποστήριξη; - για συνημμένα εικόνων, χρησιμοποιήστε ένα μοντέλο με επαληθευμένο εισαγωγή όρασης/εικόνας ικανότητα και σετ "vision": true για αυτό το μοντέλο? - Χρησιμοποιήστε ένα μεγάλο μοντέλο περιβάλλοντος για εργασία με πράκτορα σε κλίμακα αποθετηρίου. Το GitHub συνιστά επί του παρόντος τουλάχιστον ένα παράθυρο περιβάλλοντος 128k-token για προσαρμοσμένα μοντέλα Copilot CLI. - μην διαφημίζεστε toolCalling, vision, συλλογιστική, πλαίσιο ή όρια εξόδου πάνω από την πραγματική ικανότητα του επιλεγμένου μοντέλου Πύλης Μοντέλων. - δοκιμάστε το ακριβές μοντέλο στο Model Gate Playground πριν το ενεργοποιήσετε για μια μεγάλη ομάδα.

Εάν ρυθμίσετε χειροκίνητα contextWindow, maxInputTokens, ή maxOutputTokens στο VS Code, χρησιμοποιήστε τα όρια του επιλεγμένου μοντέλου από τον έλεγχο ταυτότητας /models σελίδα ή από GET /v1/models; μην τα μαντέψετε. Το Model Gate αντιστοιχίζει τα πεδία ως εξής:

Ρύθμιση κωδικού VSΠεδίο Πύλης Μοντέλων
contextWindowcontext_window (ίδια τιμή με context_length)
maxInputTokensmax_input_tokens
maxOutputTokensmax_output_tokens

Το πιστοποιημένο /models σελίδα εμφανίζει αυτά ως Συμφραζόμενα, Μέγιστη είσοδος, και Μέγιστη απόδοση όταν είναι γνωστή η αντίστοιχη τιμή. Για να επιθεωρήσετε απευθείας το αντικείμενο API:

curl -s https://api.model-gate.com/v1/models \
  -H "Authorization: Bearer mg_live_..." \
| jq '.data[] | select(.id=="MODEL_ID") | {context_window,max_input_tokens,max_output_tokens}'

Μια τιμή του 0 σημαίνει ότι το Model Gate δεν έχει διαμορφωμένη τιμή για αυτό το όριο. Σε αυτήν την περίπτωση, αφήστε την αντίστοιχη μη αυτόματη ρύθμιση VS Code παρά να την εισάγετε 0 ή επινοώντας ένα όριο.

Χρήσιμα μοντέλα σε VS Code

Το VS Code χρησιμοποιεί επίσης μικρότερα μοντέλα φόντου για εργασίες όπως τίτλους, περιλήψεις, μηνύματα δέσμευσης, προτάσεις μετονομασίας και ανίχνευση πρόθεσης.

Εάν χρησιμοποιείτε Model Gate BYOK χωρίς μοντέλο Copilot που φιλοξενείται από το GitHub, διαμορφώστε:

chat.utilityModel
chat.utilitySmallModel

Επιλέξτε ένα γρήγορο και φθηνό μοντέλο Model Gate για chat.utilitySmallModel. Συνήθως δεν υπάρχει κανένα όφελος από την πληρωμή του μεγαλύτερου συλλογιστικού μοντέλου για τη δημιουργία δεσμεύσεων-μηνυμάτων ή άλλη ελαφριά βοηθητική εργασία.

Ο chat.byokUtilityModelDefault Η ρύθμιση μπορεί επίσης να ελέγξει εάν η βοηθητική εργασία ακολουθεί το επιλεγμένο μοντέλο κύριου παράγοντα BYOK, χρησιμοποιεί μοντέλα βοηθητικού προγράμματος GitHub Copilot ή δεν έχει προεπιλογή.

Copilot CLI

GitHub Copilot Το CLI υποστηρίζει προσαρμοσμένους παρόχους συμβατούς με OpenAI μέσω μεταβλητών περιβάλλοντος.

Linux ή macOS

export COPILOT_PROVIDER_TYPE="openai"
export COPILOT_PROVIDER_BASE_URL="https://api.model-gate.com/v1"
export COPILOT_PROVIDER_API_KEY="mg_live_..."
export COPILOT_MODEL="MODEL_ID"

συγκυβερνήτης ```

Windows PowerShell

$env:COPILOT_PROVIDER_TYPE = "openai"
$env:COPILOT_PROVIDER_BASE_URL = "https://api.model-gate.com/v1"
$env:COPILOT_PROVIDER_API_KEY = "mg_live_..."
$env:COPILOT_MODEL = "MODEL_ID"

συγκυβερνήτης ```

Για το Copilot CLI, το επιλεγμένο μοντέλο πρέπει να υποστηρίζει κλήση εργαλείου και ροή. Χρησιμοποιήστε ένα ενεργοποιημένο μοντέλο ή ψευδώνυμο Πύλης Μοντέλων και δοκιμάστε το πριν κάνετε τη διαμόρφωση μόνιμη.

Μην τοποθετείτε το κλειδί API στο ιστορικό φλοιού, σε αρχείο αποθήκης ή σε δέσμευση .env. Χρησιμοποιήστε το κατάστημα διαπιστευτηρίων του λειτουργικού σας συστήματος, το προστατευμένο περιβάλλον κελύφους ή τα εργαλεία διαχείρισης μυστικών του οργανισμού, όπου είναι δυνατόν.

Copilot Business and Enterprise

Το GitHub υποστηρίζει επίσης προσαρμοσμένα μοντέλα οργανισμού/επιχειρήσεων μέσω του BYOK. Το GitHub λίστες αυτήν τη στιγμή Πάροχοι συμβατοί με OpenAI ως υποστηριζόμενη κατηγορία παρόχου προσαρμοσμένου μοντέλου. Αυτή η δυνατότητα σε επίπεδο οργανισμού διαχειρίζεται η πολιτική του GitHub και ενδέχεται να είναι σε προεπισκόπηση ανάλογα με την επιφάνεια του Copilot.

Για έναν διαχειριζόμενο οργανισμό:

1. Ενεργοποιήστε το GitHub προσαρμοσμένα μοντέλα / BYOK πολιτική που απαιτείται για το σχέδιο Copilot. 2. Προσθέστε έναν προσαρμοσμένο πάροχο/μοντέλο συμβατό με OpenAI στις ρυθμίσεις του μοντέλου του οργανισμού ή του εταιρικού μοντέλου Copilot. 3. Χρησιμοποιήστε ένα αποκλειστικό κλειδί Model Gate API με τα ελάχιστα απαραίτητα δικαιώματα και όρια Model Gate. 4. Χρησιμοποιήστε το τελικό σημείο Πύλης Μοντέλων και ένα αναγνωριστικό μοντέλου στο οποίο μπορεί να έχει πρόσβαση ο λογαριασμός σας. 5. Επικυρώστε το μοντέλο στις ροές εργασίας Copilot Chat/agent πριν το εκθέσετε ευρέως στον επιλογέα μοντέλου οργανισμού.

Το GitHub μπορεί να αλλάξει τη διεπαφή χρήστη προσαρμοσμένου μοντέλου οργανισμού ενώ η δυνατότητα εξελίσσεται. Ακολουθήστε την τρέχουσα διεπαφή διαχείρισης του GitHub για τις ακριβείς ετικέτες πεδίων αντί να βασίζεστε σε στιγμιότυπα οθόνης από μια παλαιότερη έκδοση.

Προτάσεις ασφάλειας και κόστους

- Δημιουργήστε ένα αποκλειστικό κλειδί Model Gate για το Copilot αντί να μοιράζεστε ένα κλειδί γενικής χρήσης. - Εφαρμόστε ένα όριο RPM, ένα όριο συγχρονισμού, ένα όριο δαπανών ή μια πολιτική επιχειρηματικής ομάδας κατάλληλη για την επισκεψιμότητα προγραμματιστή-πρακτόρων. - Περιστρέψτε το κλειδί αμέσως εάν έχει επικολληθεί σε έλεγχο πηγής, συνομιλία, αρχεία καταγραφής ή πρόβλημα. - Μην δεσμεύεσαι ποτέ mg_live_... σε chatLanguageModels.json; αφήστε τον VS Code να αποθηκεύσει τα διαπιστευτήρια ή να παραπέμψει σε μια είσοδο/μυστικό. - Διατηρήστε ενεργοποιημένες τις εγκρίσεις καταστροφικών εργαλείων, εκτός εάν το περιβάλλον ανάπτυξής σας είναι σκόπιμα σε sandbox. - Η λειτουργία Agent μπορεί να δημιουργήσει πολλές στροφές μοντέλων/εργαλείων από μία οδηγία χρήστη. Ορίστε όρια δαπανών Model Gate πριν ενεργοποιήσετε ακριβά μοντέλα συλλογισμού για μεγάλα αποθετήρια. - Χρησιμοποιήστε ένα μικρότερο μοντέλο χρησιμότητας για εργασίες στο παρασκήνιο και δεσμεύστε μεγαλύτερα μοντέλα συλλογιστικής για προγραμματισμό, εντοπισμό σφαλμάτων ή σύνθετους ανασχηματιστές. - Ελέγξτε το Ιστορικό αιτημάτων πύλης μοντέλου κατά τη διερεύνηση απροσδόκητων σφαλμάτων κόστους, καθυστέρησης, ορίου ποσοστού ή σφαλμάτων παρόχου.

Τι κάνει και δεν αντικαθιστά η BYOK

Ένα μοντέλο Πύλης Μοντέλων BYOK μπορεί να τροφοδοτήσει τη συνομιλία VS Code, τις ροές εργασίας αντιπροσώπων, τα εργαλεία και τις βοηθητικές εργασίες όταν το μοντέλο υποστηρίζει τις απαιτούμενες δυνατότητες.

Το κάνει δεν αντικαταστήστε αυτόματα κάθε χαρακτηριστικό GitHub Copilot. Ανάλογα με την τρέχουσα έκδοση VS Code/GitHub, λειτουργίες όπως τυπικές συμπληρώσεις ενσωματωμένου κώδικα, σημασιολογική αναζήτηση, ενσωματώσεις ή άλλες υπηρεσίες που φιλοξενούνται στο GitHub μπορούν να απαιτούν εξακολουθούν να απαιτούν έλεγχο ταυτότητας GitHub, σχέδιο Copilot ή υποδομή GitHub.

Επομένως, χρησιμοποιήστε το Model Gate BYOK όταν ο στόχος σας είναι να ελέγξετε το διαδρομή μοντέλου συνομιλίας/προσώπου και η χρέωσή του, όχι ως υπόθεση ότι όλη η κίνηση δικτύου GitHub Copilot δρομολογείται μέσω της Πύλης Μοντέλων.

Επαληθεύστε το Model Gate πριν δοκιμάσετε το Copilot

Απαντήσεις

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Reply with exactly: Model Gate OK"
  }'

Ολοκληρώσεις συνομιλίας

curl https://api.model-gate.com/v1/chat/completions \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Reply with exactly: Model Gate OK"}]
  }'

Εάν αυτά τα αιτήματα αποτύχουν, διορθώστε την πολιτική κλειδιού/μοντέλου/μοντέλου API πριν από τον εντοπισμό σφαλμάτων του Copilot.

Αντιμετώπιση προβλημάτων

ΠρόβλημαΨήφισμα
Το μοντέλο δεν εμφανίζεται σε λειτουργία πράκτοραΒεβαιωθείτε ότι το μοντέλο έχει διαμορφωθεί με κλήση εργαλείου και ότι το πραγματικό μοντέλο Πύλης Μοντέλων υποστηρίζει κλήσεις λειτουργίας/εργαλείων. Κάντε επανεκκίνηση του VS Code αφού αλλάξετε τη διαμόρφωση του παρόχου.
401 invalid_api_keyΕισαγάγετε ξανά ή περιστρέψτε το αποκλειστικό κλειδί Model Gate. Επιβεβαίωση αποστολής Copilot Authorization: Bearer ....
404 ή λάθος τελικό σημείοΓια απαντήσεις χρησιμοποιήστε τη ρητή https://api.model-gate.com/v1/responses; για χρήση Ολοκληρώσεις συνομιλίας /v1/chat/completions.
Το μοντέλο δεν βρέθηκεΕρώτηση /v1/models και χρησιμοποιήστε ένα ενεργοποιημένο κανονικό αναγνωριστικό ή ψευδώνυμο.
Ο πράκτορας δεν μπορεί να χρησιμοποιήσει εργαλείαΕπιλέξτε ένα μοντέλο με επαληθευμένη κλήση εργαλείου/λειτουργίας. Το Copilot CLI απαιτεί επίσης ροή.
Το συνημμένο εικόνας αγνοείται/απορρίπτεταιΧρησιμοποιήστε ένα μοντέλο με επαληθευμένη δυνατότητα εισαγωγής εικόνας/όρασης και διαμορφώστε vision: true μόνο για αυτό το μοντέλο.
Οι βοηθητικές λειτουργίες δεν λειτουργούν με τη ρύθμιση μόνο BYOKΔιαμόρφωση chat.utilityModel και chat.utilitySmallModel στα διαθέσιμα μοντέλα BYOK.
Οι ενσωματωμένες ολοκληρώσεις εξακολουθούν να χρησιμοποιούν το GitHub ή απαιτούν σύνδεσηΑναμενόμενο: Το BYOK ελέγχει κυρίως την κυκλοφορία συνομιλιών/πρακτόρων/μοντέλων χρησιμότητας, όχι κάθε δυνατότητα Copilot.
Τα αιτήματα είναι απροσδόκητα ακριβάΧρησιμοποιήστε ένα μικρότερο μοντέλο για βοηθητικές εργασίες, χαμηλότερη αιτιολογία όπου χρειάζεται και διαμορφώστε τα όρια δαπάνης/RPM/συγχρονισμού Πύλης Μοντέλων.

Τρέχουσες ανάντη αναφορές

Το GitHub και το VS Code μπορούν να αλλάξουν τη διαμόρφωση BYOK μεταξύ των εκδόσεων. Για την τρέχουσα συμπεριφορά ανάντη, ελέγξτε:

- https://code.visualstudio.com/docs/agent-customization/language-models - https://docs.github.com/en/copilot/concepts/models/bring-your-own-key - https://docs.github.com/en/copilot/how-tos/copilot-cli/customize-copilot/use-byok-models - https://docs.github.com/en/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models