Ασύγχρονα αιτήματα

Η ασύγχρονη λειτουργία Model Gate αποθηκεύει μια εργασία συμπερασμάτων στην ανθεκτική ουρά MariaDB και επιστρέφει αμέσως ένα αναγνωριστικό αιτήματος. Ανεξάρτητος sub2proxy Οι εργαζόμενοι διεκδικούν θέσεις εργασίας στην ουρά με μισθώσεις και οι εγκαταλειμμένες μισθώσεις μπορούν να ανακτηθούν μετά από επανεκκίνηση της διαδικασίας. Το ολοκληρωμένο αποτέλεσμα διαβάζεται από το Partner API ή παραδίδεται στην επανάκληση που έχει διαμορφωθεί στο Προφίλ.

Η λειτουργία Async υποστηρίζεται για:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Τα ασύγχρονα αιτήματα δεν μπορούν να χρησιμοποιηθούν stream: true.

Αίτημα ουράς

Προσθέστε την επέκταση Model Gate "async": true σε ένα κατά τα άλλα έγκυρο αίτημα.

Αίτηση

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Απάντηση — 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

Ο async Το πεδίο αφαιρείται πριν σταλεί το αίτημα ανάντη. Ένα ψευδώνυμο μοντέλου επιλύεται στο κανονικό του μοντέλο πριν μπει η εργασία στην ουρά. Ο εργαζόμενος επικυρώνει ξανά το κλειδί και εκτελεί μέσω του ίδιου αιτήματος Πύλης Μοντέλου/πυρήνα λογιστικής ως σύγχρονη εξαγωγή συμπερασμάτων. Οι σειρές ουράς δεν περιέχουν μυστικό κλειδιού API. Η εγγενής ασύγχρονη τιμολόγηση παραμένει αμετάβλητη και δεν χρησιμοποιεί τον συντελεστή τιμής αιτήματος παρτίδας.

Προτού ένας εργαζόμενος διεκδικήσει ένα στοιχείο, ελέγχει το υπόλοιπο του τρεχούμενου λογαριασμού και την τρέχουσα χρήση κλειδιού/ομαδικής δαπάνης με δυνατότητα επαναφοράς στο MariaDB. Εάν το υπόλοιπο του λογαριασμού δεν είναι θετικό ή ένα διαμορφωμένο όριο δαπάνης κλειδιού/ομάδας έχει ήδη εξαντληθεί, το στοιχείο παραμένει queued και δεν καταναλώνει απόπειρα εκτέλεσης. Μια μεταγενέστερη ανανέωση, επαναφορά χρήσης ή αύξηση ορίου καθιστά το στοιχείο κατάλληλο αυτόματα. Το Model Gate δεν δεσμεύει ένα εκτιμώμενο κόστος αιτήματος: η εργασία που έχει ήδη εγκριθεί επιτρέπεται να ολοκληρωθεί και να διευθετηθεί το πλήρες πραγματικό κόστος, ακόμη και όταν η παράλληλη εργασία καθιστά το τελικό υπόλοιπο αρνητικό ή υπερβαίνει ελαφρώς ένα όριο δαπανών. Στη συνέχεια, οι νέες εκτελέσεις αποκλείονται έως ότου ο λογαριασμός είναι ξανά κατάλληλος.

Σημασιολογία ανάκτησης

Η ανθεκτική ουρά παρέχει ανάκαμψη τουλάχιστον μία φορά, όχι ακριβώς-μία εκτέλεση. Εάν μια διαδικασία εργαζομένου σταματήσει αφού ένας πάροχος ανάντη αποδέχτηκε ένα αίτημα, αλλά προτού το Model Gate αποθηκεύσει μόνιμα το ασύγχρονο αποτέλεσμα, η μίσθωση λήγει τελικά και ένας άλλος εργαζόμενος μπορεί να δοκιμάσει ξανά το ίδιο αναγνωριστικό αιτήματος Model Gate. Ο διακανονισμός προστατεύεται από τη διπλή χρέωση, αλλά οι εφαρμογές που προκαλούν εξωτερικές παρενέργειες μέσω εργαλείων μοντέλων θα πρέπει να καθιστούν αυτές τις παρενέργειες αδύναμες.

Ανάκτηση αποτελέσματος

Χρησιμοποιήστε ένα κλειδί Partner API που ανήκει στον ίδιο λογαριασμό Model Gate.

Αίτηση

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Απόκριση — επεξεργασία

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Απάντηση — ολοκληρώθηκε

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

Το τελικό σημείο του αποτελέσματος επιστρέφει το πλήρες αποθηκευμένο σώμα ανάντη μέχρι expires_at. Ένα ξένο, ληγμένο ή άγνωστο αναγνωριστικό αιτήματος επιστρέφει 404.

Σφάλματα

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

Επιστρέφουν μη υποστηριζόμενα τελικά σημεία async_not_supported.

Επανακλήσεις

Τα ολοκληρωμένα αποτελέσματα ασυγχρονισμού μπαίνουν σε ουρά για παράδοση στη διεύθυνση URL επανάκλησης που έχει διαμορφωθεί στο Προφίλ. Η παράδοση επανάκλησης έχει τη δική της ουρά εργασίας/επανάληψης και επομένως δεν περιμένει άλλο αίτημα API μοντέλου. Η συντήρηση εναρμονίζει επίσης τις ασύγχρονες σειρές τερματικού με το ιστορικό αιτημάτων και ανακτά μια επιστροφή κλήσης ολοκλήρωσης που λείπει μετά από ένα σφάλμα εργαζομένου. Βλέπω Επανακλήσεις για επαλήθευση υπογραφής, επαναλήψεις και καθοδήγηση αδυναμίας.