Eşzamansız istekler

Model Kapısı eşzamansız modu, bir çıkarım işini dayanıklı MariaDB kuyruğunda saklar ve hemen bir istek kimliği döndürür. Bağımsız sub2proxy işçiler kuyruktaki işleri kiralama yoluyla talep eder ve iptal edilen kiralamalar, süreç yeniden başlatıldıktan sonra kurtarılabilir. Tamamlanan sonuç Partner API'dan okunur veya Profilde yapılandırılan geri aramaya iletilir.

Eşzamansız mod aşağıdakiler için desteklenir:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Zaman uyumsuz istekler kullanılamaz stream: true.

Kuyruk isteği

Model Gate uzantısını ekleyin "async": true aksi takdirde geçerli bir talebe.

Rica etmek

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Yanıt – 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

The async istek yukarı yönde gönderilmeden önce alan kaldırılır. Bir model takma adı, iş kuyruğa alınmadan önce kanonik modeline çözümlenir. Çalışan, anahtarı yeniden doğrular ve eşzamanlı çıkarımla aynı Model Geçidi isteği/muhasebe çekirdeği aracılığıyla yürütür. Kuyruk satırları API anahtarı sırrı içermez. Yerel eşzamansız fiyatlandırma değişmez ve toplu istek fiyat katsayısını kullanmaz.

Bir çalışan bir öğeyi talep etmeden önce, mevcut hesap bakiyesini ve MariaDB'deki mevcut sıfırlanabilir anahtar/grup harcama kullanımını kontrol eder. Hesap bakiyesi pozitif değilse veya yapılandırılmış anahtar/grup harcama sınırı zaten tükenmişse öğe, aynı kalır queued ve bir yürütme girişimi tüketmez. Daha sonra yapılan bir yükleme, kullanımın sıfırlanması veya limitin arttırılması, öğenin otomatik olarak uygun olmasını sağlar. Model Gate, tahmini bir talep maliyeti ayırmaz: eş zamanlı çalışma, nihai bakiyeyi negatif hale getirse veya harcama sınırını biraz aşsa bile, halihazırda kabulü geçmiş olan işin tamamlanmasına ve fiili maliyetinin tamamının ödenmesine izin verilir. Daha sonra hesap tekrar uygun hale gelinceye kadar yeni yürütmeler engellenir.

Kurtarma semantiği

Dayanıklı kuyruk şunları sağlar: en az bir kez iyileşme, tam olarak bir kez yürütme değil. Bir yukarı akış sağlayıcısı bir isteği kabul ettikten sonra ancak Model Gate'in eşzamansız sonucu kalıcı olarak depolamasından önce bir çalışan süreç durursa, kira süresi sonunda sona erer ve başka bir çalışan aynı Model Gate istek kimliğini yeniden deneyebilir. Ödeme, çift borçlandırmaya karşı korunur, ancak model araçları aracılığıyla dış yan etkilere neden olan uygulamalar, bu yan etkileri önemsiz hale getirmelidir.

Sonucu al

Aynı Model Gate hesabına ait Partner API anahtarını kullanın.

Rica etmek

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Yanıt – işleme

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Yanıt — tamamlandı

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

Sonuç uç noktası, depolanan yukarı akış gövdesinin tamamını, ta ki expires_at. Yabancı, süresi dolmuş veya bilinmeyen bir istek kimliği döndürülür 404.

Hatalar

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

Desteklenmeyen uç noktaların dönüşü async_not_supported.

Geri aramalar

Tamamlanan eşzamansız sonuçlar, Profilde yapılandırılan geri çağırma URL'sine teslim edilmek üzere kalıcı olarak sıraya alınır. Geri arama teslimatının kendi çalışan/yeniden deneme kuyruğu vardır ve bu nedenle başka bir Model API isteğini beklemez. Bakım aynı zamanda terminal zaman uyumsuz satırlarını istek geçmişiyle uzlaştırır ve bir çalışanın çökmesinden sonra eksik tamamlama geri çağrısını kurtarır. Görmek Geri aramalar imza doğrulaması, yeniden denemeler ve geçicilik rehberliği için.