Asinhrone zahteve

Asinhroni način Model Gate shrani opravilo sklepanja v vzdržljivo čakalno vrsto MariaDB in takoj vrne ID zahteve. Neodvisen sub2proxy delavci zahtevajo opravila v čakalni vrsti z zakupi, opuščene zakupe pa je mogoče obnoviti po ponovnem zagonu procesa. Končani rezultat se prebere iz Partner API ali dostavi povratnemu klicu, konfiguriranemu v profilu.

Asinhroni način je podprt za:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Asinhronih zahtev ni mogoče uporabiti stream: true.

Zahteva za čakalno vrsto

Dodajte razširitev Model Gate "async": true na sicer veljavno zahtevo.

Zahteva

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Odgovor — 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

The async polje je odstranjeno, preden je zahteva poslana navzgor. Vzdevek modela se razreši v njegov kanonični model, preden se opravilo postavi v čakalno vrsto. Delavec ponovno potrdi ključ in izvede prek iste zahteve Model Gate/računskega jedra kot sinhrono sklepanje. Vrstice čakalne vrste ne vsebujejo skrivnega ključa API-ja. Izvorno asinhrono določanje cen je nespremenjeno in ne uporablja koeficienta cene paketne zahteve.

Preden delavec zahteva predmet, preveri trenutno stanje na računu in trenutno porabo ključa/skupine, ki jo je mogoče ponastaviti, v MariaDB. Če stanje na računu ni pozitivno ali je konfigurirana omejitev porabe ključa/skupine že izčrpana, element ostane queued in ne porabi poskusa izvršitve. S poznejšim dopolnjevanjem, ponastavitvijo uporabe ali povečanjem omejitve je izdelek samodejno upravičen. Model Gate ne rezervira ocenjenih stroškov zahteve: delo, ki je že prestalo sprejem, je dovoljeno dokončati in poravnati svoje celotne dejanske stroške, tudi če je zaradi hkratnega dela končno stanje negativno ali rahlo preseže omejitev porabe. Nove izvršitve so nato blokirane, dokler račun ni spet primeren.

Semantika obnovitve

Vzdržljiva čakalna vrsta zagotavlja vsaj enkratno okrevanje, ne točno enkratna izvedba. Če se delovni proces ustavi po tem, ko je zgornji ponudnik sprejel zahtevo, vendar preden Model Gate trajno shrani asinhroni rezultat, najem sčasoma poteče in drug delavec lahko znova poskusi z istim ID-jem zahteve Model Gate. Poravnava je zaščitena pred dvojno bremenitvijo, vendar bi morale aplikacije, ki povzročajo zunanje stranske učinke prek modelnih orodij, narediti te stranske učinke idempotentne.

Pridobi rezultat

Uporabite ključ Partner API, ki pripada istemu računu Model Gate.

Zahteva

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Odziv — obdelava

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Odgovor — izpolnjen

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

Končna točka rezultata vrne celotno shranjeno telo navzgor do expires_at. Vrne se tuj, potekel ali neznan ID zahteve 404.

Napake

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

Nepodprta vrnitev končnih točk async_not_supported.

Povratni klici

Dokončani asinhroni rezultati so trajno postavljeni v čakalno vrsto za dostavo na URL za povratni klic, konfiguriran v profilu. Dostava povratnega klica ima lastno čakalno vrsto za delavce/ponovne poskuse in zato ne čaka na drugo zahtevo API-ja modela. Vzdrževanje tudi uskladi terminalske asinhrone vrstice z zgodovino zahtev in obnovi manjkajoči povratni klic dokončanja po zrušitvi delavca. glej Povratni klici za preverjanje podpisa, ponovne poskuse in navodila za idempotenco.