Aszinkron kérések

A Model Gate aszinkron mód egy következtetési feladatot tárol a tartós MariaDB sorban, és azonnal visszaküld egy kérésazonosítót. Független sub2proxy a dolgozók sorban állásokat igényelnek bérleti szerződéssel, és a felhagyott bérleti szerződések a folyamat újraindítása után visszaszerezhetők. Az elkészült eredményt a rendszer a Partner API számból olvassa be, vagy elküldi a Profilban konfigurált visszahívásra.

Az aszinkron mód támogatott:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Az aszinkron kérések nem használhatók stream: true.

Sor kérés

Adja hozzá a Model Gate bővítményt "async": true egy egyébként érvényes kérésre.

Kér

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Válasz: 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

A async mező eltávolításra kerül, mielőtt a kérést elküldené. A modellálnév feloldása a kanonikus modelljére történik, mielőtt a feladat sorba kerül. A dolgozó újraellenőrzi a kulcsot, és szinkron következtetésként ugyanazon a Model Gate kérés/számviteli magon keresztül hajtja végre. A várólista sorai nem tartalmaznak API-kulcs titkot. A natív aszinkron árképzés változatlan, és nem használja a kötegelt kérés áregyütthatóját.

Mielőtt egy dolgozó igényelne egy tételt, ellenőrzi az aktuális számlaegyenleget és az aktuális visszaállítható kulcs-/csoport-ráfordítást a MariaDB-ben. Ha a számlaegyenleg nem pozitív, vagy a konfigurált kulcs/csoport költési korlát már kimerült, a tétel megmarad queued és nem fogyaszt kivégzési kísérletet. A későbbi feltöltés, a használat visszaállítása vagy a limit növelése automatikusan jogosulttá teszi a tételt. A Model Gate nem tart fenn becsült igénylési költséget: a már beiratkozáson átesett munkák befejezhetik és kiegyenlíthetik teljes tényleges költségét, még akkor is, ha az egyidejű munkavégzés negatívvá teszi a végső egyenleget, vagy kissé meghaladja a költési korlátot. Az új végrehajtásokat a rendszer zárolja mindaddig, amíg a fiók újra jogosulttá nem válik.

Helyreállítási szemantika

A tartós sor biztosítja legalább egyszer felépülés, nem pontosan egyszeri végrehajtás. Ha egy dolgozói folyamat leáll, miután egy upstream szolgáltató elfogadta a kérést, de mielőtt a Model Gate tartósan tárolná az aszinkron eredményt, a bérlet végül lejár, és egy másik dolgozó újra megpróbálhatja ugyanazt a Model Gate kérésazonosítót. Az elszámolás védve van a dupla beszedés ellen, de a modelleszközökön keresztül külső mellékhatásokat okozó alkalmazásoknak ezeket a mellékhatásokat idempotenssé kell tenniük.

Eredmény lekérése

Használjon egy Partner API kulcsot, amely ugyanahhoz a Model Gate-fiókhoz tartozik.

Kér

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Válasz – feldolgozás

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Válasz – kész

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

Az eredmény végpont visszaadja a teljes tárolt felfelé irányuló törzset, amíg expires_at. Idegen, lejárt vagy ismeretlen kérésazonosító érkezik vissza 404.

Hibák

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

A nem támogatott végpontok visszatérnek async_not_supported.

Visszahívások

A befejezett aszinkron eredmények tartósan sorba kerülnek a profilban konfigurált visszahívási URL-címre történő kézbesítéshez. A visszahívási kézbesítésnek saját dolgozói/újrapróbálkozási sora van, ezért nem vár újabb Model API kérelmet. A karbantartás a terminál aszinkron sorait is egyezteti a kéréselőzményekkel, és helyreállítja a hiányzó befejezési visszahívást a dolgozó összeomlása után. Lásd Visszahívások Az aláírás-ellenőrzés, az újrapróbálkozás és az idempotencia útmutatása.