Асинхронизовани захтеви

Модел Гате асинц режим складишти задатак закључивања у трајном МариаДБ реду и одмах враћа ИД захтева. Независна sub2proxy радници траже послове на чекању са закупом, а напуштени закупи се могу опоравити након поновног покретања процеса. Завршени резултат се чита са Partner API или се испоручује повратном позиву конфигурисаном у профилу.

Асинхронизовани режим је подржан за:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Асинхронизовани захтеви се не могу користити stream: true.

Захтев за ред чекања

Додајте екстензију Модел Гате "async": true на иначе важећи захтев.

Захтев

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Одговор — 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

Тхе async поље се уклања пре него што се захтев пошаље узводно. Псеудоним модела се решава на његов канонски модел пре него што се посао стави у ред чекања. Радник поново потврђује кључ и извршава га кроз исту језгру захтева/рачуноводствене капије модела као и синхрони закључак. Редови реда не садрже тајну АПИ кључа. Нативе асинц цене су непромењене и не користе коефицијент цене пакетног захтева.

Пре него што радник затражи ставку, он проверава стање на текућем рачуну и тренутну употребу кључа/групе која се може ресетовати у МариаДБ-у. Ако стање на рачуну није позитивно или је конфигурисано ограничење потрошње кључа/групе већ исцрпљено, ставка остаје queued и не троши покушај извршења. Касније допуњавање, ресетовање коришћења или повећање ограничења чини ставку аутоматски квалификованом. Модел Гате не резервише процењени трошак захтева: рад који је већ прошао пријем може да се заврши и измири комплетан стварни трошак, чак и када истовремени рад учини коначни салдо негативним или мало премашује ограничење потрошње. Нова извршења се затим блокирају док налог поново не испуни услове.

Семантика опоравка

Трајни ред пружа барем једном опоравак, не баш-једном извршење. Ако се раднички процес заустави након што је узводни провајдер прихватио захтев, али пре него што модел капија трајно ускладишти асинхронизовани резултат, закуп на крају истиче и други радник може поново да покуша са истим ИД-ом захтева модела капије. Поравнање је заштићено од двоструког задужења, али апликације које изазивају спољне нежељене ефекте путем алата за моделе треба да учине те нежељене ефекте идемпотентним.

Преузми резултат

Користите кључ Partner API који припада истом налогу Модел Гате-а.

Захтев

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Одговор — обрада

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Одговор — завршен

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

Крајња тачка резултата враћа комплетно сачувано узводно тело до expires_at. Враћа се страни ИД захтева, истекао или непознат 404.

Грешке

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

Враћају се неподржане крајње тачке async_not_supported.

Повратни позиви

Завршени резултати асинхронизације се трајно стављају у ред за испоруку на УРЛ повратног позива конфигурисану у профилу. Испорука повратног позива има сопствени ред за раднике/поновне покушаје и стога не чека други захтев за АПИ модела. Одржавање такође усклађује асинхронизоване редове терминала у историји захтева и враћа повратни позив који недостаје за завршетак након пада радника. Види Повратни позиви за верификацију потписа, поновне покушаје и упутства за идемпотенцију.