Richieste asincrone

La modalità asincrona Model Gate archivia un processo di inferenza nella coda MariaDB durevole e restituisce immediatamente un ID richiesta. Indipendente sub2proxy i lavoratori rivendicano i lavori in coda con contratti di locazione e i contratti di locazione abbandonati possono essere recuperati dopo il riavvio del processo. Il risultato completato viene letto da Partner API o consegnato al callback configurato nel profilo.

La modalità asincrona è supportata per:

• POST /v1/chat/completions
• POST /v1/messages
• POST /v1/responses
• POST /v1/images/generations

Le richieste asincrone non possono essere utilizzate stream: true.

Richiesta di coda

Aggiungi l'estensione Model Gate "async": true ad una richiesta altrimenti valida.

Richiesta

curl https://api.model-gate.com/v1/responses \
  -H "Authorization: Bearer mg_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "input": "Write a short release summary.",
    "async": true,
    "stream": false
  }'

Risposta – 202

{
  "request_id": "01KZ...",
  "status": "queued",
  "result_url": "https://p-api.model-gate.com/api/v1/requests/01KZ..."
}

IL async il campo viene rimosso prima che la richiesta venga inviata a monte. Un alias del modello viene risolto nel suo modello canonico prima che il lavoro venga messo in coda. Il lavoratore riconvalida la chiave ed esegue tramite lo stesso core di richiesta/contabilità Model Gate come inferenza sincrona. Le righe della coda non contengono alcun segreto della chiave API. Il prezzo asincrono nativo è invariato e non utilizza il coefficiente di prezzo della richiesta batch.

Prima che un lavoratore richieda un articolo, controlla il saldo del conto corrente e l'utilizzo corrente della spesa di gruppo/chiave reimpostabile in MariaDB. Se il saldo del conto non è positivo o un limite di spesa per chiave/gruppo configurato è già esaurito, l'articolo rimane queued e non consuma un tentativo di esecuzione. Una ricarica successiva, un ripristino dell'utilizzo o un aumento del limite rendono l'articolo automaticamente idoneo. Model Gate non riserva un costo di richiesta stimato: il lavoro che ha già superato l'ammissione può terminare e saldare il suo costo effettivo completo, anche quando il lavoro simultaneo rende il saldo finale negativo o supera leggermente un limite di spesa. Le nuove esecuzioni vengono quindi bloccate fino a quando l'account non sarà nuovamente idoneo.

Semantica del recupero

La coda durevole fornisce recupero almeno una volta, non esattamente una volta eseguita. Se un processo di lavoro si interrompe dopo che un provider upstream ha accettato una richiesta ma prima che Model Gate memorizzi in modo duraturo il risultato asincrono, il lease scade e un altro lavoratore può ritentare lo stesso ID di richiesta Model Gate. La liquidazione è protetta dal doppio addebito, ma le applicazioni che causano effetti collaterali esterni attraverso strumenti modello dovrebbero rendere tali effetti collaterali idempotenti.

Recupera il risultato

Utilizza una chiave Partner API appartenente allo stesso account Model Gate.

Richiesta

curl https://p-api.model-gate.com/api/v1/requests/01KZ... \
  -H "Authorization: Bearer mg_partner_..."

Risposta: elaborazione

{
  "data": {
    "request_id": "01KZ...",
    "status": "processing",
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": null,
    "expires_at": "2026-08-06 10:00:00"
  }
}

Risposta: completata

{
  "data": {
    "request_id": "01KZ...",
    "status": "completed",
    "response_status": 200,
    "response_headers": {
      "content-type": ["application/json"]
    },
    "response": {
      "id": "resp_...",
      "object": "response",
      "status": "completed"
    },
    "created_at": "2026-08-05 10:00:00",
    "started_at": "2026-08-05 10:00:01",
    "completed_at": "2026-08-05 10:00:03",
    "expires_at": "2026-08-06 10:00:00"
  }
}

L'endpoint del risultato restituisce il corpo upstream completo archiviato fino a expires_at. Viene restituito un ID richiesta esterno, scaduto o sconosciuto 404.

Errori

{
  "error": {
    "type": "invalid_request_error",
    "code": "invalid_async_stream_combination",
    "message": "Async requests cannot be streamed."
  }
}

Restituzione di endpoint non supportati async_not_supported.

Richiamate

I risultati asincroni completati vengono accodati in modo permanente per la consegna all'URL di richiamata configurato nel profilo. Il recapito della richiamata ha una propria coda di lavoro/riprova e pertanto non attende un'altra richiesta API del modello. La manutenzione riconcilia inoltre le righe asincrone del terminale nella cronologia delle richieste e recupera una richiamata di completamento mancante dopo un arresto anomalo del lavoratore. Vedere Richiamate per la verifica della firma, i nuovi tentativi e le indicazioni sull'idempotenza.