Claude Message Batches

Mevcut Toplu okuma/kontrol işlemleri, aksi takdirde geçerli bir etkin kimlik bilgisi için sıfır bakiyede kullanılabilir durumda kalır, ancak POST /v1/messages/batches herhangi bir iş/madde satırının saklanmasından önce yeni pozitif bakiye/harcama kabulü gerektirir. Bu nedenle sıfır bakiyeli bir anahtar, yeni bir Claude grubu oluşturamaz veya MariaDB saklama depolama alanını tüketemez. Fiili öğeler, işçiler bunları talep ettiğinde kabulü yeniden kontrol eder ve daha sonra fonlar tükenirse kalıcı kuyrukta bekler. Girişin kodu, 256 MB'lık tam bir bellek içi JSON belgesi olarak yüklenmek yerine öğe öğe artımlı olarak çözülür ve kullanıcı başına etkin iş/kuyruğa alınan öğe kotaları, depolamanın kötüye kullanımını faturalandırmadan bağımsız olarak sınırlar.

Model Gate, Antropik uyumlu bir Mesaj Toplu İşlem API'sini uygular. https://api.model-gate.com. Bu bir uyumluluk katmanıdır: Model Gate, partiyi kalıcı olarak saklar ve her bir öğeyi normal Model Gate yoluyla yürütür. /v1/messages yol. öyle Olumsuz sağlayıcıya özgü Antropik bir toplu akışı yukarı akışa gönderin.

Normal bir Model API anahtarı kullanın (mg_live_...). Her öğe ayrı bir istek olarak hesaba katılır. request_mode=batch, batch_protocol=claude, toplu iş kimliği ve custom_id.

Bir toplu iş içinde akış desteklenmez. Model takma adları, öğe kuyruğa alınmadan önce çözümlenir.

Bir mesaj grubu oluşturun

Rica etmek

curl https://api.model-gate.com/v1/messages/batches \
  -H "x-api-key: mg_live_..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "requests": [
      {
        "custom_id": "summary-1",
        "params": {
          "model": "ch-47",
          "max_tokens": 256,
          "messages": [{"role":"user","content":"Summarize this text."}]
        }
      }
    ]
  }'

Yanıt — 200

{
  "id": "msgbatch_01K...",
  "type": "message_batch",
  "processing_status": "in_progress",
  "request_counts": {
    "processing": 1,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": null,
  "created_at": "2026-08-13T08:30:00Z",
  "expires_at": "2026-08-14T08:30:00Z",
  "cancel_initiated_at": null,
  "results_url": null
}

Bir toplu işlemi geri al

Rica etmek

curl https://api.model-gate.com/v1/messages/batches/msgbatch_01K... \
  -H "x-api-key: mg_live_..."

Yanıt — sona erdi

{
  "id": "msgbatch_01K...",
  "type": "message_batch",
  "processing_status": "ended",
  "request_counts": {
    "processing": 0,
    "succeeded": 1,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": "2026-08-13T08:30:04Z",
  "results_url": "https://api.model-gate.com/v1/messages/batches/msgbatch_01K.../results"
}

Sonuçları okuyun

Sonuçlar JSON Satırları olarak döndürülür. Uygulama mantığının orijinal giriş sırasına bağlı olduğunu varsaymayın; maç sonuçları şuna göre custom_id.

Rica etmek

curl https://api.model-gate.com/v1/messages/batches/msgbatch_01K.../results \
  -H "x-api-key: mg_live_..."

Yanıt — 200

{"custom_id":"summary-1","result":{"type":"succeeded","message":{"id":"msg_...","type":"message","role":"assistant","content":[{"type":"text","text":"..."}]}}}

Grupları listeleme

limit varsayılan olarak 20 ve nereli olmalı 1 ile 100. Kullanmak after_id veya before_id imleç sayfalandırması için; ikisini birden tek bir istekte göndermeyin.

Rica etmek

curl "https://api.model-gate.com/v1/messages/batches?limit=20&after_id=msgbatch_01K..." \
  -H "x-api-key: mg_live_..."

Yanıt — 200

{
  "data": [],
  "has_more": false,
  "first_id": null,
  "last_id": null
}

Bir partiyi iptal et

İptal, sıraya alınmış öğelerin talep edilmesini durdurur. Halihazırda işlenmekte olan bir öğenin işlemi tamamlanabilir.

Rica etmek

curl -X POST https://api.model-gate.com/v1/messages/batches/msgbatch_01K.../cancel \
  -H "x-api-key: mg_live_..."

Yanıt — 200

{
  "id": "msgbatch_01K...",
  "type": "message_batch",
  "processing_status": "canceling",
  "request_counts": {
    "processing": 1,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  }
}

Sona eren bir grubu silme

Silme yalnızca toplu iş terminal durumuna ulaştıktan sonra kabul edilir.

Rica etmek

curl -X DELETE https://api.model-gate.com/v1/messages/batches/msgbatch_01K... \
  -H "x-api-key: mg_live_..."

Yanıt — 200

{
  "id": "msgbatch_01K...",
  "type": "message_batch_deleted"
}

Kurtarma semantiği

Toplu öğeler, yerel eşzamansız isteklerle aynı dayanıklı kuyruğu kullanır. Kurtarma: en az bir kez, tam olarak bir kez değil: Bir çalışanın çökmesinden sonra, iptal edilen bir kira geri talep edilebilir ve eğer ilk yukarı akış yanıtı kalıcı olarak depolanmamışsa bir öğe yeniden yukarı akışa gönderilebilir. Model Geçidi istek kimliği, yeniden denemeler boyunca sabit kalır ve ödeme korumaları, zaten tamamlanmış bir istek için ikinci bir hesap borçlandırılmasını önler.

Her öğe, işçi talep etmeden hemen önce kabul edilir. Aksi takdirde geçerli öğeler, cari hesap bakiyesi pozitif olmadığında veya anahtar/grup sıfırlanabilir harcama sınırı zaten tükendiğinde sırada kalır; Paranın beklenmesi bir girişimi tüketmez veya öğeyi başarısız olarak işaretlemez. Daha sonra yapılan bir yükleme, kullanımın sıfırlanması veya limit artırımı, sıraya alınmış uygun öğeleri otomatik olarak devam ettirir. Model Gate, en kötü durum toplu maliyetini ayırmaz, dolayısıyla aynı anda kabul edilen öğeler negatif bir nihai bakiyeyle veya küçük bir harcama limiti aşımıyla sonuçlanabilir; yalnızca sonraki yeni öğeler tutulur.

Fiyatlandırma ve muhasebe

Her toplu iş öğesi, normal bir Model Geçidi isteğiyle aynı model yönlendirmeyi, belirteç hesaplamasını, fiyatlandırma anlık görüntüsünü, kullanım değerlemesini, API anahtarı/grup sınırlarını ve ödeme mantığını kullanır. Bir yönetici bir yapılandırma yapabilir Toplu istek fiyat katsayısı hesap fiyatlandırma şablonunda. Varsayılan: 1.

Örneğin normal Model Gate maliyetiyle 0.02 ve parti katsayısı 0.5, gerçek hesap borcu 0.01. Kaydedilen resmi sağlayıcı referans miktarı bu Model Gate parti katsayısı ile çarpılmaz. Yerel istekler kullanılarak "async": true da etkilenmez.

Katsayı farklıysa 1, Model fiyatları sayfasında ve /v1/models gibi batch_pricing artı etkili batch_cost oranlar.

Hatalar

Geçersiz veya kopya custom_idbilinmeyen bir model, stream:true, iç içe geçmiş async:true, büyük boyutlu bir istek veya geçersiz bir gövde, normal Antropik tarzda bir hata yanıtı döndürür.

{
  "type": "error",
  "error": {
    "type": "invalid_request_error",
    "message": "summary-1: stream=true is not supported inside a batch"
  }
}