B2BB2B LLM

POST /v1/messages/count_tokens

Преброяване на антропни токени за съобщения без генериране на отговор.

POST /v1/messages/count_tokens

Заявка

curl https://api.model-gate.com/v1/messages/count_tokens \
  -H "x-api-key: mg_live_..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "ch-46s",
    "messages": [{"role": "user", "content": "Count these tokens."}]
  }'

Отговор

{
  "input_tokens": 9
}

Псевдонимите се разрешават точно както за /v1/messages. Тази крайна точка не използва брояча на RPM на API ключа, но удостоверяването и наличността на модела все още са валидирани.

Грешка

{
  "error": {
    "type": "invalid_request_error",
    "code": "model_not_found",
    "message": "Unknown or disabled model: unknown-model"
  }
}