B2BB2B LLM

POST /v1/messages/count_tokens

Подсчитайте токены антропных сообщений, не генерируя ответа.

POST /v1/messages/count_tokens

Запрос

curl https://api.model-gate.com/v1/messages/count_tokens \
  -H "x-api-key: mg_live_..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "ch-46s",
    "messages": [{"role": "user", "content": "Count these tokens."}]
  }'

Ответ

{
  "input_tokens": 9
}

Псевдонимы разрешаются точно так же, как и для /v1/messages. Эта конечная точка не использует счетчик RPM ключа API, но аутентификация и доступность модели по-прежнему проверяются.

Ошибка

{
  "error": {
    "type": "invalid_request_error",
    "code": "model_not_found",
    "message": "Unknown or disabled model: unknown-model"
  }
}