B2BB2B LLM

Оценка размера входа

Подсчёт входных токенов Anthropic без генерации ответа.

Используйте POST /v1/messages/count_tokens при подготовке запроса Anthropic Messages. Передавайте ту же модель и необходимые system, диалог и инструменты, которые будут отправлены модели. Оценка токенов — не прогноз числа выходных токенов и не подтверждённое денежное списание.

Запрос

curl https://api.b2b-llm.com/v1/messages/count_tokens \
  -H "x-api-key: $B2B_API_KEY" -H 'anthropic-version: 2023-06-01' \
  -H 'Content-Type: application/json' \
  -d '{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Check the purchase-order summary."}]}'

Ответ

{"input_tokens":14}

Приведённое количество — пример. По-прежнему необходима поддержка модели и поставщика. Не передавайте async: true или потоковые настройки, чтобы превратить оценку в задание генерации. После реального запроса используйте историю для окончательных категорий токенов и списаний.