B2BB2B LLM

POST /v1/messages/count_tokens

Бројите антропске токене поруке без генерисања одговора.

POST /v1/messages/count_tokens

Захтев

curl https://api.model-gate.com/v1/messages/count_tokens \
  -H "x-api-key: mg_live_..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "ch-46s",
    "messages": [{"role": "user", "content": "Count these tokens."}]
  }'

Одговор

{
  "input_tokens": 9
}

Алиаси се решавају тачно као за /v1/messages. Ова крајња тачка не користи бројач РПМ кључа АПИ-ја, али се аутентификација и доступност модела и даље проверавају.

Грешка

{
  "error": {
    "type": "invalid_request_error",
    "code": "model_not_found",
    "message": "Unknown or disabled model: unknown-model"
  }
}