B2BB2B LLM

POST /v1/messages/count_tokens

Számolja meg az antropikus üzenet tokeneket válasz generálása nélkül.

POST /v1/messages/count_tokens

Kér

curl https://api.model-gate.com/v1/messages/count_tokens \
  -H "x-api-key: mg_live_..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "ch-46s",
    "messages": [{"role": "user", "content": "Count these tokens."}]
  }'

Válasz

{
  "input_tokens": 9
}

Az álnevek pontosan úgy vannak feloldva, mint a /v1/messages. Ez a végpont nem használja fel az API-kulcs RPM-számlálóját, de a hitelesítés és a modell elérhetősége továbbra is érvényes.

Hiba

{
  "error": {
    "type": "invalid_request_error",
    "code": "model_not_found",
    "message": "Unknown or disabled model: unknown-model"
  }
}