本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在執行推論之前，透過計算字符來監控字符用量

當您執行模型推論時，您在輸入中傳送的字符數量將影響請求的成本，以及影響您每分鐘和每天可以使用的字符配額。CountTokens API 透過傳回在推論請求中將相同輸入傳送至模型時將使用的字符計數，協助您在將請求傳送至基礎模型之前估計字符用量。

字符計數是模型特定的，因為不同的模型會使用不同的字符化策略。此操作傳回的字符計數將與字符計數相符，如果將相同的輸入傳送到模型以執行推論，則將收費。

您可以使用 CountTokens API 執行下列動作：

支援字符計數的模型和區域

若要查看哪些模型支援字符計數，請快速瀏覽模型並挑選您感興趣的模型。

使用 bedrock-runtime 端點計算權杖

若要計算推論請求中的輸入字符數量，請使用 Amazon Bedrock 執行時期端點傳送 CountTokens 請求、在標頭中指定模型，以及在 body 欄位中指定要計算字符的輸入。body 欄位的值取決於您計算的是 InvokeModel 或 Converse 請求的輸入字符：

範例：Bdrock-runtime 請求的計數字符

本節中的範例可讓您使用 Anthropic Claude 3 Haiku 計算 InvokeModel 和 Converse 請求的字符。

若要嘗試計算 InvokeModel 請求的字符數量，請執行下列 Python 程式碼：

import boto3
import json

bedrock_runtime = boto3.client("bedrock-runtime")

input_to_count = json.dumps({
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 500,
    "messages": [
        {
            "role": "user",
            "content": "What is the capital of France?"
        }
    ]
})

response = bedrock_runtime.count_tokens(
    modelId="anthropic.claude-3-5-haiku-20241022-v1:0",
    input={
        "invokeModel": {
            "body": input_to_count
        }
    }
)

print(response["inputTokens"])

若要嘗試計算 Converse 請求的字符數量，請執行下列 Python 程式碼：

import boto3
import json 

bedrock_runtime = boto3.client("bedrock-runtime")

input_to_count = {
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "What is the capital of France?"
                }
            ]
        },
        {
            "role": "assistant",
            "content": [
                {
                    "text": "The capital of France is Paris."
                }
            ]
        },
        {
            "role": "user",
            "content": [
                {
                    "text": "What is its population?"
                }
            ]
        }
    ],
    "system": [
        {
            "text": "You're an expert in geography."
        }
    ]
}

response = bedrock_runtime.count_tokens(
    modelId="anthropic.claude-3-5-haiku-20241022-v1:0",
    input={
        "converse": input_to_count
    }
)

print(response["inputTokens"])

使用 bedrock-mantle 端點計算權杖

bedrock-mantle 端點會在 公開 Anthropic 的 count_tokens API/anthropic/v1/messages/count_tokens。使用它來計算不支援 CountTokens 之 Anthropic Claude 模型的輸入字符 bedrock-runtime- 例如，當模型僅透過 上的跨區域推論 (CRIS) 提供時，bedrock-runtime因此沒有 CountTokens 的目標區域特定端點。/anthropic/v1/messages 路徑為 Claude-specific；bedrock-mantle傳回 時的非 Anthropic 模型The model 'X' does not support the '/anthropic/v1/messages' API。

下列範例使用 curl搭配 Amazon Bedrock API 金鑰來計算bedrock-mantle端點上的權杖：

curl -X POST https://bedrock-mantle.us-east-1.api.aws/anthropic/v1/messages/count_tokens \
  -H "x-api-key: $BEDROCK_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic.claude-opus-4-7",
    "messages": [
        {"role": "user", "content": "How many tokens is this prompt?"}
    ]
  }'

回應包含 input_tokens 欄位，其值為所提供輸入的字符計數。