As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Inferência global entre regiões

A inferência global entre regiões estende a inferência entre regiões além dos limites geográficos, permitindo o roteamento de solicitações de inferência para empresas comerciais suportadas em todo o Regiões da AWS mundo, otimizando os recursos disponíveis e permitindo maior produtividade do modelo.

Benefícios da inferência global entre regiões

A inferência global entre regiões para o Claude Sonnet 4.5 da Anthropic oferece várias vantagens em relação aos perfis tradicionais de inferência geográfica entre regiões:

Considerações sobre inferência global entre regiões

Observe as seguintes informações sobre a inferência global entre regiões:

Requisitos de política do IAM para inferência global entre regiões

Para permitir a inferência global entre regiões para seus usuários, você deve aplicar uma política de IAM em três partes à função. Veja a seguir um exemplo de política do IAM para fornecer controle granular. Você pode substituir <REQUESTING REGION> no exemplo de política pela Região da AWS que você está operando.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGlobalCrisInferenceProfileRegionAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "<REQUESTING REGION>"
                }
            }
        },
        {
            "Sid": "GrantGlobalCrisInferenceProfileInRegionModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:<REQUESTING REGION>::foundation-model/<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "<REQUESTING REGION>",
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
                }
            }
        },
        {
            "Sid": "GrantGlobalCrisInferenceProfileGlobalModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:::foundation-model/<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "unspecified",
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
                }
            }
        }
    ]
}

A primeira parte da política concede acesso ao perfil de inferência regional em sua solicitação Região da AWS. A segunda parte fornece acesso ao recurso Regional FM. A terceira parte concede acesso ao recurso FM global, que permite a capacidade de roteamento entre regiões.

Ao implementar essas políticas, certifique-se de que todos os três recursos Amazon Resource Names (ARNs) estejam incluídos em suas declarações do IAM:

O ARN FM global não tem nenhuma conta Região da AWS ou conta especificada, o que é intencional e necessário para a funcionalidade entre regiões.

Desativar a inferência global entre regiões

Você pode escolher entre duas abordagens principais para implementar políticas de negação no CRIS global para funções específicas do IAM, cada uma com diferentes casos de uso e implicações:

Ao implementar políticas de negação, é crucial entender que o CRIS global muda a forma como o aws:RequestedRegion campo se comporta. As políticas de negação tradicionais Região da AWS que usam StringEquals condições com Região da AWS nomes específicos, como, não "aws:RequestedRegion": "us-west-2" funcionarão conforme o esperado com o CRIS global porque o serviço define esse campo como sendo o destino Região da AWS real. global No entanto, conforme mencionado anteriormente, "aws:RequestedRegion": "unspecified" resultará no efeito de negação.

Requisitos da política de controle de serviços para inferência global entre regiões

Para inferência global entre regiões, se a política de segurança da sua organização costuma SCPs bloquear regiões não utilizadas, você deve atualizar as condições de SCP específicas da região para permitir o acesso com. "aws:RequestedRegion": "unspecified" Essa condição é específica para a inferência global entre regiões do Amazon Bedrock e garante que as solicitações possam ser encaminhadas para todas as regiões comerciais suportadas. AWS

O exemplo a seguir, o SCP bloqueia todas as chamadas de AWS API fora das regiões aprovadas, ao mesmo tempo que permite chamadas de inferência entre regiões globais do Amazon Bedrock que são usadas "unspecified" como região para roteamento global:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "DenyAllOutsideApprovedRegions",
            "Effect": "Deny",
            "Action": "*",
            "Resource": "*",
            "Condition": {
                "StringNotEquals": {
                    "aws:RequestedRegion": [
                        "us-east-1",
                        "us-east-2",
                        "us-west-2",
                        "unspecified"
                    ]
                }
            }
        }
    ]
}

Desativar a inferência global entre regiões

Organizações com requisitos de residência ou conformidade de dados devem avaliar se a inferência global entre regiões se encaixa em sua estrutura de conformidade, já que as solicitações podem ser processadas em outras regiões comerciais compatíveis AWS . Para desativar explicitamente a inferência global entre regiões, implemente a seguinte política de SCP:

{
    "Effect": "Deny",
    "Action": "bedrock:*",
    "Resource": "*",
    "Condition": {
        "StringEquals": {
            "aws:RequestedRegion": "unspecified"
        },
        "ArnLike": {
            "bedrock:InferenceProfileArn": "arn:aws:bedrock:*:*:inference-profile/global.*"
        }
    }
}

Esse SCP nega explicitamente a inferência global entre regiões porque "aws:RequestedRegion" é "unspecified" e a "ArnLike" condição têm como alvo perfis de inferência com o prefixo no ARN. global

AWS Implementação da Control Tower

A edição manual SCPs gerenciada pelo AWS Control Tower é fortemente desencorajada, pois pode causar desvio. Em vez disso, use os mecanismos fornecidos pelo Control Tower para gerenciar essas exceções. Os princípios fundamentais envolvem estender os controles de negação de região existentes ou habilitar regiões e, em seguida, aplicar uma política de bloqueio condicional personalizada.

Para obter step-by-step orientações detalhadas sobre a implementação da inferência entre regiões com a Control Tower, consulte a postagem do blog Habilite a inferência entre regiões do Amazon Bedrock em ambientes com várias contas. Isso abrange estender a negação de região existente SCPs, habilitar regiões negadas com personalização e usar SCPs Customizations for AWS Control Tower (cFct) para implantar personalização como infraestrutura SCPs como código.

Aumento do limite de solicitações para inferência global entre regiões

Ao usar perfis globais de inferência do CRIS, você pode usar o CRIS global de mais de 20 fontes suportadas. Regiões da AWS Como esse será um limite global, as solicitações para visualizar, gerenciar ou aumentar as cotas para perfis globais de inferência entre regiões devem ser feitas por meio do console Service Quotas ou da Interface de AWS Linha de Comando (AWS CLI) na fonte solicitada. Região da AWS

Conclua as etapas a seguir para solicitar um aumento de limite:

Ao calcular o aumento de cota necessário, lembre-se de levar em consideração a taxa de burndown, definida como a taxa na qual os tokens de entrada e saída são convertidos em uso da cota de tokens para o sistema de limitação. Os modelos a seguir têm uma taxa de queima de 5x para tokens de saída (1 token de saída consome 5 tokens de suas cotas):

Para todos os outros modelos, a taxa de burndown é de 1:1 (um token de saída consome um token da sua cota). Para tokens de entrada, a proporção entre token e cota é de 1:1. O cálculo do número total de tokens por solicitação é o seguinte:

Input token count + Cache write input tokens + (Output token count x Burndown rate)

Use a inferência global entre regiões

Para usar a inferência global entre regiões com o Claude Sonnet 4.5 da Anthropic, os desenvolvedores devem concluir as seguintes etapas principais:

A inferência global entre regiões é compatível com:

Implemente a inferência global entre regiões

A implementação da inferência global entre regiões com o Claude Sonnet 4.5 da Anthropic é simples, exigindo apenas algumas alterações no código de seu aplicativo existente. Veja a seguir um exemplo de como atualizar seu código em Python:

import boto3
import json
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')
model_id = "global.anthropic.claude-sonnet-4-5-20250929-v1:0"  
response = bedrock.converse(
    messages=[{"role": "user", "content": [{"text": "Explain cloud computing in 2 sentences."}]}],
    modelId=model_id,
)

print("Response:", response['output']['message']['content'][0]['text'])
print("Token usage:", response['usage'])
print("Total tokens:", response['usage']['totalTokens'])