提出推論請求

推論是從提供給模型的輸入產生輸出的程序。您必須先允許角色執行模型調用 API 動作，才能將推論請求傳送至 Amazon Bedrock。這取決於您使用的端點。

bedrock-mantle 端點

如果您的角色已連接 AmazonBedrockMantleInferenceAccess AWS 受管政策，您可以略過本節。否則，請連接下列許可，以允許透過bedrock-mantle端點進行推論 （回應 API、聊天完成、訊息 API)：

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}

bedrock-runtime 端點

如果您的角色已連接 AmazonBedrockFullAccess AWS 受管政策，您可以略過本節。否則，請連接下列許可，以允許透過bedrock-runtime端點進行推論 (Converse 和 Invoke APIs)：

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

如需每個許可的詳細明細，請參閱 執行模型推論的必要條件。