

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 提出推理请求
<a name="inference"></a>

推理是根据提供给模型的输入生成输出的过程。在向 Amazon Bedrock 发送推理请求之前，您需要允许您的角色执行模型调用 API 操作。这取决于您使用的终端节点。

**`bedrock-mantle` 终端节点**

如果您的角色附加了`AmazonBedrockMantleInferenceAccess` AWS 托管策略，则可以跳过此部分。否则，请附加以下权限以允许通过`bedrock-mantle`端点进行推理（响应 API、聊天完成、消息 API）：

```
{
    "Version": "2012-10-17", 		 	 	 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}
```

**`bedrock-runtime` 终端节点**

如果您的角色附加了[AmazonBedrockFullAccess](security-iam-awsmanpol.md#security-iam-awsmanpol-AmazonBedrockFullAccess) AWS 托管策略，则可以跳过此部分。否则，请附加以下权限以允许通过`bedrock-runtime`终端节点进行推理（Converse 和 Invoke API）：

```
{
    "Version": "2012-10-17", 		 	 	 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}
```

有关每种权限的详细明细，请参阅[运行模型推理的先决条件](inference-prereq.md)。

**Topics**
+ [使用响应 API 进行推理](bedrock-mantle.md)
+ [使用聊天完成 API 进行推理](inference-chat-completions-mantle.md)
+ [使用 Anthropic 消息 API 进行推理](inference-messages-api.md)
+ [使用调用 API 进行推理](inference-api.md)
+ [使用匡威 API 进行推理](conversation-inference.md)
+ [利用推理参数影响响应生成](inference-parameters.md)
+ [从模型中获取经过验证的 JSON 结果](structured-output.md)
+ [使用模型推理增强模型响应](inference-reasoning.md)
+ [针对延迟优化模型推理](latency-optimized-inference.md)
+ [支持运行模型推理的区域和模型](inference-supported.md)