

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 提出推論請求
<a name="inference"></a>

推論是從提供給模型的輸入產生輸出的程序。您必須先允許角色執行模型調用 API 動作，才能將推論請求傳送至 Amazon Bedrock。這取決於您使用的端點。

**`bedrock-mantle` 端點**

如果您的角色已連接 `AmazonBedrockMantleInferenceAccess` AWS 受管政策，您可以略過本節。否則，請連接下列許可，以允許透過`bedrock-mantle`端點進行推論 （回應 API、聊天完成、訊息 API)：

```
{
    "Version": "2012-10-17", 		 	 	 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}
```

**`bedrock-runtime` 端點**

如果您的角色已連接 [AmazonBedrockFullAccess](security-iam-awsmanpol.md#security-iam-awsmanpol-AmazonBedrockFullAccess) AWS 受管政策，您可以略過本節。否則，請連接下列許可，以允許透過`bedrock-runtime`端點進行推論 (Converse 和 Invoke APIs)：

```
{
    "Version": "2012-10-17", 		 	 	 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}
```

如需每個許可的詳細明細，請參閱 [執行模型推論的必要條件](inference-prereq.md)。

**Topics**
+ [使用回應 API 進行推論](bedrock-mantle.md)
+ [使用聊天完成 API 的推論](inference-chat-completions-mantle.md)
+ [使用 Anthropic Messages API 的推論](inference-messages-api.md)
+ [使用叫用 API 的推論](inference-api.md)
+ [使用 Converse API 進行推論](conversation-inference.md)
+ [使用推論參數影響回應生成](inference-parameters.md)
+ [從模型取得經過驗證的 JSON 結果](structured-output.md)
+ [使用模型推理來增強模型回應](inference-reasoning.md)
+ [針對延遲最佳化模型推論](latency-optimized-inference.md)
+ [執行模型推論的支援區域和模型](inference-supported.md)