View a markdown version of this page

Membuat permintaan inferensi - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Membuat permintaan inferensi

Inferensi adalah proses menghasilkan output dari input yang diberikan ke model. Sebelum dapat mengirim permintaan inferensi ke Amazon Bedrock, Anda harus mengizinkan peran Anda untuk melakukan tindakan API pemanggilan model. Ini tergantung pada titik akhir yang Anda gunakan.

bedrock-mantletitik akhir

Jika peran Anda memiliki kebijakan AmazonBedrockMantleInferenceAccess AWS terkelola yang dilampirkan, Anda dapat melewati bagian ini. Jika tidak, lampirkan izin berikut untuk mengizinkan inferensi melalui bedrock-mantle titik akhir (Responses API, Chat Completions, Messages API):

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}

bedrock-runtimetitik akhir

Jika peran Anda memiliki kebijakan AmazonBedrockFullAccess AWS terkelola yang dilampirkan, Anda dapat melewati bagian ini. Jika tidak, lampirkan izin berikut untuk mengizinkan inferensi melalui bedrock-runtime titik akhir (Converse dan Invoke API):

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Untuk rincian rinci dari setiap izin, lihatPrasyarat untuk menjalankan inferensi model.

Topik