本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
所需的許可
監控使用者需要 bedrock:InvokeModelWithResponseStream許可才能使用 助理。當管理員啟用助理時,Deadline Cloud 會自動將所需的 IAM 政策連接到監控使用者角色。
如需有關截止日期雲端 IAM 許可的資訊,請參閱截止日期雲端的身分型政策範例。
IAM 政策
當管理員啟用助理時,下列 IAM 政策會連接至監視器使用者角色。政策授予許可,透過範圍限定於監視器地理區域的跨區域推論設定檔叫用模型。
{ "Version": "2012-10-17", "Statement": [ { "Sid": "GrantCrisInferenceProfileAccess", "Effect": "Allow", "Action": "bedrock:InvokeModelWithResponseStream", "Resource": "arn:aws:bedrock:Region:AccountId:inference-profile/InferenceProfilePrefix.*", "Condition": { "StringEquals": { "aws:RequestedRegion":RequestedRegions} } }, { "Sid": "GrantCrisModelAccess", "Effect": "Allow", "Action": "bedrock:InvokeModelWithResponseStream", "Resource": "arn:aws:bedrock:*::foundation-model/*", "Condition": { "StringEquals": { "aws:RequestedRegion":RequestedRegions}, "ArnLike": { "bedrock:InferenceProfileArn": "arn:aws:bedrock:Region:AccountId:inference-profile/InferenceProfilePrefix.*" } } } ] }
政策僅授予 bedrock:InvokeModelWithResponseStream - 不允許其他動作。
跨區域推論
助理使用跨區域推論來最佳化模型可用性和輸送量。當您叫用助理時, 可能會將您的請求路由到相同地理區域 AWS 區域 內的不同 ,以處理推論請求。
-
請求會路由至您監視器區域的地理界限 AWS 區域 內。
-
區域之間傳輸的所有資料都會保留在 AWS 網路上,而不會周遊公有網際網路。
-
資料會在 之間傳輸中加密 AWS 區域。
-
跨區域推論沒有額外的路由成本。定價是根據您從中呼叫推論設定檔的區域。
-
跨區域推論請求會記錄在來源區域中的 CloudTrail 中。
additionalEventData.inferenceRegion欄位識別處理請求的位置。
下表顯示根據監視器的區域使用哪些地理推論設定檔和目的地區域:
| 監控區域 | 推論設定檔字首 | 目的地區域 |
|---|---|---|
| us-east-1 | us |
us-east-1、us-east-2、us-west-2 |
| us-east-2 | us |
us-east-1、us-east-2、us-west-2 |
| us-west-2 | us |
us-east-1、us-east-2、us-west-2 |
| eu-central-1 | eu |
eu-central-1、eu-north-1、eu-south-1、eu-south-2、eu-west-1、eu-west-3 |
| eu-west-1 | eu |
eu-central-1、eu-north-1、eu-south-1、eu-south-2、eu-west-1、eu-west-3 |
| eu-west-2 | eu |
eu-central-1、eu-north-1、eu-south-1、eu-south-2、eu-west-1、eu-west-2、eu-west-3 |
| ap-northeast-1 | jp |
ap-northeast-1、ap-northeast-3 |
| ap-southeast-2 | au |
ap-southeast-2、ap-southeast-4 |
| ap-northeast-2 | global |
ap-northeast-2 |
| ap-southeast-1 | global |
ap-southeast-1 |
對於使用global推論設定檔字首的區域, 可能會將請求路由到 AWS 區域 全球任何支援的商業。