本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# Meta
<a name="model-cards-meta"></a>

Amazon Bedrock 提供下列中繼模型：


| **模型** | **Description** | 
| --- | --- | 
| [Llama 4 Maverick 17B Instruct](model-card-meta-llama-4-maverick-17b-instruct.md) | Llama 4 Maverick 是 Meta 的 170 億主動參數mixture-of-experts模型，擁有 128 名專家，針對多模式聊天和以下指示進行最佳化。 | 
| [Llama 4 Scout 17B Instruct](model-card-meta-llama-4-scout-17b-instruct.md) | Llama 4 Scout 是中繼的 170 億個作用中參數mixture-of-experts模型，具有 16 位專家和 10M個權杖內容視窗，用於長文件任務。 | 
| [Llama 3.3 70B Instruct](model-card-meta-llama-3-3-70b-instruct.md) | Llama 3.3 70B Instruct 是中繼的 700 億個參數模型，具有更高的效率，透過 128K 內容視窗提供強大的推理和編碼效能。 | 
| [Llama 3.2 11B Instruct](model-card-meta-llama-3-2-11b-instruct.md) | Llama 3.2 11B Instruct 是中繼的 110 億參數多模態模型，可處理具有 128K 內容視窗的文字和影像。 | 
| [Llama 3.2 1B Instruct](model-card-meta-llama-3-2-1b-instruct.md) | Llama 3.2 1B Instruct 是 Meta 的超輕量 10 億參數模型，已針對裝置和邊緣部署進行最佳化。 | 
| [Llama 3.2 3B Instruct](model-card-meta-llama-3-2-3b-instruct.md) | Llama 3.2 3B Instruct 是 Meta 的 30 億參數輕量型模型，專為摘要和以下指示等裝置任務而設計。 | 
| [Llama 3.2 90B Instruct](model-card-meta-llama-3-2-90b-instruct.md) | Llama 3.2 90B Instruct 是中繼的 900 億參數多模態模型，可處理文字和影像以進行視覺化推理和文件理解。 | 
| [Llama 3.1 405B Instruct](model-card-meta-llama-3-1-405b-instruct.md) | Llama 3.1 405B Instruct 是中繼最大的開放模型，具有 4，050 億個參數和 128K 內容視窗，支援工具使用和多語言任務。 | 
| [Llama 3.1 70B Instruct](model-card-meta-llama-3-1-70b-instruct.md) | Llama 3.1 70B Instruct 是中繼的 700 億參數模型，具有延伸的 128K 內容視窗，並支援工具使用和程式碼產生。 | 
| [Llama 3.1 8B Instruct](model-card-meta-llama-3-1-8b-instruct.md) | Llama 3.1 8B Instruct 是 Meta 的精簡 80 億參數模型，具有 128K 內容視窗，適用於邊緣部署和微調。 | 
| [Llama 3 70B Instruct](model-card-meta-llama-3-70b-instruct.md) | Llama 3 70B Instruct 是中繼的 700 億參數指令調校模型，具有 8K 內容視窗，針對對話和類似助理的任務進行了最佳化。 | 
| [Llama 3 8B Instruct](model-card-meta-llama-3-8b-instruct.md) | Llama 3 8B Instruct 是 Meta 的 80 億參數指令調校模型，具有 8K 內容視窗，專為在較小的基礎設施上高效部署而設計。 | 

# Llama 4 Maverick 17B Instruct
<a name="model-card-meta-llama-4-maverick-17b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 4 Maverick 17B 指示
<a name="model-card-meta-llama-4-maverick-17b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-4-maverick-17b-instruct-details"></a>

Llama 4 Maverick 是 Meta 的 170 億主動參數mixture-of-experts模型，擁有 128 名專家，針對多模式聊天和以下指示進行最佳化。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama4/)。
+ **模型啟動日期：**2025 年 4 月 5 日
+ **模型 EOL 日期：**不可早於 4/28/2026
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**1M個字符
+ **最大輸出字符：**8K
+ **知識截止日期：**2024 年 8 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-4-maverick-17b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-4-maverick-17b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama4-maverick-17b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama4-maverick-17b-instruct-v1:0 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-4-maverick-17b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive的工作負載提供低成本存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-4-maverick-17b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理 （美國、歐洲等） 中跨區域的**地理跨區域**路由可在遵守資料駐留時獲得更高的輸送量，而全球**跨區域**路由可在沒有駐留限制的情況下在全球任何地方獲得最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-1 （加利佛尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama4-maverick-17b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-1 （加利佛尼亞北部） | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-1 （加利佛尼亞北部）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-4-maverick-17b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額，可維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-4-maverick-17b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama4-maverick-17b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama4-maverick-17b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 4 Scout 17B Instruct
<a name="model-card-meta-llama-4-scout-17b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 4 定位器 17B 指示
<a name="model-card-meta-llama-4-scout-17b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-4-scout-17b-instruct-details"></a>

Llama 4 Scout 是中繼的 170 億個作用中參數mixture-of-experts模型，具有 16 位專家和 10M個權杖內容視窗，用於長文件任務。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama4/)。
+ **模型啟動日期：**2025 年 4 月 5 日
+ **模型 EOL 日期：**不可早於 4/28/2026
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**10M個字符
+ **最大輸出字符：**8K
+ **知識截止日期：**2024 年 8 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-4-scout-17b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-4-scout-17b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama4-scout-17b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama4-scout-17b-instruct-v1:0 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-4-scout-17b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive的工作負載提供低成本存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-4-scout-17b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理 （美國、歐洲等） 中跨區域的**地理跨區域**路由可在遵守資料駐留時獲得更高的輸送量，而全球**跨區域**路由可在沒有駐留限制的情況下在全球任何地方獲得最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-1 （加利佛尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama4-scout-17b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-1 （加利佛尼亞北部） | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-1 （加利佛尼亞北部）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-4-scout-17b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額，可維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-4-scout-17b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama4-scout-17b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama4-scout-17b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.3 70B Instruct
<a name="model-card-meta-llama-3-3-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 3.3 70B 指示
<a name="model-card-meta-llama-3-3-70b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-3-70b-instruct-details"></a>

Llama 3.3 70B Instruct 是中繼的 700 億個參數模型，具有更高的效率，透過 128K 內容視窗提供強大的推理和編碼效能。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_3/)。
+ **模型啟動日期：**2024 年 12 月 6 日
+ **模型 EOL 日期：**不可早於 12/19/2025
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模式** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-3-70b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-3-70b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-3-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-3-70b-instruct-v1:0 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-3-70b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-3-70b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理位置 （美國、歐洲等） 內區域間的**地理跨區域**路由可提高輸送量，同時遵守資料駐留，而全球**跨區域**路由則可在無駐留限制的情況下，在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-3-70b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-3-3-70b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-3-70b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-3-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-3-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 11B Instruct
<a name="model-card-meta-llama-3-2-11b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 3.2 11B 指示
<a name="model-card-meta-llama-3-2-11b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-2-11b-instruct-details"></a>

Llama 3.2 11B Instruct 是中繼的 110 億參數多模態模型，可處理具有 128K 內容視窗的文字和影像。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/)。
+ **模型啟動日期：**2024 年 9 月 25 日
+ **模型 EOL 日期：**舊版：2026 年 7 月 7 日
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-2-11b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-2-11b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-11b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-2-11b-instruct-v1:0 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-2-11b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive的工作負載提供低成本存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-2-11b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理 （美國、歐洲等） 中跨區域的**地理跨區域**路由可在遵守資料駐留時獲得更高的輸送量，而全球**跨區域**路由可在沒有駐留限制的情況下在全球任何地方獲得最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-2-11b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-3-2-11b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額，可維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-2-11b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-11b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-11b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 1B Instruct
<a name="model-card-meta-llama-3-2-1b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 3.2 1B 指示
<a name="model-card-meta-llama-3-2-1b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-2-1b-instruct-details"></a>

Llama 3.2 1B Instruct 是 Meta 的超輕量 10 億參數模型，已針對裝置和邊緣部署進行最佳化。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/)。
+ **模型啟動日期：**2024 年 9 月 25 日
+ **模型 EOL 日期：**舊版：2026 年 7 月 7 日
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-2-1b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-2-1b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-1b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.meta.llama3-2-1b-instruct-v1:0``eu.meta.llama3-2-1b-instruct-v1:0` | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-2-1b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive的工作負載提供低成本存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-2-1b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理 （美國、歐洲等） 中跨區域的**地理跨區域**路由可在遵守資料駐留時獲得更高的輸送量，而全球**跨區域**路由可在沒有駐留限制的情況下在全球任何地方獲得最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 （法蘭克福） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 （愛爾蘭） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 （巴黎） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-2-1b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 

**地理：歐洲**

地理推論 ID： `eu.meta.llama3-2-1b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| eu-central-1(法蘭克福) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 
| eu-west-1(愛爾蘭) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 
| eu-west-3(巴黎) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 

## 配額和限制
<a name="model-card-meta-llama-3-2-1b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額，可維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-2-1b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-1b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-1b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 3B Instruct
<a name="model-card-meta-llama-3-2-3b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 3.2 3B 指示
<a name="model-card-meta-llama-3-2-3b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-2-3b-instruct-details"></a>

Llama 3.2 3B Instruct 是 Meta 的 30 億參數輕量型模型，專為摘要和以下指示等裝置任務而設計。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/)。
+ **模型啟動日期：**2024 年 9 月 25 日
+ **模型 EOL 日期：**舊版：2026 年 7 月 7 日
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-2-3b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-2-3b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-3b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.meta.llama3-2-3b-instruct-v1:0``eu.meta.llama3-2-3b-instruct-v1:0` | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-2-3b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive的工作負載提供低成本存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-2-3b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理 （美國、歐洲等） 中跨區域的**地理跨區域**路由可在遵守資料駐留時獲得更高的輸送量，而全球**跨區域**路由可在沒有駐留限制的情況下在全球任何地方獲得最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 （法蘭克福） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 （愛爾蘭） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 （巴黎） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-2-3b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 

**地理：歐洲**

地理推論 ID： `eu.meta.llama3-2-3b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| eu-central-1(法蘭克福) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 
| eu-west-1(愛爾蘭) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 
| eu-west-3(巴黎) | eu-central-1 （法蘭克福）、eu-west-1 （愛爾蘭）、eu-west-3 （巴黎） | 

## 配額和限制
<a name="model-card-meta-llama-3-2-3b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額，可維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-2-3b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-3b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-3b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 90B Instruct
<a name="model-card-meta-llama-3-2-90b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 3.2 90B 指示
<a name="model-card-meta-llama-3-2-90b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-2-90b-instruct-details"></a>

Llama 3.2 90B Instruct 是中繼的 900 億參數多模態模型，可處理文字和影像以進行視覺化推理和文件理解。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/)。
+ **模型啟動日期：**2024 年 9 月 25 日
+ **模型 EOL 日期：**舊版：2026 年 7 月 7 日
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模式** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-2-90b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-2-90b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-90b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-2-90b-instruct-v1:0 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-2-90b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留**提供專用輸送量，並承諾可預測工作負載的期限。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-2-90b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理位置 （美國、歐洲等） 內區域間的**地理跨區域**路由可提高輸送量，同時遵守資料駐留，而全球**跨區域**路由則可在無駐留限制的情況下，在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-2-90b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-3-2-90b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-2-90b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-90b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-90b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 405B Instruct
<a name="model-card-meta-llama-3-1-405b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 3.1 405B 指示
<a name="model-card-meta-llama-3-1-405b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-1-405b-instruct-details"></a>

Llama 3.1 405B Instruct 是中繼最大的開放模型，具有 4，050 億個參數和 128K 內容視窗，支援工具使用和多語言任務。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/)。
+ **模型啟動日期：**2024 年 7 月 23 日
+ **模型 EOL 日期：**舊版：2026 年 7 月 7 日
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-1-405b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-1-405b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-405b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-405b-instruct-v1:0 | 不支援 | 

*例如，如果 region 是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-1-405b-instruct-tiers"></a>

Amazon Bedrock 提供多個服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留** 提供專用輸送量，並提供可預測工作負載的期限承諾。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-1-405b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理位置 （美國、歐洲等） 內區域間的**地理跨區域**路由可提高輸送量，同時遵守資料駐留，而全球**跨區域**路由則可在無駐留限制的情況下，在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-1-405b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 範例程式碼
<a name="model-card-meta-llama-3-1-405b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-405b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 70B Instruct
<a name="model-card-meta-llama-3-1-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 3.1 70B 指示
<a name="model-card-meta-llama-3-1-70b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-1-70b-instruct-details"></a>

Llama 3.1 70B Instruct 是中繼的 700 億參數模型，具有延伸的 128K 內容視窗，並支援工具使用和程式碼產生。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/)。
+ **模型啟動日期：**2024 年 7 月 23 日
+ **模型 EOL 日期：**不可早於 7/23/2025
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-1-70b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-1-70b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-70b-instruct-v1:0 | 不支援 | 

*例如，如果 region 是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-1-70b-instruct-tiers"></a>

Amazon Bedrock 提供多個服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留** 提供專用輸送量，並提供可預測工作負載的期限承諾。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-1-70b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理位置 （美國、歐洲等） 內區域間的**地理跨區域**路由可提高輸送量，同時遵守資料駐留，而全球**跨區域**路由則可在無駐留限制的情況下，在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-1-70b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-3-1-70b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-1-70b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-1-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 8B Instruct
<a name="model-card-meta-llama-3-1-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 3.1 8B 指示
<a name="model-card-meta-llama-3-1-8b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-1-8b-instruct-details"></a>

Llama 3.1 8B Instruct 是 Meta 的精簡 80 億參數模型，具有 128K 內容視窗，適用於邊緣部署和微調。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/)。
+ **模型啟動日期：**2024 年 7 月 23 日
+ **模型 EOL 日期：**不可早於 7/23/2025
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**128K 權杖
+ **最大輸出字符：**4K
+ **知識截止日期：**2023 年 12 月


| **輸入模態** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 定價
<a name="model-card-meta-llama-3-1-8b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-1-8b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-8b-instruct-v1:0 | 不支援 | 

*例如，如果 region 是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-1-8b-instruct-tiers"></a>

Amazon Bedrock 提供多個服務層，以符合您的工作負載需求。**Standard** pay-per-token存取，無需任何承諾。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留** 提供專用輸送量，並提供可預測工作負載的期限承諾。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-1-8b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一 區域內，地理位置 （美國、歐洲等） 內區域間的**地理跨區域**路由可提高輸送量，同時遵守資料駐留，而全球**跨區域**路由則可在無駐留限制的情況下，在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 （俄亥俄） | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

***地理推論詳細資訊***

**地理：美國**

地理推論 ID： `us.meta.llama3-1-8b-instruct-v1:0`


| **來源區域** | **目的地區域** | 
| --- | --- | 
| us-east-1(維吉尼亞北部) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-east-2(俄亥俄) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 
| us-west-2(奧勒岡) | us-east-1 （維吉尼亞北部）、us-east-2 （俄亥俄）、us-west-2 （奧勒岡） | 

## 配額和限制
<a name="model-card-meta-llama-3-1-8b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-1-8b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-1-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3 70B Instruct
<a name="model-card-meta-llama-3-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) 中繼 — Llama 3 70B 指示
<a name="model-card-meta-llama-3-70b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-70b-instruct-details"></a>

Llama 3 70B Instruct 是 Meta 的 700 億參數指令調校模型，具有 8K 內容視窗，針對對話和類似助理的任務進行最佳化。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3)。
+ **模型啟動日期：**2024 年 4 月 18 日
+ **模型 EOL 日期：**不可早於 4/23/2025
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**8K 權杖
+ **最大輸出字符：**8K
+ **知識截止日期：**2023 年 12 月


| **輸入模式** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 功能和功能
<a name="model-card-meta-llama-3-70b-instruct-capabilities"></a>

***Bedrock 功能***

**使用`bedrock-runtime`端點支援的功能**


| **支援的** | **不支援** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/model-card-meta-llama-3-70b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/model-card-meta-llama-3-70b-instruct.html)  | 

## 定價
<a name="model-card-meta-llama-3-70b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-70b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 不支援 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-70b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** 提供pay-per-token存取。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留** 提供專用輸送量，並提供可預測工作負載的期限承諾。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-70b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一區域中，**地理跨區域**路由在地理 （美國、歐洲等） 內的區域間可提高輸送量，同時遵守資料駐留，而**全球跨區域**路由在無駐留限制的情況下，可在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 （加拿大） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 （倫敦） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 （孟買） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 配額和限制
<a name="model-card-meta-llama-3-70b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-70b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3 8B Instruct
<a name="model-card-meta-llama-3-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/models/meta.png) Meta — Llama 3 8B 指示
<a name="model-card-meta-llama-3-8b-instruct-header"></a>

## 模型詳細資訊
<a name="model-card-meta-llama-3-8b-instruct-details"></a>

Llama 3 8B Instruct 是 Meta 的 80 億參數指令調校模型，具有 8K 內容視窗，專為在較小的基礎設施上高效部署而設計。如需模型開發和效能的詳細資訊，請參閱[模型/服務卡](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3)。
+ **模型啟動日期：**2024 年 4 月 18 日
+ **模型 EOL 日期：**不可早於 4/23/2025
+ **最終使用者授權合約和使用條款：**[檢視](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **模型生命週期：**作用中
+ **內容視窗：**8K 權杖
+ **最大輸出字符：**8K
+ **知識截止日期：**2023 年 12 月


| **輸入模式** | **輸出模式** | **[支援的 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 音訊 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 內嵌 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影像 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 語音 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) 文字 | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) 影片 |  |  | 

## 功能和功能
<a name="model-card-meta-llama-3-8b-instruct-capabilities"></a>

***Bedrock 功能***

**使用`bedrock-runtime`端點支援的功能**


| **支援的** | **不支援** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  | 

## 定價
<a name="model-card-meta-llama-3-8b-instruct-pricing"></a>

如需定價，請參閱 [Amazon Bedrock 定價](https://aws.amazon.com/bedrock/pricing/)頁面。

## 程式設計存取
<a name="model-card-meta-llama-3-8b-instruct-programmatic-access"></a>

使用以下模型 IDs和端點 URLs，以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊，請參閱[支援的 APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)和[支援的端點](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)。


| **端點** | **模型 ID** | **區域端點 URL** | **地理推論 ID** | **全域推論 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 不支援 | 不支援 | 

*例如，如果區域是 us-east-1 （維吉尼亞北部），則 bedrock-runtime 端點 URL 將為 "https://bedrock-runtime.us-east-1.amazonaws.com"，而 bedrock-mantle 則為 "https://bedrock-mantle.us-east-1.api.aws/v1"。*

## 服務層
<a name="model-card-meta-llama-3-8b-instruct-tiers"></a>

Amazon Bedrock 提供多種服務層，以符合您的工作負載需求。**Standard** 提供pay-per-token存取。**優先順序**透過以時間為基礎的承諾提供更高的輸送量。**Flex** 為彈性、non-time-sensitive工作負載提供較低成本的存取。**預留** 提供專用輸送量，並提供可預測工作負載的期限承諾。如需詳細資訊，請參閱 [服務方案](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)。


| **標準** | **優先順序** | **Flex** | **預留** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 區域可用性
<a name="model-card-meta-llama-3-8b-instruct-regional-availability"></a>

***區域可用性一目了然***

Bedrock 提供三種推論選項：**為嚴格合規，區域內**將請求保留在單一區域中，**地理跨區域**路由在地理 （美國、歐洲等） 內的區域間可提高輸送量，同時遵守資料駐留，而**全球跨區域**路由在無駐留限制的情況下，可在全球任何地方提供最大輸送量。如需詳細資訊，請參閱 [區域可用性](models-region-compatibility.md)頁面。


| **區域** | **區域內** | **地理** | **全域** | 
| --- | --- | --- | --- | 
| us-east-1 （維吉尼亞北部） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 （奧勒岡） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 （加拿大） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 （倫敦） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 （孟買） | ![\[Yes\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 配額和限制
<a name="model-card-meta-llama-3-8b-instruct-quotas"></a>

您的 AWS 帳戶具有預設配額來維持服務的效能，並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額[增加請求](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html)的核准而更新。如需詳細資訊，請參閱 [Amazon Bedrock 的配額](quotas.md) 文件並查看模型[的限制](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)。

## 範例程式碼
<a name="model-card-meta-llama-3-8b-instruct-sample-code"></a>

**步驟 1 - AWS 帳戶：**如果您已經有 AWS 帳戶，請略過此步驟。如果您是初次使用 AWS，請註冊 [AWS 帳戶](https://portal.aws.amazon.com/billing/signup)。

**步驟 2 - API 金鑰：**前往 [Amazon Bedrock 主控台](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)並產生長期 API 金鑰。

**步驟 3 - 取得 SDK：**若要使用此入門指南，您必須已安裝 Python。然後，根據您使用的 APIs相關軟體。

```
pip install boto3
```

**步驟 4 - 設定環境變數：**設定您的環境以使用 API 金鑰進行身分驗證。

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**步驟 5 - 執行您的第一個推論請求：**將檔案儲存為 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------