기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

# Meta
<a name="model-cards-meta"></a>

Amazon Bedrock에서 사용할 수 있는 메타 모델은 다음과 같습니다.


| **모델** | **설명** | 
| --- | --- | 
| [Llama 4 Maverick 17B 지침](model-card-meta-llama-4-maverick-17b-instruct.md) | Llama 4 Maverick은 128명의 전문가가 포함된 Meta의 170억 개의 활성 파라미터 mixture-of-experts 모델로, 멀티모달 채팅 및 다음 지침에 최적화되어 있습니다. | 
| [Llama 4 Scout 17B 지침](model-card-meta-llama-4-scout-17b-instruct.md) | Llama 4 Scout은 16명의 전문가가 포함된 Meta의 170억 개의 활성 파라미터 mixture-of-experts 모델이며, 장기 문서 작업을 위한 10M 개의 토큰 컨텍스트 창입니다. | 
| [Llama 3.3 70B 지침](model-card-meta-llama-3-3-70b-instruct.md) | Llama 3.3 70B Instruct는 효율성이 향상된 Meta의 700억 파라미터 모델로, 128K 컨텍스트 기간으로 강력한 추론 및 코딩 성능을 제공합니다. | 
| [Llama 3.2 11B 지침](model-card-meta-llama-3-2-11b-instruct.md) | Llama 3.2 11B Instruct는 128K 컨텍스트 창을 사용하여 텍스트와 이미지를 모두 처리하는 Meta의 110억 파라미터 멀티모달 모델입니다. | 
| [Llama 3.2 1B 지침](model-card-meta-llama-3-2-1b-instruct.md) | Llama 3.2 1B Instruct는 디바이스 및 엣지 배포에 최적화된 Meta의 초경량 10억 파라미터 모델입니다. | 
| [Llama 3.2 3B 지침](model-card-meta-llama-3-2-3b-instruct.md) | Llama 3.2 3B Instruct는 요약 및 다음 지침과 같은 디바이스 내 작업을 위해 설계된 Meta의 30억 파라미터 경량 모델입니다. | 
| [Llama 3.2 90B 지침](model-card-meta-llama-3-2-90b-instruct.md) | Llama 3.2 90B Instruct는 시각적 추론 및 문서 이해를 위해 텍스트와 이미지를 처리하는 Meta의 900억 파라미터 멀티모달 모델입니다. | 
| [Llama 3.1 405B 지침](model-card-meta-llama-3-1-405b-instruct.md) | Llama 3.1 405B Instruct는 4,050억 개의 파라미터와 128K 컨텍스트 창을 갖춘 Meta의 최대 개방형 모델로, 도구 사용과 다국어 작업을 지원합니다. | 
| [Llama 3.1 70B Instruct](model-card-meta-llama-3-1-70b-instruct.md) | Llama 3.1 70B Instruct는 128K 컨텍스트 창이 확장되고 도구 사용 및 코드 생성을 지원하는 Meta의 700억 파라미터 모델입니다. | 
| [Llama 3.1 8B 지침](model-card-meta-llama-3-1-8b-instruct.md) | Llama 3.1 8B Instruct는 엣지 배포 및 미세 조정에 적합한 128K 컨텍스트 창이 있는 Meta의 소형 80억 파라미터 모델입니다. | 
| [Llama 3 70B 지침](model-card-meta-llama-3-70b-instruct.md) | Llama 3 70B Instruct는 대화 및 어시스턴트와 유사한 작업에 최적화된 8K 컨텍스트 창이 있는 Meta의 700억 파라미터 명령 튜닝 모델입니다. | 
| [Llama 3 8B 지침](model-card-meta-llama-3-8b-instruct.md) | Llama 3 8B Instruct는 더 작은 인프라에 효율적으로 배포할 수 있도록 설계된 8K 컨텍스트 창이 있는 Meta의 80억 파라미터 명령 튜닝 모델입니다. | 

# Llama 4 Maverick 17B 지침
<a name="model-card-meta-llama-4-maverick-17b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 4 Maverick 17B 지침
<a name="model-card-meta-llama-4-maverick-17b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-4-maverick-17b-instruct-details"></a>

Llama 4 Maverick은 128명의 전문가가 포함된 Meta의 170억 개의 활성 파라미터 mixture-of-experts 모델로, 멀티모달 채팅 및 다음 지침에 최적화되어 있습니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama4/) 참조하세요.
+ **모델 출시 날짜:** 2025년 4월 5일
+ **모델 EOL 날짜:** 4/28/2026 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 1M0만 개의 토큰
+ **최대 출력 토큰:** 8K
+ **지식 마감:** 2024년 8월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-4-maverick-17b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-4-maverick-17b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama4-maverick-17b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama4-maverick-17b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-4-maverick-17b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-4-maverick-17b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하고, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-1 (캘리포니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama4-maverick-17b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-1(캘리포니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-1(캘리포니아 북부), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-4-maverick-17b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-4-maverick-17b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama4-maverick-17b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama4-maverick-17b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 4 Scout 17B 지침
<a name="model-card-meta-llama-4-scout-17b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 4 Scout 17B 지침
<a name="model-card-meta-llama-4-scout-17b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-4-scout-17b-instruct-details"></a>

Llama 4 Scout은 16명의 전문가가 포함된 Meta의 170억 개의 활성 파라미터 mixture-of-experts 모델이며, 장기 문서 작업을 위한 10M 개의 토큰 컨텍스트 창입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama4/) 참조하세요.
+ **모델 출시 날짜:** 2025년 4월 5일
+ **모델 EOL 날짜:** 4/28/2026 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 10M 개의 토큰
+ **최대 출력 토큰:** 8K
+ **지식 마감:** 2024년 8월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-4-scout-17b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-4-scout-17b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama4-scout-17b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama4-scout-17b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-4-scout-17b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-4-scout-17b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하고, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-1 (캘리포니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama4-scout-17b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-1(캘리포니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-1(캘리포니아 북부), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-4-scout-17b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-4-scout-17b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama4-scout-17b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama4-scout-17b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.3 70B 지침
<a name="model-card-meta-llama-3-3-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.3 70B 지침
<a name="model-card-meta-llama-3-3-70b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-3-70b-instruct-details"></a>

Llama 3.3 70B Instruct는 효율성이 향상된 Meta의 700억 파라미터 모델로, 128K 컨텍스트 기간으로 강력한 추론 및 코딩 성능을 제공합니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_3/) 참조하세요.
+ **모델 시작 날짜:** 2024년 12월 6일
+ **모델 EOL 날짜:** 12/19/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-3-70b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-3-70b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-3-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-3-70b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-3-70b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-3-70b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-3-70b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-3-70b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-3-70b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-3-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-3-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 11B 지침
<a name="model-card-meta-llama-3-2-11b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.2 11B 지침
<a name="model-card-meta-llama-3-2-11b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-2-11b-instruct-details"></a>

Llama 3.2 11B Instruct는 128K 컨텍스트 창을 사용하여 텍스트와 이미지를 모두 처리하는 Meta의 110억 파라미터 멀티모달 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/) 참조하세요.
+ **모델 출시 날짜:** 2024년 9월 25일
+ **모델 EOL 날짜:** 레거시: 2026년 7월 7일
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-2-11b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-2-11b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-11b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-2-11b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-2-11b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-2-11b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하고, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-2-11b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-2-11b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-2-11b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-11b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-11b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 1B 지침
<a name="model-card-meta-llama-3-2-1b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.2 1B 지침
<a name="model-card-meta-llama-3-2-1b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-2-1b-instruct-details"></a>

Llama 3.2 1B Instruct는 디바이스 및 엣지 배포에 최적화된 Meta의 초경량 10억 파라미터 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/) 참조하세요.
+ **모델 출시 날짜:** 2024년 9월 25일
+ **모델 EOL 날짜:** 레거시: 2026년 7월 7일
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-2-1b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-2-1b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-1b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.meta.llama3-2-1b-instruct-v1:0``eu.meta.llama3-2-1b-instruct-v1:0` | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-2-1b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-2-1b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 (프랑크푸르트) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-2-1b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-west-2(오레곤) | 

**지역: EU**

지리 추론 ID: `eu.meta.llama3-2-1b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| eu-central-1(프랑크푸르트) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-1(아일랜드) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-3(파리) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-2-1b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-2-1b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-1b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-1b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 3B 지침
<a name="model-card-meta-llama-3-2-3b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.2 3B 지침
<a name="model-card-meta-llama-3-2-3b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-2-3b-instruct-details"></a>

Llama 3.2 3B Instruct는 요약 및 다음 지침과 같은 디바이스 내 작업을 위해 설계된 Meta의 30억 파라미터 경량 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/) 참조하세요.
+ **모델 출시 날짜:** 2024년 9월 25일
+ **모델 EOL 날짜:** 레거시: 2026년 7월 7일
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-2-3b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-2-3b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-3b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.meta.llama3-2-3b-instruct-v1:0``eu.meta.llama3-2-3b-instruct-v1:0` | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-2-3b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-2-3b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하고, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 (프랑크푸르트) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-2-3b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-west-2(오레곤) | 

**지역: EU**

지리 추론 ID: `eu.meta.llama3-2-3b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| eu-central-1(프랑크푸르트) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-1(아일랜드) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-3(파리) | eu-central-1(프랑크푸르트), eu-west-1(아일랜드), eu-west-3(파리) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-2-3b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-2-3b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-3b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-3b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.2 90B 지침
<a name="model-card-meta-llama-3-2-90b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.2 90B 지침
<a name="model-card-meta-llama-3-2-90b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-2-90b-instruct-details"></a>

Llama 3.2 90B Instruct는 시각적 추론 및 문서 이해를 위해 텍스트와 이미지를 처리하는 Meta의 900억 파라미터 멀티모달 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/) 참조하세요.
+ **모델 출시 날짜:** 2024년 9월 25일
+ **모델 EOL 날짜:** 레거시: 2026년 7월 7일
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-2-90b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-2-90b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-2-90b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-2-90b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-2-90b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-2-90b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-2-90b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-2-90b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-2-90b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-2-90b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-2-90b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 405B 지침
<a name="model-card-meta-llama-3-1-405b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.1 405B 지침
<a name="model-card-meta-llama-3-1-405b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-1-405b-instruct-details"></a>

Llama 3.1 405B Instruct는 4,050억 개의 파라미터와 128K 컨텍스트 창을 갖춘 Meta의 최대 개방형 모델로, 도구 사용과 다국어 작업을 지원합니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/) 참조하세요.
+ **모델 출시 날짜:** 2024년 7월 23일
+ **모델 EOL 날짜:** 레거시: 2026년 7월 7일
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-1-405b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-1-405b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-405b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-405b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-1-405b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-1-405b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-1-405b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 샘플 코드
<a name="model-card-meta-llama-3-1-405b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-405b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 70B Instruct
<a name="model-card-meta-llama-3-1-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.1 70B 지침
<a name="model-card-meta-llama-3-1-70b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-1-70b-instruct-details"></a>

Llama 3.1 70B Instruct는 128K 컨텍스트 창이 확장되고 도구 사용 및 코드 생성을 지원하는 Meta의 700억 파라미터 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/) 참조하세요.
+ **모델 출시 날짜:** 2024년 7월 23일
+ **모델 EOL 날짜:** 7/23/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-1-70b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-1-70b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-70b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-1-70b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-1-70b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-1-70b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-1-70b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-1-70b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-1-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3.1 8B 지침
<a name="model-card-meta-llama-3-1-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3.1 8B 지침
<a name="model-card-meta-llama-3-1-8b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-1-8b-instruct-details"></a>

Llama 3.1 8B Instruct는 엣지 배포 및 미세 조정에 적합한 128K 컨텍스트 창이 있는 Meta의 소형 80억 파라미터 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/) 참조하세요.
+ **모델 출시 날짜:** 2024년 7월 23일
+ **모델 EOL 날짜:** 7/23/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 4K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-meta-llama-3-1-8b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-1-8b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-8b-instruct-v1:0 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-1-8b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-1-8b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.meta.llama3-1-8b-instruct-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-1-8b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-1-8b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-1-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3 70B 지침
<a name="model-card-meta-llama-3-70b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3 70B 지침
<a name="model-card-meta-llama-3-70b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-70b-instruct-details"></a>

Llama 3 70B Instruct는 대화 및 어시스턴트와 유사한 작업에 최적화된 8K 컨텍스트 창이 있는 Meta의 700억 파라미터 명령 튜닝 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3) 참조하세요.
+ **모델 출시 날짜:** 2024년 4월 18일
+ **모델 EOL 날짜:** 4/23/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 8K 토큰
+ **최대 출력 토큰:** 8K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 기능 및 기능
<a name="model-card-meta-llama-3-70b-instruct-capabilities"></a>

***Bedrock 기능***

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-meta-llama-3-70b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-meta-llama-3-70b-instruct.html)  | 

## 가격 책정
<a name="model-card-meta-llama-3-70b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-70b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 섹션을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-70b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-70b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-70b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 이루어집니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 (캐나다) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-70b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-70b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-70b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-70b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Llama 3 8B 지침
<a name="model-card-meta-llama-3-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/meta.png) 메타 - Llama 3 8B 지침
<a name="model-card-meta-llama-3-8b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-meta-llama-3-8b-instruct-details"></a>

Llama 3 8B Instruct는 더 작은 인프라에 효율적으로 배포할 수 있도록 설계된 8K 컨텍스트 창이 있는 Meta의 80억 파라미터 명령 튜닝 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3) 참조하세요.
+ **모델 출시 날짜:** 2024년 4월 18일
+ **모델 EOL 날짜:** 4/23/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 8K 토큰
+ **최대 출력 토큰:** 8K
+ **지식 마감:** 2023년 12월


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 기능 및 기능
<a name="model-card-meta-llama-3-8b-instruct-capabilities"></a>

***Bedrock 기능***

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  | 

## 가격 책정
<a name="model-card-meta-llama-3-8b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-meta-llama-3-8b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 섹션을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-meta-llama-3-8b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-meta-llama-3-8b-instruct-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 (캐나다) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-meta-llama-3-8b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-meta-llama-3-8b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------