기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

# Mistral AI
<a name="model-cards-mistral-ai"></a>

Amazon Bedrock에서 사용할 수 있는 Mistral AI 모델은 다음과 같습니다.


| **모델** | **설명** | 
| --- | --- | 
| [Mistral Small](model-card-mistral-ai-mistral-small.md) | Mistral Small은 분류, 번역 및 고객 지원과 같은 지연 시간이 짧은 작업에 최적화된 Mistral AI의 비용 효율적인 모델입니다. | 
| [미니스트럴 14B 3.0](model-card-mistral-ai-ministral-14b-3-0.md) | Ministral 14B 3.0은 지식 및 추론 작업에 대한 강력한 성능을 갖춘 온디바이스 배포에 최적화된 Mistral AI의 140억 파라미터 엣지 모델입니다. | 
| [미니스트럴 3 8B](model-card-mistral-ai-ministral-3-8b.md) | 미니스트럴 3 8B는 효율적인 추론을 통해 엣지 및 모바일 배포를 위한 Mistral AI의 80억 파라미터 압축 모델입니다. | 
| [미니스트럴 3B](model-card-mistral-ai-ministral-3b.md) | 미니스트럴 3B는 최소한의 컴퓨팅이 필요한 온디바이스 작업을 위한 Mistral AI의 초소형 30억 파라미터 모델입니다. | 
| [Mistral Large 3](model-card-mistral-ai-mistral-large-3.md) | Mistral Large 3는 코딩, 추론 및 다국어 작업에 대한 강력한 성능을 갖춘 Mistral AI의 6750억 파라미터 모델입니다. | 
| [Voxtral Small 24B 2507](model-card-mistral-ai-voxtral-small-24b-2507.md) | Voxtral Small 24B는 정확도가 높은 트랜스크립션 및 음성 이해를 위한 240억 개의 파라미터를 갖춘 Mistral AI의 speech-to-text 모델입니다. | 
| [Magistral Small 2509](model-card-mistral-ai-magistral-small-2509.md) | Magistral Small 2509는 복잡한 수학, 코딩 및 로직 문제를 해결하기 위해 chain-of-thought을 사용하는 Mistral AI의 추론 모델입니다. | 
| [Voxtral Mini 3B 2507](model-card-mistral-ai-voxtral-mini-3b-2507.md) | Voxtral Mini 3B는 엣지 디바이스에 대한 실시간 트랜스크립션 및 음성 이해를 위한 Mistral AI의 컴팩트speech-to-text 모델입니다. | 
| [Devstral 2 123B](model-card-mistral-ai-devstral-2-123b.md) | Devstral 2 123B는 코드 생성, 디버깅 및 리팩터링을 포함한 소프트웨어 엔지니어링 작업에 최적화된 Mistral AI의 1230억 파라미터 코딩 모델입니다. | 
| [Pixtral Large](model-card-mistral-ai-pixtral-large.md) | Pixtral Large는 시각적 추론 및 문서 이해를 위해 텍스트와 이미지를 처리하는 Mistral AI의 1240억 파라미터 멀티모달 모델입니다. | 
| [Mistral Large](model-card-mistral-ai-mistral-large.md) | Mistral Large는 강력한 추론, 다국어 지원, 복잡한 엔터프라이즈 작업을 위한 32K 컨텍스트 기간을 갖춘 Mistral AI의 플래그십 모델입니다. | 
| [Mixtral 8x7B Instruct](model-card-mistral-ai-mixtral-8x7b-instruct.md) | Mixtral 8x7B Instruct는 각각 8명의 전문가와 7B 파라미터가 포함된 Mistral AI의 희소mixture-of-experts 모델로, 더 빠른 추론 속도로 강력한 성능을 제공합니다. | 
| [Mistral 7B 지침](model-card-mistral-ai-mistral-7b-instruct.md) | Mistral 7B Instruct는 효율적인 긴 컨텍스트 추론을 위해 그룹화된 쿼리 주의와 슬라이딩 윈도우 주의가 포함된 Mistral AI의 70억 파라미터 명령 튜닝 모델입니다. | 

# Mistral Small
<a name="model-card-mistral-ai-mistral-small"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI - Mistral Small
<a name="model-card-mistral-ai-mistral-small-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-mistral-small-details"></a>

Mistral Small은 분류, 번역 및 고객 지원과 같은 지연 시간이 짧은 작업에 최적화된 Mistral AI의 비용 효율적인 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2025년 12월 16일
+ **모델 EOL 날짜:** 5/24/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰
+ **최대 출력 토큰:** 4K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-mistral-ai-mistral-small-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-mistral-small-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-small-2402-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-mistral-ai-mistral-small-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-mistral-small-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-mistral-small-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-mistral-small-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-small-2402-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-small-2402-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# 미니스트럴 14B 3.0
<a name="model-card-mistral-ai-ministral-14b-3-0"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — 미니스트럴 14B 3.0
<a name="model-card-mistral-ai-ministral-14b-3-0-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-ministral-14b-3-0-details"></a>

미니스트럴 14B 3.0은 지식 및 추론 작업에 대한 강력한 성능을 갖춘 온디바이스 배포에 최적화된 Mistral AI의 140억 파라미터 엣지 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2025년 12월 2일
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 8K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-ministral-14b-3-0-capabilities"></a>

***Bedrock 기능***

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-14b-3-0.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-14b-3-0.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-ministral-14b-3-0-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-ministral-14b-3-0-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 섹션을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-14b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-ministral-14b-3-0-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-ministral-14b-3-0-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-ministral-14b-3-0-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-ministral-14b-3-0-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-14b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-14b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-14b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# 미니스트럴 3 8B
<a name="model-card-mistral-ai-ministral-3-8b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — 미니스트럴 3 8B
<a name="model-card-mistral-ai-ministral-3-8b-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-ministral-3-8b-details"></a>

미니스트럴 3 8B는 효율적인 추론을 통해 엣지 및 모바일 배포를 위한 Mistral AI의 80억 파라미터 압축 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2025년 12월 2일
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 8K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-ministral-3-8b-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-ministral-3-8b-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-ministral-3-8b-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-8b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.ministral-3-8b-instruct | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-ministral-3-8b-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-ministral-3-8b-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 이루어집니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-ministral-3-8b-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-ministral-3-8b-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.ministral-3-8b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-8b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-8b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-8b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# 미니스트럴 3B
<a name="model-card-mistral-ai-ministral-3b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — 미니스트럴 3B
<a name="model-card-mistral-ai-ministral-3b-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-ministral-3b-details"></a>

미니스트럴 3B는 최소한의 컴퓨팅이 필요한 온디바이스 작업을 위한 Mistral AI의 초소형 30억 파라미터 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2025년 12월 2일
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 8K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-ministral-3b-capabilities"></a>

***Bedrock 기능***

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-ministral-3b.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-ministral-3b-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-ministral-3b-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 섹션을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-3b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-ministral-3b-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-ministral-3b-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-ministral-3b-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-ministral-3b-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-3b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-3b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-3b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral Large 3
<a name="model-card-mistral-ai-mistral-large-3"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — Mistral Large 3
<a name="model-card-mistral-ai-mistral-large-3-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-mistral-large-3-details"></a>

Mistral Large 3는 코딩, 추론 및 다국어 작업에 대한 강력한 성능을 갖춘 Mistral AI의 6750억 파라미터 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2025년 12월 2일
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 32K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-mistral-large-3-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-mistral-large-3-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-mistral-large-3-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-large-3-675b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.mistral-large-3-675b-instruct | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-mistral-large-3-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-mistral-large-3-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 이루어집니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-mistral-large-3-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-mistral-large-3-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.mistral-large-3-675b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.mistral-large-3-675b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-large-3-675b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-large-3-675b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Voxtral Small 24B 2507
<a name="model-card-mistral-ai-voxtral-small-24b-2507"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — Voxtral Small 24B 2507
<a name="model-card-mistral-ai-voxtral-small-24b-2507-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-voxtral-small-24b-2507-details"></a>

Voxtral Small 24B는 정확도가 높은 트랜스크립션 및 음성 이해를 위한 240억 개의 파라미터를 갖춘 Mistral AI의 speech-to-text 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2025년 10월 30일
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-voxtral-small-24b-2507-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-voxtral-small-24b-2507-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-voxtral-small-24b-2507-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 및 지원되는](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) [엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.voxtral-small-24b-2507 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.voxtral-small-24b-2507 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-mistral-ai-voxtral-small-24b-2507-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-voxtral-small-24b-2507-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-voxtral-small-24b-2507-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-voxtral-small-24b-2507-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.voxtral-small-24b-2507",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.voxtral-small-24b-2507",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.voxtral-small-24b-2507',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.voxtral-small-24b-2507',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Magistral Small 2509
<a name="model-card-mistral-ai-magistral-small-2509"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI - Magistral Small 2509
<a name="model-card-mistral-ai-magistral-small-2509-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-magistral-small-2509-details"></a>

Magistral Small 2509는 복잡한 수학, 코딩 및 로직 문제를 해결하기 위해 chain-of-thought을 사용하는 Mistral AI의 추론 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2025년 9월
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 40K
+ **추론:** 지원됨


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-magistral-small-2509-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-magistral-small-2509-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-magistral-small-2509-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [지원되는 엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.magistral-small-2509 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.magistral-small-2509 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-magistral-small-2509-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-magistral-small-2509-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-magistral-small-2509-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-magistral-small-2509-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.magistral-small-2509",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.magistral-small-2509",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.magistral-small-2509',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.magistral-small-2509',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Voxtral Mini 3B 2507
<a name="model-card-mistral-ai-voxtral-mini-3b-2507"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — Voxtral Mini 3B 2507
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-details"></a>

Voxtral Mini 3B는 엣지 디바이스에 대한 실시간 트랜스크립션 및 음성 이해를 위한 Mistral AI의 컴팩트speech-to-text 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2025년 7월
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 및 지원되는](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) [엔드포인트를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.voxtral-mini-3b-2507 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.voxtral-mini-3b-2507 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.voxtral-mini-3b-2507",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.voxtral-mini-3b-2507",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.voxtral-mini-3b-2507',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.voxtral-mini-3b-2507',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Devstral 2 123B
<a name="model-card-mistral-ai-devstral-2-123b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — Devstral 2 123B
<a name="model-card-mistral-ai-devstral-2-123b-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-devstral-2-123b-details"></a>

Devstral 2 123B는 코드 생성, 디버깅 및 리팩터링을 포함한 소프트웨어 엔지니어링 작업에 최적화된 Mistral AI의 1230억 파라미터 코딩 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2025년 6월
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 32K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

**참고**  
가능하면 엔드포인트를 사용하는 것이 좋습니다`bedrock-mantle`.

## 기능 및 기능
<a name="model-card-mistral-ai-devstral-2-123b-capabilities"></a>

***Bedrock 기능***

**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  | 

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-devstral-2-123b-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-devstral-2-123b-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.devstral-2-123b | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 
| bedrock-mantle | mistral.devstral-2-123b | https://bedrock-mantle.\$1region\$1.api.aws/v1 | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-devstral-2-123b-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-devstral-2-123b-regional-availability"></a>

***리전별 가용성 한눈에 보기***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 (프랑크푸르트) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-north-1 (스톡홀름) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1 (밀라노) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1 (도쿄) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-3 (자카르타) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-devstral-2-123b-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-devstral-2-123b-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.devstral-2-123b",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.devstral-2-123b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.devstral-2-123b',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.devstral-2-123b',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Pixtral Large
<a name="model-card-mistral-ai-pixtral-large"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI - Pixtral Large
<a name="model-card-mistral-ai-pixtral-large-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-pixtral-large-details"></a>

Pixtral Large는 시각적 추론 및 문서 이해를 위해 텍스트와 이미지를 처리하는 Mistral AI의 1240억 파라미터 멀티모달 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2024년 11월 19일
+ **모델 EOL 날짜:** 4/8/2026 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 16K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-mistral-ai-pixtral-large-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-pixtral-large-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.pixtral-large-2502-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.mistral.pixtral-large-2502-v1:0``eu.mistral.pixtral-large-2502-v1:0` | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-pixtral-large-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-pixtral-large-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2 (오하이오) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1 (프랑크푸르트) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-north-1 (스톡홀름) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

***지리 추론 세부 정보***

**지역: 미국**

지리 추론 ID: `us.mistral.pixtral-large-2502-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| us-east-1(버지니아 북부) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-east-2(오하이오) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 
| us-west-2(오리건) | us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤) | 

**지역: EU**

지리 추론 ID: `eu.mistral.pixtral-large-2502-v1:0`


| **소스 리전** | **대상 리전** | 
| --- | --- | 
| eu-central-1(프랑크푸르트) | eu-central-1(프랑크푸르트), eu-north-1(스톡홀름), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-north-1(스톡홀름) | eu-central-1(프랑크푸르트), eu-north-1(스톡홀름), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-1(아일랜드) | eu-central-1(프랑크푸르트), eu-north-1(스톡홀름), eu-west-1(아일랜드), eu-west-3(파리) | 
| eu-west-3(파리) | eu-central-1(프랑크푸르트), eu-north-1(스톡홀름), eu-west-1(아일랜드), eu-west-3(파리) | 

## 할당량과 제한
<a name="model-card-mistral-ai-pixtral-large-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-pixtral-large-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.pixtral-large-2502-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.pixtral-large-2502-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral Large
<a name="model-card-mistral-ai-mistral-large"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI - Mistral Large
<a name="model-card-mistral-ai-mistral-large-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-mistral-large-details"></a>

Mistral Large는 강력한 추론, 다국어 지원, 복잡한 엔터프라이즈 작업을 위한 32K 컨텍스트 기간을 갖춘 Mistral AI의 플래그십 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 출시 날짜:** 2024년 2월 26일
+ **모델 EOL 날짜:** 4/3/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰
+ **최대 출력 토큰:** 4K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 기능 및 기능
<a name="model-card-mistral-ai-mistral-large-capabilities"></a>

***Bedrock 기능***

**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**


| **지원됨** | **지원되지 않음** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/model-card-mistral-ai-mistral-large.html)  | 

## 가격 책정
<a name="model-card-mistral-ai-mistral-large-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-mistral-large-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-large-2402-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-mistral-large-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-mistral-large-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 (캐나다) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-mistral-large-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-mistral-large-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**5단계 - 첫 번째 추론 요청 실행:** 파일을 로 저장 `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.mistral-large-3-675b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.mistral-large-3-675b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-large-2402-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-large-2402-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mixtral 8x7B Instruct
<a name="model-card-mistral-ai-mixtral-8x7b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI - Mixtral 8x7B 지침
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-details"></a>

Mixtral 8x7B Instruct는 각각 8명의 전문가와 7B 파라미터가 포함된 Mistral AI의 희소mixture-of-experts 모델로, 더 빠른 추론 속도로 강력한 성능을 제공합니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2023년 12월 10일
+ **모델 EOL 날짜:** 3/1/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰
+ **최대 출력 토큰:** 4K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 섹션을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html).


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mixtral-8x7b-instruct-v0:1 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 되고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"이 됩니다.*

## 서비스 티어
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 계층을 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없을 때 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 (캐나다) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-quotas"></a>

AWS 계정에는 서비스의 성능을 유지하고 Amazon Bedrock의 적절한 사용을 보장하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mixtral-8x7b-instruct-v0:1',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mixtral-8x7b-instruct-v0:1',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral 7B 지침
<a name="model-card-mistral-ai-mistral-7b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/models/mistralai.png) Mistral AI — Mistral 7B 지침
<a name="model-card-mistral-ai-mistral-7b-instruct-header"></a>

## 모델 세부 정보
<a name="model-card-mistral-ai-mistral-7b-instruct-details"></a>

Mistral 7B Instruct는 효율적인 긴 컨텍스트 추론을 위해 그룹화된 쿼리 주의와 슬라이딩 윈도우 주의가 포함된 Mistral AI의 70억 파라미터 명령 튜닝 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://docs.mistral.ai/getting-started/models) 참조하세요.
+ **모델 시작 날짜:** 2023년 9월 28일
+ **모델 EOL 날짜:** 3/1/2025 이전
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 32K 토큰
+ **최대 출력 토큰:** 4K


| **입력 모달리티** | **출력 모달리티** | **[지원되는 APIs ](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[지원되는 엔드포인트](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 오디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 임베딩 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 이미지 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 음성 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) 텍스트 | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) 비디오 |  |  | 

## 가격 책정
<a name="model-card-mistral-ai-mistral-7b-instruct-pricing"></a>

요금은 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.

## 프로그래밍 방식 액세스
<a name="model-card-mistral-ai-mistral-7b-instruct-programmatic-access"></a>

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) 및 [엔드포인트 지원 단원을](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) 참조하십시오.


| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-7b-instruct-v0:2 | https://bedrock-runtime.\$1region\$1.amazonaws.com | 지원되지 않음 | 지원되지 않음 | 

*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*

## 서비스 티어
<a name="model-card-mistral-ai-mistral-7b-instruct-tiers"></a>

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다. **Priority**는 시간 기반 약정으로 더 높은 처리량을 제공합니다. **Flex**는 유연하고 non-time-sensitive 워크로드에 대해 저렴한 액세스를 제공합니다. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공합니다. 자세한 내용은 [서비스 티어를 참조하세요](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **표준** | **우선 순위** | **Flex** | **예약됨** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 리전별 가용성
<a name="model-card-mistral-ai-mistral-7b-instruct-regional-availability"></a>

***리전별 가용성 개요***

Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 단일 리전 내에 요청을 유지하고, 리전(미국, EU 등) 내 리전 간 **지리적 교차 리전** 경로는 데이터 레지던시를 준수하면서 더 높은 처리량을 제공하며, **글로벌 교차 리전** 경로는 레지던시 제약이 없는 경우 최대 처리량을 위해 전 세계 어디서나 라우팅됩니다. 자세한 내용은 [리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.


| **리전** | **리전 내** | **지리** | [**Global**] | 
| --- | --- | --- | --- | 
| us-east-1 (버지니아 북부) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2 (오레곤) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1 (캐나다) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1 (아일랜드) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2 (런던) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3 (파리) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1 (뭄바이) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2 (시드니) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1 (상파울루) | ![\[Yes\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/ko_kr/bedrock/latest/userguide/images/icons/icon-no.png) | 

## 할당량과 제한
<a name="model-card-mistral-ai-mistral-7b-instruct-quotas"></a>

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용하기 위한 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.

## 샘플 코드
<a name="model-card-mistral-ai-mistral-7b-instruct-sample-code"></a>

**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. AWS를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) 가입합니다.

**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.

**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

```
pip install boto3
```

**4단계 - 환경 변수 설정:** 인증에 API 키를 사용하도록 환경을 구성합니다.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**5단계 - 첫 번째 추론 요청 실행: 파일을 **로 저장 `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-7b-instruct-v0:2',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-7b-instruct-v0:2',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------