Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# Mistral AI
<a name="model-cards-mistral-ai"></a>

Die folgenden Mistral AI-Modelle sind in Amazon Bedrock verfügbar:


| **Model** | **Beschreibung** | 
| --- | --- | 
| [Mistral Klein](model-card-mistral-ai-mistral-small.md) | Mistral Small ist das kosteneffiziente Modell von Mistral AI, das für Aufgaben mit geringer Latenz wie Klassifizierung, Übersetzung und Kundensupport optimiert ist. | 
| [Ministry 14B 3.0](model-card-mistral-ai-ministral-14b-3-0.md) | Ministral 14B 3.0 ist das 14-Milliarden-Parameter-Edge-Modell von Mistral AI, das für den Einsatz auf Geräten optimiert ist und eine hervorragende Leistung bei Wissens- und Argumentationsaufgaben bietet. | 
| [Ministry 3 8B](model-card-mistral-ai-ministral-3-8b.md) | Ministral 3 8B ist das kompakte Modell von Mistral AI mit 8 Milliarden Parametern für den Einsatz am Edge und auf Mobilgeräten mit effizienter Inferenz. | 
| [Minister 3B](model-card-mistral-ai-ministral-3b.md) | Ministral 3B ist das ultrakompakte 3-Milliarden-Parametermodell von Mistral AI für Aufgaben auf dem Gerät, die nur wenig Rechenleistung erfordern. | 
| [Mistral Large 3](model-card-mistral-ai-mistral-large-3.md) | Mistral Large 3 ist das 675-Milliarden-Parametermodell von Mistral AI mit einer starken Leistung bei Codierungs-, Argumentations- und mehrsprachigen Aufgaben. | 
| [Voxtral Small 24V 2507](model-card-mistral-ai-voxtral-small-24b-2507.md) | Voxtral Small 24B ist das Modell von Mistral AI mit 24 Milliarden Parametern für hochgenaue Transkription und Sprachverständnis speech-to-text. | 
| [Magistral Klein 2509](model-card-mistral-ai-magistral-small-2509.md) | Magistral Small 2509 ist das Argumentationsmodell von Mistral AI, das zur Lösung komplexer mathematischer, Kodierungs- und Logikprobleme verwendet wird. chain-of-thought | 
| [Voxtral Mini 3B 2507](model-card-mistral-ai-voxtral-mini-3b-2507.md) | Voxtral Mini 3B ist das kompakte speech-to-text Modell von Mistral AI für Transkription und Sprachverständnis in Echtzeit auf Edge-Geräten. | 
| [Destral 2 123B](model-card-mistral-ai-devstral-2-123b.md) | Devstral 2 123B ist das 123-Milliarden-Parameterkodierungsmodell von Mistral AI, das für Softwareentwicklungsaufgaben wie Codegenerierung, Debugging und Refactoring optimiert ist. | 
| [Pixtral Large](model-card-mistral-ai-pixtral-large.md) | Pixtral Large ist das multimodale Modell von Mistral AI mit 124 Milliarden Parametern, das Text und Bilder verarbeitet, um visuell zu denken und Dokumente zu verstehen. | 
| [Mistral Large](model-card-mistral-ai-mistral-large.md) | Mistral Large ist das Flaggschiffmodell von Mistral AI mit überzeugender Argumentation, mehrsprachiger Unterstützung und einem 32.000 Kontextfenster für komplexe Unternehmensaufgaben. | 
| [Mixtral 8x7B Instruct](model-card-mistral-ai-mixtral-8x7b-instruct.md) | Mixtral 8x7B Instruct ist das spärliche mixture-of-experts Modell von Mistral AI mit 8 Experten und jeweils 7 B-Parametern, das eine starke Leistung bei schnelleren Inferenzgeschwindigkeiten bietet. | 
| [Mistral 7B Instruct](model-card-mistral-ai-mistral-7b-instruct.md) | Mistral 7B Instruct ist das auf Befehle abgestimmte Modell von Mistral AI mit 7 Milliarden Parametern. Es bietet Aufmerksamkeit bei gruppierten Abfragen und gleitender Fensteraufmerksamkeit für effiziente Inferenzen in langen Kontexten. | 

# Mistral Klein
<a name="model-card-mistral-ai-mistral-small"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Mistral Klein
<a name="model-card-mistral-ai-mistral-small-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-mistral-small-details"></a>

Mistral Small ist das kosteneffiziente Modell von Mistral AI, das für Aufgaben mit geringer Latenz wie Klassifizierung, Übersetzung und Kundensupport optimiert ist. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 16. Dezember 2025
+ **EOL-Datum des Modells: Frühestens** am 24.05.2025
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token
+ **Max. Ausgabetokens: 4K**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

## Preisgestaltung
<a name="model-card-mistral-ai-mistral-small-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-mistral-small-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-small-2402-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-mistral-small-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-mistral-small-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-mistral-small-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-mistral-small-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

```
pip install boto3
```

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-small-2402-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-small-2402-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Ministry 14B 3.0
<a name="model-card-mistral-ai-ministral-14b-3-0"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Ministry 14B 3.0
<a name="model-card-mistral-ai-ministral-14b-3-0-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-ministral-14b-3-0-details"></a>

Ministral 14B 3.0 ist das 14-Milliarden-Parameter-Edge-Modell von Mistral AI, das für den Einsatz auf Geräten optimiert ist und eine hervorragende Leistung bei Wissens- und Argumentationsaufgaben bietet. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 2. Dezember 2025
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 8.000**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-ministral-14b-3-0-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-14b-3-0.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-14b-3-0.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-ministral-14b-3-0-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-ministral-14b-3-0-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-14b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-ministral-14b-3-0-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-ministral-14b-3-0-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende Georouten zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-ministral-14b-3-0-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-ministral-14b-3-0-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-14b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-14b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-14b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Ministry 3 8B
<a name="model-card-mistral-ai-ministral-3-8b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Ministral 3 8B
<a name="model-card-mistral-ai-ministral-3-8b-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-ministral-3-8b-details"></a>

Ministral 3 8B ist das kompakte Modell von Mistral AI mit 8 Milliarden Parametern für Edge- und Mobilanwendungen mit effizienter Inferenz. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 02. Dezember 2025
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 8.000**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-ministral-3-8b-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3-8b.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-ministral-3-8b-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-ministral-3-8b-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-8b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.ministral-3-8b-instruct | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-ministral-3-8b-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-ministral-3-8b-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-ministral-3-8b-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-ministral-3-8b-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.ministral-3-8b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-8b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-8b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-8b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Minister 3B
<a name="model-card-mistral-ai-ministral-3b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Ministral 3B
<a name="model-card-mistral-ai-ministral-3b-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-ministral-3b-details"></a>

Ministral 3B ist das ultrakompakte 3-Milliarden-Parameter-Modell von Mistral AI für Aufgaben auf dem Gerät, die nur wenig Rechenleistung erfordern. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 2. Dezember 2025
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 8.000**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-ministral-3b-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-ministral-3b.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-ministral-3b-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-ministral-3b-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.ministral-3-3b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-ministral-3b-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-ministral-3b-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-ministral-3b-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-ministral-3b-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.ministral-3-3b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.ministral-3-3b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.ministral-3-3b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral Large 3
<a name="model-card-mistral-ai-mistral-large-3"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Mistral Large 3
<a name="model-card-mistral-ai-mistral-large-3-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-mistral-large-3-details"></a>

Mistral Large 3 ist das 675-Milliarden-Parametermodell von Mistral AI mit einer starken Leistung bei Codierungs-, Argumentations- und mehrsprachigen Aufgaben. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 2. Dezember 2025
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 32 KB**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-mistral-large-3-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large-3.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-mistral-large-3-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-mistral-large-3-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-large-3-675b-instruct | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.mistral-large-3-675b-instruct | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-mistral-large-3-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-mistral-large-3-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-mistral-large-3-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-mistral-large-3-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.mistral-large-3-675b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.mistral-large-3-675b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-large-3-675b-instruct',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-large-3-675b-instruct',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Voxtral Small 24V 2507
<a name="model-card-mistral-ai-voxtral-small-24b-2507"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Voxtral Small 24B 2507
<a name="model-card-mistral-ai-voxtral-small-24b-2507-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-voxtral-small-24b-2507-details"></a>

Voxtral Small 24B ist das speech-to-text Modell von Mistral AI mit 24 Milliarden Parametern für hochgenaue Transkription und Sprachverständnis. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 30. Oktober 2025
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-voxtral-small-24b-2507-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-small-24b-2507.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-voxtral-small-24b-2507-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-voxtral-small-24b-2507-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.voxtral-small-24b-2507 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.voxtral-small-24b-2507 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-voxtral-small-24b-2507-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-voxtral-small-24b-2507-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-voxtral-small-24b-2507-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-voxtral-small-24b-2507-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.voxtral-small-24b-2507",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.voxtral-small-24b-2507",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.voxtral-small-24b-2507',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.voxtral-small-24b-2507',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Magistral Klein 2509
<a name="model-card-mistral-ai-magistral-small-2509"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Magistral Klein 2509
<a name="model-card-mistral-ai-magistral-small-2509-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-magistral-small-2509-details"></a>

Magistral Small 2509 ist das Argumentationsmodell von Mistral AI, das zur Lösung komplexer mathematischer, Kodierungs- und Logikprobleme verwendet wird chain-of-thought. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells: September 2025**
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 40.000**
+ **Argumentation**: Unterstützt


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-magistral-small-2509-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Wird nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-magistral-small-2509.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-magistral-small-2509-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-magistral-small-2509-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.magistral-small-2509 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.magistral-small-2509 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-magistral-small-2509-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-magistral-small-2509-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-magistral-small-2509-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-magistral-small-2509-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.magistral-small-2509",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.magistral-small-2509",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.magistral-small-2509',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.magistral-small-2509',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Voxtral Mini 3B 2507
<a name="model-card-mistral-ai-voxtral-mini-3b-2507"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Voxtral Mini 3B 2507
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-details"></a>

Voxtral Mini 3B ist das kompakte speech-to-text Modell von Mistral AI für Transkription und Sprachverständnis in Echtzeit auf Edge-Geräten. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells: Juli 2025**
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Wird unterstützt** | **Nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-voxtral-mini-3b-2507.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.voxtral-mini-3b-2507 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.voxtral-mini-3b-2507 | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-voxtral-mini-3b-2507-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.voxtral-mini-3b-2507",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.voxtral-mini-3b-2507",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.voxtral-mini-3b-2507',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.voxtral-mini-3b-2507',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Destral 2 123B
<a name="model-card-mistral-ai-devstral-2-123b"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Destral 2 123B
<a name="model-card-mistral-ai-devstral-2-123b-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-devstral-2-123b-details"></a>

Devstral 2 123B ist das 123-Milliarden-Parametercodierungsmodell von Mistral AI, das für Softwareentwicklungsaufgaben wie Codegenerierung, Debugging und Refactoring optimiert ist. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells: Juni 2025**
+ **EOL-Datum des Modells: N/A**
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 32 KB**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Chat Completions | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

**Anmerkung**  
Wann immer möglich, empfehlen wir Ihnen, den `bedrock-mantle` Endpunkt zu verwenden.

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-devstral-2-123b-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-mantle` von Endpoint unterstützt werden**


| **Unterstützt** | **Nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  | 

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Unterstützt** | **Nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-devstral-2-123b.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-devstral-2-123b-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-devstral-2-123b-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.devstral-2-123b | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 
| bedrock-mantle | mistral.devstral-2-123b | https://bedrock-mantle.\$1region\$1.api.aws/v1 | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-devstral-2-123b-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-devstral-2-123b-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1(Frankfurt) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-north-1(Stockholm) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-south-1(Mailand) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-northeast-1(Tokio) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-3(Jakarta) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-devstral-2-123b-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-devstral-2-123b-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.devstral-2-123b",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.devstral-2-123b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.devstral-2-123b',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.devstral-2-123b',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Pixtral Large
<a name="model-card-mistral-ai-pixtral-large"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Pixtral Large
<a name="model-card-mistral-ai-pixtral-large-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-pixtral-large-details"></a>

Pixtral Large ist das multimodale Modell von Mistral AI mit 124 Milliarden Parametern, das Text und Bilder verarbeitet, um visuell zu denken und Dokumente zu verstehen. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 19. November 2024
+ **EOL-Datum des Modells: Frühestens** am 08.04.2026
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 128.000 Token
+ **Max. Ausgabetokens: 16K**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

## Preisgestaltung
<a name="model-card-mistral-ai-pixtral-large-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-pixtral-large-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.pixtral-large-2502-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | `us.mistral.pixtral-large-2502-v1:0``eu.mistral.pixtral-large-2502-v1:0` | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-pixtral-large-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-pixtral-large-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-east-2(Ohio) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-central-1(Frankfurt) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-north-1(Stockholm) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3(Paris) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

***Einzelheiten zur Geoinferenz***

**Geo: USA**

Geo-Inferenz-ID: `us.mistral.pixtral-large-2502-v1:0`


| **Quellregion** | **Zielregionen** | 
| --- | --- | 
| us-east-1 (N. Virginia) | us-east-1 (Nord-Virginia), us-east-2 (Ohio), US-West-2 (Oregon) | 
| us-east-2 (Ohio) | us-east-1 (Nord-Virginia), us-east-2 (Ohio), US-West-2 (Oregon) | 
| us-west-2 (Oregon) | us-east-1 (Nord-Virginia), us-east-2 (Ohio), US-West-2 (Oregon) | 

**Geo: EU**

Geo-Inferenz-ID: `eu.mistral.pixtral-large-2502-v1:0`


| **Quellregion** | **Zielregionen** | 
| --- | --- | 
| eu-central-1 (Frankfurt) | eu-central-1 (Frankfurt), eu-north-1 (Stockholm), eu-west-1 (Irland), eu-west-3 (Paris) | 
| eu-nord-1 (Stockholm) | eu-central-1 (Frankfurt), eu-north-1 (Stockholm), eu-west-1 (Irland), eu-west-3 (Paris) | 
| eu-west-1 (Ireland) | eu-central-1 (Frankfurt), eu-north-1 (Stockholm), eu-west-1 (Irland), eu-west-3 (Paris) | 
| eu-west-3 (Paris) | eu-central-1 (Frankfurt), eu-north-1 (Stockholm), eu-west-1 (Irland), eu-west-3 (Paris) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-pixtral-large-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-pixtral-large-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

```
pip install boto3
```

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.pixtral-large-2502-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.pixtral-large-2502-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral Large
<a name="model-card-mistral-ai-mistral-large"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Mistral Large
<a name="model-card-mistral-ai-mistral-large-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-mistral-large-details"></a>

Mistral Large ist das Flaggschiffmodell von Mistral AI mit überzeugender Argumentation, mehrsprachiger Unterstützung und einem 32.000 Kontextfenster für komplexe Unternehmensaufgaben. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 26. Februar 2024
+ **EOL-Datum des Modells: Frühestens** am 03.04.2025
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token
+ **Max. Ausgabetokens: 4K**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

## Fähigkeiten und Funktionen
<a name="model-card-mistral-ai-mistral-large-capabilities"></a>

***Eigenschaften von Bedrock***

**Funktionen, die mithilfe `bedrock-runtime` von Endpoint unterstützt werden**


| **Unterstützt** | **Nicht unterstützt** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/model-card-mistral-ai-mistral-large.html)  | 

## Preisgestaltung
<a name="model-card-mistral-ai-mistral-large-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-mistral-large-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-large-2402-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-mistral-large-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-mistral-large-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1(Kanada) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3(Paris) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-mistral-large-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-mistral-large-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

------
#### [ Responses/Chat Completions API ]

```
pip install boto3 openai
```

------
#### [ Invoke/Converse API ]

```
pip install boto3
```

------

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

------
#### [ Responses/Chat Completions API ]

```
OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
```

------
#### [ Invoke/Converse API ]

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

------

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Responses API ]

```
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="mistral.mistral-large-3-675b-instruct",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)
```

------
#### [ Chat Completions API ]

```
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="mistral.mistral-large-3-675b-instruct",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)
```

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-large-2402-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-large-2402-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mixtral 8x7B Instruct
<a name="model-card-mistral-ai-mixtral-8x7b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Mixtral 8x7B Instruktor
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-details"></a>

Mixtral 8x7B Instruct ist das spärliche mixture-of-experts Modell von Mistral AI mit 8 Experten und jeweils 7B-Parametern, das eine starke Leistung bei schnelleren Inferenzgeschwindigkeiten bietet. [Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Modell-/Servicekarte.](https://docs.mistral.ai/getting-started/models)
+ **Datum der Markteinführung des Modells:** 10. Dezember 2023
+ **EOL-Datum des Modells: Frühestens** am 01.03.2025
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token
+ **Max. Ausgabetokens: 4K**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

## Preisgestaltung
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mixtral-8x7b-instruct-v0:1 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende geografische Routen zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1(Kanada) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3(Paris) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-mixtral-8x7b-instruct-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

```
pip install boto3
```

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mixtral-8x7b-instruct-v0:1',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mixtral-8x7b-instruct-v0:1',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------

# Mistral 7B Instruct
<a name="model-card-mistral-ai-mistral-7b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/models/mistralai.png)Mistral AI — Mistral 7B Instruct
<a name="model-card-mistral-ai-mistral-7b-instruct-header"></a>

## Modelldetails
<a name="model-card-mistral-ai-mistral-7b-instruct-details"></a>

Mistral 7B Instruct ist das auf Befehle abgestimmte Modell von Mistral AI mit 7 Milliarden Parametern. Es bietet Aufmerksamkeit bei gruppierten Abfragen und Aufmerksamkeit durch gleitende Fenster für effiziente Inferenzen in langen Kontexten. Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf [der](https://docs.mistral.ai/getting-started/models) Modell-/Servicekarte.
+ **Datum der Markteinführung des Modells:** 28. September 2023
+ **EOL-Datum des Modells: Frühestens** am 01.03.2025
+ **Endbenutzer-Lizenzverträge und Nutzungsbedingungen**[: Ansicht](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Modelllebenszyklus:** Aktiv
+ **Kontextfenster:** 32.000 Token
+ **Max. Ausgabetokens: 4K**


| **Eingabemodalitäten** | **Ausgabemodalitäten** | **[APIs unterstützt](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Unterstützte Endpunkte](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Einbetten | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Bild | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)Rede | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png)Text | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png)-Video |  |  | 

## Preisgestaltung
<a name="model-card-mistral-ai-mistral-7b-instruct-pricing"></a>

Die Preise finden Sie auf der Seite mit den [Preisen von Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Programmatischer Zugriff
<a name="model-card-mistral-ai-mistral-7b-instruct-programmatic-access"></a>

Verwenden Sie das folgende Modell IDs und den folgenden Endpunkt URLs , um programmgesteuert auf dieses Modell zuzugreifen. [Weitere Informationen zu den verfügbaren Endpunkten APIs und Endpunkten finden Sie unter [APIs Unterstützte Endgeräte und Unterstützte](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) Endgeräte.](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)


| **Endpunkt** | **Modell-ID** | **Endpunkt-URL in der Region** | **Geoinferenz-ID** | **Globale Inferenz-ID** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | mistral.mistral-7b-instruct-v0:2 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Nicht unterstützt | Nicht unterstützt | 

*Wenn Region beispielsweise us-east-1 (Nord-Virginia) ist, dann lautet die URL des Bedrock-Runtime-Endpunkts "" und für Bedrock-Mantle https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1“.*

## Dienststufen
<a name="model-card-mistral-ai-mistral-7b-instruct-tiers"></a>

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. **Standard** bietet pay-per-token unverbindlichen Zugriff. **Priority** bietet einen höheren Durchsatz mit einer zeitbasierten Verpflichtung. **Flex** bietet kostengünstigeren Zugriff für flexible Workloads. non-time-sensitive **Reserved** bietet einen dedizierten Durchsatz mit einer Laufzeit für vorhersehbare Workloads. Weitere Informationen finden Sie unter [Servicestufen.](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html)


| **Standard** | **Priorität** | **Flex** | **Reserviert** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Regionale Verfügbarkeit
<a name="model-card-mistral-ai-mistral-7b-instruct-regional-availability"></a>

***Die regionale Verfügbarkeit auf einen Blick***

Bedrock bietet drei Inferenzoptionen: Innerhalb der **Region werden Anfragen innerhalb einer einzigen Region** aufbewahrt, um die strikte Einhaltung der Vorschriften zu gewährleisten, **regionsübergreifende Georouten zwischen Regionen innerhalb einer Region** (USA, EU usw.) für einen höheren Durchsatz bei gleichzeitiger Wahrung der Datenresidenz und **globale, regionsübergreifende** Routen überall auf der Welt für maximalen Durchsatz, wenn es keine Aufenthaltsbeschränkungen gibt. Weitere Informationen finden Sie auf der Seite. [Regionale Verfügbarkeit](models-region-compatibility.md)


| **Region** | **In der Region** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Nord-Virginia) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1(Kanada) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-1(Irland) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-3(Paris) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-southeast-2(Sydney) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 
| sa-east-1(Sao Paulo) | ![\[Yes\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kontingente und Einschränkungen
<a name="model-card-mistral-ai-mistral-7b-instruct-quotas"></a>

Ihr AWS-Konto verfügt über Standardkontingente, um die Leistung des Service aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer [Anfrage zur Erhöhung](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) des Kontingents aktualisiert werden. Weitere Informationen finden Sie in der [Kontingente für Amazon Bedrock](quotas.md) Dokumentation und in den [Grenzwerten](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) für das Modell.

## Beispiel-Code
<a name="model-card-mistral-ai-mistral-7b-instruct-sample-code"></a>

**Schritt 1 — AWS-Konto:** Wenn Sie bereits ein AWS-Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei AWS sind, registrieren Sie sich für ein [AWS-Konto](https://portal.aws.amazon.com/billing/signup).

**Schritt 2 — API-Schlüssel:** Rufen Sie die [Amazon Bedrock-Konsole](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) auf und generieren Sie einen langfristigen API-Schlüssel.

**Schritt 3 — Holen Sie sich das SDK:** Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software, je nachdem, welche APIs Sie verwenden.

```
pip install boto3
```

**Schritt 4 — Umgebungsvariablen festlegen:** Konfigurieren Sie Ihre Umgebung so, dass sie den API-Schlüssel für die Authentifizierung verwendet.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus:** Speichern Sie die Datei unter `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='mistral.mistral-7b-instruct-v0:2',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='mistral.mistral-7b-instruct-v0:2',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------