模型相容性 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

模型相容性

所有模型都可以使用 InvokeModel 操作。部分模型可以使用 Converse 操作。

對於 Amazon Bedrock 市集模型,請使用 ApplyGuardrail API 來使用 Amazon Bedrock 防護機制。

下表顯示可用的模型,以及這些模型是否可以使用 Converse 操作:

名稱 支援的 Converse API 支援的串流

Arcee Lite

Arcee Nova

Arcee SuperNova

Arcee Virtuoso Small

Aya 101

Bart Large CNN samsum

Bloom 1b1

Bloom 1b7

Bloom 3B

Bloom 560m

Bloom 7B1

Bloomz 1b1

Bloomz 1b7

BloomZ 3B FP16

BloomZ 7B1 FP16

Bria 2.2HD Commercial

Bria 2.3 Commercial

Bria 2.3 Fast Commercial

CyberAgentLM3-22B-Chat (CALM3-22B-Chat)

DBRX Base

DBRX Instruct

DeepSeek-R1-Distill-Llama-70B

DeepSeek-R1-Distill-Llama-8B

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-14B

DeepSeek-R1-Distill-Qwen-7B

DeepSeek-R1-Distill-Qwen-1.5B

DeepSeek-R1

Distilbart CNN 12-6

Distilbart CNN 6-6

Distilbart xsum 12-3

DistilGPT 2

Dolly V2 12b BF16

Dolly V2 3b BF16

Dolly V2 7b BF16

Dolphin 2.2.1 Mistral 7B

Dolphin 2.5 Mixtral 8 7B

EleutherAI GPT Neo 1.3B

EleutherAI GPT Neo 2.7B

ESM3-open

EXAONE_v3.0 7.8B Instruct

Falcon 40B BF16

Falcon Lite

Falcon Lite 2

Falcon RW 1B

Falcon3 1B Instruct

Falcon3 3B Base

Falcon3 3B Instruct

Falcon3 7B Base

Falcon3 7B Instruct

Falcon3 10B Base

Falcon3 10B Instruct

Flan-T5 Base

在 Samsum 資料集上微調的 Flan-T5 基本模型

Flan-T5 Large

Flan-T5 Small

Gemma 2 27B

Gemma 2 27B Instruct

Gemma 2 2B

Gemma 2 2B Instruct

Gemma 2 9B

Gemma 2 9B Instruct

Gemma 2B

Gemma 2B Instruct

Gemma 7B

Gemma 7B Instruct

GPT 2

GPT NeoX 20B FP16

GPT-2 XL

GPT-J 6B

GPT-Neo 1.3B

GPT-Neo 125M

GPT-NEO 2.7B

Granite 3.0 2B Instruct

Granite 3.0 8B Instruct

Gretel Navigator Tabular

IBM Granite 20B Code Instruct - 8K

IBM Granite 34B Code Instruct - 8K

IBM Granite 3B Code Instruct - 128K

IBM Granite 8B Code Instruct - 128K

KARAKURI LM 8x7b instruct

Liquid

Llama 3.1 SuperNova Lite

Llama Spark

Llama-3-Varco-Offsetbias-8B

Llama3 8B SEA-Lion v2.1 Instruct

MARS6

醫學 LLM - 中

醫學 LLM - 小

醫學文字翻譯 (EN-ES)

Mistral 7B OpenOrca AWQ

Mistral 7B OpenOrca GPTQ

Mistral 7B SFT Alpha

Mistral 7B SFT Beta

Mistral Lite

Mistral Nemo Base 2407

Mistral Nemo Instruct 2407

Mistral Trix V1

MPT 7B BF16

MPT 7B Instruct BF16

MPT 7B StoryWriter-65k+ BF16

多語言 GPT

NVIDIA Nemotron-4 15B NIM 微型服務

Open Hermes 2 Mistral 7B

Phi-2

Phi-3-Mini-128K-Instruct

Phi-3-Mini-4K-Instruct

Phi-3.5-mini-instruct

Pixtral 12B 2409

PLaMo API

Snowflake Arctic Instruct Vllm

Solar Mini Chat

Solar Mini Chat - Quant

Solar Mini Chat ja

Solar Mini Chat ja - Quant

Solar Pro

Solar Pro (已量化)

Stable Diffusion 3.5 Large

Stockmark-LLM-13b

文字摘要

VARCO LLM KO/EN-13B-IST

Whisper Large V3 Turbo

Widn Llama3-Tower Vesuvius

Widn Tower Anthill

Widn Tower Sugarloaf

Writer Palmyra Small

Writer Palmyra-Fin-70B-32K

Writer Palmyra-Med-70B-32K

YARN Mistral 7B 128k

Yi-1.5-34B

Yi-1.5-34B-Chat

Yi-1.5-6B

Yi-1.5-6B-Chat

Yi-1.5-9B

Yi-1.5-9B-Chat

Zephyr 7B Alpha

Zephyr 7B Beta

Zephyr 7B Gemma