View a markdown version of this page

模型兼容性 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

模型兼容性

所有模型都可以使用 InvokeModel 操作。部分模型可以使用 Converse 操作。

对于 Amazon Bedrock Marketplace 模型,请使用 ApplyGuardrail API 来使用 Amazon Bedrock 护栏。

下表列出了可用的模型以及这些模型是否可以使用 Converse 操作:

名称 支持 Converse API 支持流式处理

Arcee Lite

支持

Arcee Nova

支持

Arcee SuperNova

支持

Arcee Virtuoso Small

支持

Aya 101

Bart Large CNN samsum

Bloom 1b1

Bloom 1b7

Bloom 3B

Bloom 560m

Bloom 7B1

Bloomz 1b1

Bloomz 1b7

BloomZ 3B FP16

BloomZ 7B1 FP16

Bria 2.2HD Commercial

Bria 2.3 Commercial

Bria 2.3 Fast Commercial

CyberAgentLM3-22B-Chat(CALM3-22B-Chat)

支持

DBRX Base

DBRX Instruct

支持

DeepSeek-R1-Distill-Llama-70B

DeepSeek-R1-Distill-Llama-8B

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-14B

DeepSeek-R1-Distill-Qwen-7B

DeepSeek-R1-Distill-Qwen-1.5B

DeepSeek-R1

Distilbart CNN 12-6

Distilbart CNN 6-6

Distilbart xsum 12-3

DistilGPT 2

Dolly V2 12b BF16

Dolly V2 3b BF16

Dolly V2 7b BF16

Dolphin 2.2.1 Mistral 7B

支持

Dolphin 2.5 Mixtral 8 7B

支持

EleutherAI GPT Neo 1.3B

EleutherAI GPT Neo 2.7B

ESM3-open

EXAONE_v3.0 7.8B Instruct

Falcon 40B BF16

Falcon Lite

Falcon Lite 2

Falcon RW 1B

Falcon3 1B Instruct

支持

Falcon3 3B Base

Falcon3 3B Instruct

支持

Falcon3 7B Base

Falcon3 7B Instruct

支持

Falcon3 10B Base

Falcon3 10B Instruct

支持

Flan-T5 Base

在 Samsum 数据集上微调 Flan-T5 基本模型

Flan-T5 Large

Flan-T5 Small

Gemma 2 27B

Gemma 2 27B Instruct

支持

Gemma 2 2B

Gemma 2 2B Instruct

支持

Gemma 2 9B

Gemma 2 9B Instruct

支持

Gemma 2B

Gemma 2B Instruct

支持

Gemma 7B

Gemma 7B Instruct

支持

GPT 2

GPT NeoX 20B FP16

GPT-2 XL

GPT-J 6B

GPT-Neo 1.3B

GPT-Neo 125M

GPT-NEO 2.7B

Granite 3.0 2B Instruct

支持

Granite 3.0 8B Instruct

支持

Gretel Navigator Tabular

支持

IBM Granite 20B Code Instruct - 8K

支持

IBM Granite 34B Code Instruct - 8K

支持

IBM Granite 3B Code Instruct - 128K

支持

IBM Granite 8B Code Instruct - 128K

支持

KARAKURI LM 8x7b instruct

Liquid

支持

Llama 3.1 SuperNova Lite

支持

Llama Spark

支持

Llama-3-Varco-Offsetbias-8B

Llama3 8B SEA-Lion v2.1 Instruct

支持

MARS6

Medical LLM - Medium

Medical LLM - Small

Medical Text Translation (EN-ES)

Mistral 7B OpenOrca AWQ

支持

Mistral 7B OpenOrca GPTQ

支持

Mistral 7B SFT Alpha

支持

Mistral 7B SFT Beta

支持

Mistral Lite

支持

Mistral Nemo Base 2407

Mistral Nemo Instruct 2407

支持

Mistral Trix V1

MPT 7B BF16

MPT 7B Instruct BF16

MPT 7B StoryWriter-65k+ BF16

Multilingual GPT

NVIDIA Nemotron-4 15B NIM Microservice

Open Hermes 2 Mistral 7B

支持

Phi-2

Phi-3-Mini-128K-Instruct

支持

Phi-3-Mini-4K-Instruct

支持

Phi-3.5-mini-instruct

支持

Pixtral 12B 2409

支持

PLaMo API

Snowflake Arctic Instruct Vllm

支持

Solar Mini Chat

支持

Solar Mini Chat - Quant

支持

Solar Mini Chat ja

支持

Solar Mini Chat ja - Quant

支持

Solar Pro

支持

Solar Pro(Quantized)

支持

Stable Diffusion 3.5 Large

Stockmark-LLM-13b

文本摘要

VARCO LLM KO/EN-13B-IST

Whisper Large V3 Turbo

Widn Llama3-Tower Vesuvius

支持

Widn Tower Anthill

支持

Widn Tower Sugarloaf

支持

Writer Palmyra Small

Writer Palmyra-Fin-70B-32K

支持

Writer Palmyra-Med-70B-32K

支持

YARN Mistral 7B 128k

Yi-1.5-34B

Yi-1.5-34B-Chat

支持

Yi-1.5-6B

Yi-1.5-6B-Chat

支持

Yi-1.5-9B

Yi-1.5-9B-Chat

支持

Zephyr 7B Alpha

Zephyr 7B Beta

Zephyr 7B Gemma