Puntos de enlace compatibles con Amazon Bedrock - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Puntos de enlace compatibles con Amazon Bedrock

Amazon Bedrock admite varios puntos de enlace en función de si desea realizar operadores de plano de control u operaciones de inferencia.

Operaciones del plano de control

Las operaciones del plano de control de Amazon Bedrock se pueden usar con el punto final: bedrock.{region}.amazonaws.com. se puede usar para administrar recursos, como enumerar los modelos disponibles, crear trabajos de modelo personalizados y administrar el rendimiento aprovisionado. Obtenga más información sobre nuestra API de plano de control aquí.

Operaciones de inferencia

Amazon Bedrock admite los dos puntos finales principales siguientes para realizar inferencias mediante programación:

Punto de conexión Compatible APIs Descripción
bedrock-mantle.{region}.api.aws API de respuestas/API de finalización de chats Puntos de enlace específicos de la región para realizar solicitudes de inferencia para modelos alojados en Amazon Bedrock mediante puntos de enlace compatibles con OpenAI.
bedrock-runtime.{region}.amazonaws.com InvokeModel/Converse//Finalizaciones de chat Puntos de enlace específicos de la región para realizar solicitudes de inferencia para modelos alojados en Amazon Bedrock mediante /Converse/Chat Completions. InvokeModel APIs Obtenga más información sobre Amazon Bedrock Runtime APIs aquí.

¿Qué punto final de servicio debe utilizar para su inferencia?

El punto final que utilice depende de su caso de uso.

Punto de conexión Características y casos de uso
bedrock-mantle

Es compatible con OpenAI APIs (API de respuestas, API de finalización de chat).

Úselo para: migrar fácilmente desde otros modelos que utilizan el compatible con APIs OpenAI.

Características: admite el uso de herramientas tanto del lado del cliente como del servidor con funciones Lambda y viene configurado con ready-to-use herramientas en sus aplicaciones.

Recomendado para: usuarios nuevos de Amazon Bedrock.

bedrock-runtime

Es compatible con Amazon Bedrock nativo APIs (API de invocación, API de Converse). También es compatible con la API Chat Completions, compatible con OpenAI.

Úselo para: ejecutar cualquier modelo compatible con Amazon Bedrock. La API de Converse proporciona una interfaz unificada para interactuar con todos los modelos de Amazon Bedrock y la API de Invoke proporciona acceso directo a los modelos con más capacidad para controlar el formato de solicitud y respuesta. También puede usar la API Chat Completions para interactuar con sus modelos.

Características: solo admite el uso de herramientas del lado del cliente con funciones de Lambda y no viene preconfigurada con herramientas. ready-to-use Permite realizar un seguimiento del uso y los costes al invocar un modelo.

Si es la primera vez que utiliza Amazon Bedrock, le recomendamos que empiece por el bedrock-mantle punto de conexión.