Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
API compatibles con Amazon Bedrock
Se admiten las API de inferencia
Amazon Bedrock proporciona cinco patrones de API principales para realizar inferencias. Para aplicaciones nuevas, recomendamos el bedrock-runtime punto final. Las API se agrupan según el punto final de servicio que utilizan.
bedrock-runtimepunto final (recomendado)
El bedrock-runtime.{region}.amazonaws.com punto final admite las siguientes API:
| Método de API | Use-case más adecuado para | Característica clave |
|---|---|---|
| Converse (recomendado) | Multi-turn chatear/estandarizar | La API de Converse proporciona una interfaz unificada para interactuar con todos los modelos de Amazon Bedrock. |
| Invoke | Transacciones únicas y cargas útiles de gran tamaño | La API Invoke proporciona acceso directo a los modelos con más control sobre el formato de solicitud y respuesta. |
| Respuestas | OpenAI-compatible, conversaciones llenas de estado | Utilice la API Responses para mantener conversaciones con varios turnos OpenAI-compatible y con estado, con la misma forma de OpenAI, además de funciones de Amazon Bedrock, como las barreras de seguridad y la inferencia entre regiones. Dirige las solicitudes de inferencia de modelos Regiones de AWS con inferencia interregional Si está activadabedrock-runtime, las solicitudes son siempre sincrónicas y las herramientas del servidor no están disponibles; consulte la comparación completa. Terminales compatibles con Amazon Bedrock |
| Finalizaciones de chat | OpenAI-compatible, chat de varios turnos sin estado | Usa la API de finalización de chat para interacciones de chat sin OpenAI-compatible estado. |
| API de Messages de | Anthropic-native interfaz | Utilice la API Messages InvokeModel para acceder directamente a los modelos de Anthropic utilizando el formato de solicitud nativo. |
Punto de enlace de bedrock-mantle
El bedrock-mantle.{region}.amazonaws.com punto final admite las siguientes API:
| Método de API | Use-case más adecuado para | Característica clave |
|---|---|---|
| API de respuestas | Conversaciones dinámicas con herramientas del lado del servidor | Utilice la API Responses en bedrock-mantle aplicaciones de agencia que requieran el uso de herramientas integradas en el servidor (búsqueda, intérprete de código), entradas multimodales e inferencias asincrónicas. |
| API de Messages de | Anthropic-native interfaz | Utilice la API de mensajes para acceder directamente a los modelos antrópicos mediante el formato de Anthropic-native solicitud y respuesta. |
| Finalizaciones de chat | Chat de varios turnos sin estado | Usa la API Chat Completions para realizar tareas sencillas, sin estado y centradas en texto, en las que necesites tener un control total sobre la administración del historial de chat y reducir la latencia. |
Obtenga más información sobre las API compatibles con Amazon Bedrock.
Decidir entre las API
La API que utilices depende de tu caso de uso.
| Caso de uso | API recomendada |
|---|---|
| Migración desde un punto final de OpenAI API-compatible | Utilice la API OpenAI-compatible Responses bedrock-runtime punto de conexión (con la misma forma de OpenAI), además de las funciones de Amazon Bedrock, como las barreras de seguridad y la inferencia entre regiones. Dirige las solicitudes de inferencia de modelos Regiones de AWS con inferencia interregional Según OpenAI, la API recomendada a largo plazo es la API Responses. |
| Uso de modelos no compatibles con OpenAI-compatible el punto final | Utilice las API nativas de Amazon Bedrock: Converse e Invoke. Para obtener más información, consulte Inferencia mediante la API Invoke. |
| Interfaz uniforme en todos los modelos | API de Converse: funciona con todos los modelos que admiten mensajes. Escribe el código una vez y úsalo con diferentes modelos. Para ver un ejemplo de código, consulta los ejemplos de la API de Converse. |
| Acceso directo al modelo con control total | API de invocación: proporciona acceso directo a los modelos con más control sobre el formato de solicitud y respuesta. Se usa para generar texto, imágenes e incrustaciones. Para ver código de ejemplo, consulte Ejemplos de código modelo de Invoke. |
| ¿Es nuevo en Amazon Bedrock | Recomendamos usar el bedrock-runtime punto final con la API de Converse para lograr una interfaz unificada en todos los modelos, o la API de mensajes, la API de finalización de chat o la API de respuestas si prefiere una interfaz o IA abierta. Anthropic-compatible |
Modelos compatibles con cada API y punto final
Primero, explore nuestros modelos para decidir qué modelo quiere usar. Una vez que decidas el modelo que quieres usar, puedes ver las API que admite y elegir un punto final. Recomendamos el bedrock-runtime terminal, que admite las API Invoke, Converse, Responses, Chat Completions y Messages. El bedrock-mantle terminal también es totalmente compatible y ofrece las API de respuestas, finalización del chat y mensajes. Dado que las API de respuestas, finalización del chat y mensajes están disponibles en ambos terminales, pero no admiten funciones idénticas en cada uno de ellos, compruébalo Terminales compatibles con Amazon Bedrock antes de elegir.
