Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Inferencia mediante la API de mensajes antrópicos
La API de Anthropic Messages proporciona acceso nativo a los modelos de Claude mediante el formato de solicitud y respuesta de Anthropic. Puedes usar la API de Mensajes tanto en los terminales como en los bedrock-mantle bedrock-runtime terminales, lo que te brinda la flexibilidad de elegir el estilo de autenticación e integración que mejor se adapte a tu aplicación.
| Punto de conexión | URL base | Caso de uso |
|---|---|---|
bedrock-mantle |
https://bedrock-mantle.{region}.api.aws/anthropic/v1/messages |
Recomendado para aplicaciones nuevas. Admite la autenticación de claves API yEspacios de trabajo () Anthropic-compatible. |
bedrock-runtime |
https://bedrock-runtime.{region}.amazonaws.com |
Úselo con las integraciones de AWS SDK y el registro de invocaciones existentes. |
Regiones admitidas
La API de mensajes está disponible en los bedrock-mantle terminales de todas las regiones compatibles bedrock-mantle (consulte). Regiones y puntos finales compatibles En el bedrock-runtime punto final, está disponible en todas las regiones en las que están disponibles los modelos Claude. Para obtener más información, consulte Disponibilidad regional por modelos.
Requisitos previos
Antes de usar la API de mensajes, asegúrate de tener lo siguiente:
-
Acceso a modelos: solicite el acceso a los modelos Claude en la consola de Amazon Bedrock. Consulte Solicitar acceso a los modelos.
-
Autenticación: depende del punto final:
-
bedrock-mantle— Utilice una clave de API de Amazon Bedrock (consulteClaves de API) o credenciales de AWS SigV4. -
bedrock-runtime— Utilice las credenciales de AWS SigV4 a través del AWS SDK (boto3, etc.).
-
-
Encabezado de versión antrópica: todas las solicitudes requieren una versión de API:
-
bedrock-mantle: Se estableceanthropic-version: 2023-06-01como encabezado HTTP. -
bedrock-runtime: Se establece"anthropic_version": "bedrock-2023-05-31"en el cuerpo de la solicitud.
-
Solicitud básica
Para enviar un mensaje básico a una modelo Claude, elige la pestaña del método que prefieras y, a continuación, sigue los pasos:
Transmite las respuestas
Para recibir los tokens de respuesta de forma incremental a medida que se generan, elige la pestaña que corresponda al método que prefieras y, a continuación, sigue estos pasos:
Características admitidas
Además de las secciones anteriores sobre pensamiento extendido, pensamiento adaptativo, resultados estructurados, compactación, crédito alternativo por solicitudes rechazadas (beta) y mensajes Mid-conversation del sistema, la API de mensajes admite las siguientes funciones en los modelos Claude:
-
Indicaciones del sistema: establece el comportamiento del modelo con un parámetro.
system -
Multi-turn conversaciones: alternancia de pases
useryassistantmensajes. -
Uso de herramientas: defina las herramientas a las que puede recurrir el modelo. Consulte Uso de una herramienta para completar una respuesta modelo de Amazon Bedrock.
-
Visión: envíe imágenes de la
contentmatriz junto con texto. -
Almacenamiento en caché rápido: almacene en caché el contexto de uso frecuente para reducir la latencia y el costo.
Para ver la referencia completa de los campos de solicitud y respuesta de la API de Mensajes, consultaSolicitud y respuesta.
Cuenta los tokens
Para contar la cantidad de tokens de entrada que consumiría una solicitud antes de enviarla para su inferencia, utilice la count_tokens ruta antrópica del bedrock-mantle punto final. Esta es la única ruta de recuento de fichas compatible con los modelos Claude que no están disponibles bedrock-runtime con un Region-specific punto final, incluidos los modelos Claude que se lanzan únicamente con inferencia interregional (CRIS). Para obtener información detallada y un ejemplo, consulte Cuente las fichas utilizando el punto final rocoso-manto.