Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Los modelos de comprensión multimodal de Amazon Nova están disponibles para su uso en la inferencia mediante la API Invoke (InvokeModel, InvokeModelWithResponseStream) y la API Converse (Converse and). ConverseStream Para crear aplicaciones conversacionales, consulte Llevar a cabo una conversación con las operaciones de la API converse. Los dos métodos de la API (Invoke y Converse) siguen un patrón de solicitudes muy similar, como se detalla a continuación
Las principales diferencias entre la API de Invoke y la API de Converse son las siguientes:
-
Los parámetros de inferencia como TopK no son compatibles con Converse y deben transferirse
additionalModelRequestFields, mientras que en la API de Invoke se pueden transferir directamente a los parámetros de inferencia. -
El soporte de documentos se limita únicamente a la API de Converse y no se admite en la API de Invoke.
-
Los formatos de análisis de respuestas son diferentes entre las construcciones de la API Invoke y la API de Converse.
-
La transmisión de respuestas es diferente entre y.
ConverseStreamInvokeModelWithStreaming
Temas
Descripción general de la API de Messages de
Los modelos Amazon Nova Understanding utilizan la API de mensajes, que permite enviar listas estructuradas de mensajes de entrada que contienen texto, imágenes, vídeos y documentos. A continuación, el modelo genera el siguiente mensaje de la conversación. La API de mensajes admite consultas individuales y conversaciones de varios turnos sin estado, lo que permite la creación de chatbots y aplicaciones de asistentes virtuales. La API gestiona los intercambios conversacionales entre un usuario y un modelo de Amazon Nova (asistente).
Los modelos Amazon Nova están entrenados para funcionar en turnos de conversación alternos entre el usuario y el asistente. Al crear un mensaje nuevo, se especifican los turnos de conversación anteriores con el parámetro messages. A continuación, el modelo genera los siguientes mensajes de la conversación.
Cada mensaje de entrada debe ser un objeto que contenga una función y un contenido. Los usuarios pueden especificar un solo mensaje con la función de usuario o incluir varios mensajes con funciones de usuario y de asistente. Sin embargo, el primer mensaje siempre debe usar el rol de usuario. Si se emplea la técnica de rellenar previamente la respuesta de Amazon Nova (incluyendo un mensaje final con la función de asistente), el modelo continuará respondiendo a partir del contenido proporcionado. Este enfoque seguirá dando como resultado una respuesta con el rol de asistente.
Lo siguiente representa un mensaje de un solo usuario:
[{
"role": "user",
"content": [{"text":"Hello, Nova"}]
}]
A continuación, se muestra un ejemplo con varios turnos de conversación:
[
{"role": "user", "content": [{"text": "Hello there."}]},
{"role": "assistant", "content": [{"text": "Hi, I'm Chatbot trained to answer your questions. How can I help you?"}]},
{"role": "user", "content": [{"text": "Can you explain LLMs in plain English?"}]}
]
A continuación, se muestra un ejemplo con una respuesta parcialmente completa de Amazon Nova:
[
{"role": "user", "content": [{"text":"Please describe yourself using only JSON"}]},
{"role": "assistant", "content": [{"text":"Here is my JSON description:\n{"}]}
]
Para obtener información sobre la creación de mensajes para los modelos de Amazon Nova, consulteMejores prácticas para facilitar la comprensión de textos.
Utilización del indicador del sistema
Puede incluir un mensaje del sistema en la solicitud. Un mensaje del sistema le permite proporcionar contexto e instrucciones a Amazon Nova, como especificar un objetivo o función en particular. Especifique un mensaje del sistema en el system campo, como se muestra en el siguiente ejemplo:
[
{"text": "You are an expert SaS analyst......"}
]
