Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Uso de una herramienta para completar una respuesta modelo de Amazon Bedrock
Puede usar la API de Amazon Bedrock para dar a un modelo acceso a herramientas que pueden ayudarlo a generar respuestas para los mensajes que envíe al modelo. Por ejemplo, puede tener una aplicación de chat que permita a los usuarios encontrar la canción más popular que se reproduce en una emisora de radio. Para responder a una solicitud de la canción más popular, un modelo necesita una herramienta que pueda consultar y devolver la información de la canción.
nota
El uso de herramientas con los modelos también se conoce como Llamada a funciones.
En Amazon Bedrock, el modelo no llama directamente a la herramienta. Por el contrario, cuando envía un mensaje a un modelo, también proporciona una definición de una o más herramientas que podrían ayudar al modelo a generar una respuesta. En este ejemplo, usted proporcionaría una definición para una herramienta que devuelva la canción más popular de una emisora de radio específica. Si el modelo determina que necesita la herramienta para generar una respuesta para el mensaje, este responde con una solicitud para que usted llame a la herramienta. También incluye los parámetros de entrada (la emisora de radio requerida) para pasarlos a la herramienta.
En su código, llama a la herramienta en nombre del modelo. En este escenario, suponemos que la implementación de la herramienta es una API. La herramienta podría ser una base de datos, una función de Lambda o algún otro software. Usted decide cómo quiere implementar la herramienta. A continuación, continúa la conversación con el modelo proporcionando un mensaje con el resultado de la herramienta. Por último, el modelo genera una respuesta para el mensaje original que incluye los resultados de la herramienta que ha enviado al modelo.
Para utilizar herramientas con un modelo, puede utilizar el Converse API (Converse o ConverseStream). El código de ejemplo de este tema usa la Converse API para mostrar cómo usar una herramienta que obtiene la canción más popular de una emisora de radio. Para obtener información general sobre cómo llamar al Converse API, consulteMantén una conversación con el Converse Operaciones de la API.
Es posible utilizar herramientas con las operaciones de inferencia base (InvokeModelo InvokeModelWithResponseStream). Para encontrar los parámetros de inferencia que pasa en el cuerpo de la solicitud, consulte los parámetros de inferencia del modelo que desee usar. Se recomienda utilizar el Converse API, ya que proporciona una API coherente que funciona con todos los modelos de Amazon Bedrock que admiten el uso de herramientas.
Para obtener más información sobre los modelos que admiten la llamada de herramientas, consulte Modelos y características del modelo compatibles.
