Sistemas de llamadas a herramientas

La llamada a herramientas está disponible para los modelos de Amazon Nova si se incluye un esquema de configuración de herramientas en su solicitud. La petición del modelo se ampliará con esta configuración de herramientas, por lo que es un punto de partida muy importante para empezar a optimizar su sistema de llamadas a herramientas.

Considere estos principios clave:

Uso de “Elección de herramientas” para controlar cuándo se llama a una herramienta

El parámetro de elección de herramientas le permite personalizar el comportamiento de las llamadas a herramientas con el modelo. Le recomendamos que lo utilice para controlar con precisión qué herramientas se invocan y cuándo.

Por ejemplo, para casos de uso como la salida estructurada, es posible que desee llamar a una herramienta específica cada vez que se invoque Amazon Nova. Puede definir el esquema de la salida como herramienta y, a continuación, establecer la elección de herramienta con el nombre de esa herramienta.

{
   "toolChoice": {
        "tool": {
            "name": "name_of_tool"
        }
    }
}

Para muchos casos de uso de agentes, es posible que desee asegurarse de que el modelo siempre seleccione una de las herramientas disponibles. Para ello, puede establecer la elección de herramienta en any, que llamará exactamente a una herramienta cada vez que se invoque el modelo.

{
   "toolChoice": {
        "any": {}
    }
}

Por último, para los casos de uso en los que la decisión de llamar a una herramienta depende en gran medida del contexto de la conversación, puede establecer la elección de herramienta como auto. Este es el comportamiento predeterminado y dejará la selección de la herramienta completamente a cargo del modelo.

{
   "toolChoice": {
        "auto": {}
    }
}