¿Elegir una herramienta

toolUtilizarla como herramienta elegida le permite controlar la herramienta específica a la que recurre el modelo. El siguiente ejemplo resalta esto con un caso de uso de salida estructurado en el que se requiere que la respuesta esté formateada de manera coherente.

tool_config = {
    "toolChoice": {
        "tool": { "name" : "extract_recipe"}
    },
    "tools": [
        {
            "toolSpec": {
                "name": "extract_recipe",
                "description": "Extract recipe for cooking instructions",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "name": {
                                "type": "string",
                                "description": "Name of the recipe"
                            },
                            "description": {
                                "type": "string",
                                "description": "Brief description of the dish"
                            },
                            "ingredients": {
                                "type": "array",
                                "items": {
                                    "type": "string",
                                    "description": "Name of ingredient"
                                }
                            }
                        },
                        "required": ["name", "description", "ingredients"]
                    }
                }
            }
        }
    ]
}

Si any se utiliza como herramienta elegida, puede asegurarse de que se invoque al menos una herramienta cada vez. Si bien la decisión de a qué herramienta utilizar depende del modelo, siempre se devolverá una herramienta. En el siguiente ejemplo, se destaca el uso de cualquier herramienta para un caso práctico de punto final de selección de API. Este es un ejemplo de cuándo resulta útil exigir al modelo que devuelva una herramienta específica.

tool_config = {
    "toolChoice": {
        "any": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "get_all_products",
                "description": "API to retrieve multiple products with filtering and pagination options",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "sort_by": {
                                "type": "string",
                                "description": "Field to sort results by. One of: price, name, created_date, popularity",
                                "default": "created_date"
                            },
                            "sort_order": {
                                "type": "string",
                                "description": "Order of sorting (ascending or descending). One of: asc, desc",
                                "default": "desc"
                            },
                        },
                        "required": []
                    }
                }
            }
        },
        {
            "toolSpec": {
                "name": "get_products_by_id",
                "description": "API to retrieve retail products based on search criteria",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "product_id": {
                                "type": "string",
                                "description": "Unique identifier of the product"
                            },
                        },
                        "required": ["product_id"]
                    }
                }
            }
        }
    ]
}

El uso auto como herramienta elegida es la funcionalidad predeterminada del soporte de herramientas y permite al modelo decidir cuándo llamar a una herramienta y a cuántas herramientas llamar. Este es el comportamiento si no incluye la elección de la herramienta en su solicitud.

El siguiente ejemplo destaca un caso de uso de un chatbot en el que quizás quieras permitir que la modelo busque información reciente en Internet o que responda directamente al usuario. La elección de esta herramienta proporciona flexibilidad y deja que el razonamiento sea el modelo.

tool_config = {
    "toolChoice": {
        "auto": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "search",
                "description": "API that provides access to the internet",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "query": {
                                "type": "string",
                                "description": "Query to search by",
                            },
                        },
                        "required": ["query"]
                    }
                }
            }
        }
    ]
}