Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Uso de la IA generativa con los modelos fundacionales

Amazon SageMaker Canvas proporciona modelos básicos de IA generativa que puede utilizar para iniciar conversaciones conversacionales. Estos modelos de generación de contenido se entrenan con grandes cantidades de datos de texto para aprender los patrones estadísticos y las relaciones entre las palabras, y pueden producir un texto coherente que sea estadísticamente similar al texto en el que se entrenaron. Puede utilizar esta capacidad para aumentar la productividad de la siguiente manera:

Los modelos básicos son una combinación de los grandes modelos de lenguaje de Amazon SageMaker JumpStart y Amazon Bedrock (LLMs). Canvas ofrece los siguientes modelos:

Por el momento, los modelos fundacionales de Amazon Bedrock solo están disponibles en las regiones Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón). Además, cuando utilice modelos fundacionales de Amazon Bedrock, se le cobrará en función del volumen de los tokens de entrada y salida, según lo especifique cada proveedor de modelos. Para obtener más información, consulte la página de Precios de Amazon Bedrock. Los modelos JumpStart básicos se implementan en las instancias de SageMaker hosting y se cobra por la duración del uso en función del tipo de instancia utilizada. Para obtener más información sobre el costo de los distintos tipos de instancias, consulta la sección Amazon SageMaker Hosting: Inferencia en tiempo real en la página de SageMaker precios.

La consulta de documentos es una característica adicional que puede utilizar para consultar y obtener información de los documentos almacenados en índices mediante Amazon Kendra. Con esta funcionalidad, puede generar contenido a partir del contexto de esos documentos y recibir respuestas específicas para su caso de uso empresarial, en lugar de respuestas genéricas según las grandes cantidades de datos en las que se basaron los modelos fundacionales. Para obtener más información acerca de los índices en Amazon Kendra, consulte la Guía para desarrolladores de Amazon Kendra.

Si desea obtener respuestas de alguno de los modelos básicos que se personalicen en función de sus datos y caso de uso, puede ajustar los modelos básicos. Para obtener más información, consulte Ajuste con precisión los modelos básicos.

Para empezar, consulte las secciones siguientes.

Requisitos previos

En las siguientes secciones se describen los requisitos previos para interactuar con los modelos fundacionales y utilizar la característica de consulta de documentos de Canvas. El resto del contenido de esta página presupone que ha cumplido con los requisitos previos para los modelos fundacionales. La característica de consulta de documentos requiere permisos adicionales.

Requisitos previos para los modelos fundacionales

Los permisos que necesita para interactuar con los modelos se incluyen en los permisos de los eady-to-use modelos de Canvas R. Para usar los modelos generativos impulsados por IA en Canvas, debes activar los permisos de configuración de los eady-to-use modelos Canvas R al configurar tu dominio de Amazon. SageMaker Para obtener más información, consulte Requisitos previos para configurar Amazon Canvas SageMaker . La configuración de eady-to-use los modelos R de Canvas adjunta la AmazonSageMakerCanvasAIServicesAccesspolítica a la función de ejecución de su usuario de Canvas AWS Identity and Access Management (IAM). Si tiene algún problema con la concesión de permisos, consulte el tema Solución de problemas relacionados con la concesión de permisos a través de la SageMaker consola.

Si ya configuró su dominio, puede editar la configuración del dominio y activar los permisos. Para obtener instrucciones sobre cómo editar la configuración de tu dominio, consultaVer y editar dominios. Al editar la configuración de su dominio, vaya a la configuración de Canvas y active la opción Habilitar eady-to-use modelos de Canvas R.

Algunos JumpStart modelos básicos también requieren que solicites un aumento de la cuota de SageMaker instancias. Canvas aloja los modelos con los que está interactuando actualmente en estas instancias, pero es posible que la cuota predeterminada de su cuenta no sea suficiente. Si se produce un error al ejecutar alguno de los siguientes modelos, solicite un aumento de cuota para los tipos de instancias asociados:

Para los tipos de instancias anteriores, solicite un aumento de 0 a 1 en la cuota de uso de puntos de conexión. Para obtener información sobre cómo aumentar una cuota para su cuenta, consulte Solicitar un aumento de cuota en la Guía del usuario de Service Quotas.

Requisitos previos para la consulta de documentos

La característica de consulta de documentos requiere que ya disponga de un índice de Amazon Kendra que almacene sus documentos y sus metadatos de documentos. Para obtener más información acerca de Amazon Kendra, consulte la Guía para desarrolladores de Amazon Kendra. Para obtener más información sobre las cuotas para consultar índices, consulte Cuotas en la Guía para desarrolladores de Amazon Kendra.

También debe asegurarse de que su perfil de usuario de Canvas tenga los permisos necesarios para consultar documentos. La AmazonSageMakerCanvasFullAccesspolítica debe estar asociada a la función de AWS IAM ejecución del SageMaker dominio que aloja la aplicación de Canvas (esta política se adjunta de forma predeterminada a todos los perfiles de usuario de Canvas nuevos y existentes). También debe conceder específicamente permisos de consulta de documentos y especificar el acceso a uno o más índices de Amazon Kendra.

Si su administrador de Canvas está configurando un nuevo dominio o perfil de usuario, pídale que configure el dominio siguiendo las instrucciones que se indican enRequisitos previos para configurar Amazon Canvas SageMaker . Al configurar el dominio, pueden activar los permisos de consulta de documentos a través de la configuración de los eady-to-use modelos Canvas R.

El administrador de Canvas también puede administrar los permisos de consulta de documentos en el nivel del perfil de usuario. Por ejemplo, si el administrador quiere conceder permisos de consulta de documentos a algunos perfiles de usuario pero eliminar los permisos a otros, puede editar los permisos de un usuario específico.

El siguiente procedimiento muestra cómo activar los permisos de consulta de documentos para un perfil de usuario específico:

Ahora debería poder utilizar los modelos fundacionales de Canvas para consultar documentos en los índices de Amazon Kendra especificados.

Iniciar una nueva conversación para generar, extraer o resumir contenido

Para empezar a utilizar los modelos fundacionales de IA generativa en Canvas, puede iniciar una nueva sesión de chat con uno de los modelos. En el caso de los JumpStart modelos, se le cobrará mientras el modelo esté activo, por lo que debe iniciar los modelos cuando desee utilizarlos y apagarlos cuando termine de interactuar. Si no apagas un JumpStart modelo, Canvas lo apagará después de 2 horas de inactividad. En el caso de los modelos Amazon Bedrock (como Amazon Titan), se te cobrará de forma inmediata; los modelos ya están activos y no es necesario encenderlos ni apagarlos. Amazon Bedrock le cobrará directamente por el uso de estos modelos.

Para abrir una conversación con un modelo, haga lo siguiente:

Según el modelo, puede realizar varias tareas. Por ejemplo, puede introducir un pasaje de texto y pedirle al modelo que lo resuma. O bien, puede pedirle al modelo que elabore un breve resumen de las tendencias del mercado en su dominio.

Las respuestas de la modelo en un chat se basan en el contexto de sus solicitudes anteriores. Si quiere plantear una pregunta nueva en el chat que no esté relacionada con el tema de la conversación anterior, le recomendamos que inicie una nueva conversación con el modelo.

Extracción de información de los documentos mediante la consulta de documentos

La consulta de documentos es una característica que puede utilizar al interactuar con los modelos fundacionales en Canvas. Con la consulta de documentos, puede acceder a un corpus de documentos almacenado en un índice de Amazon Kendra, que contiene el contenido de sus documentos y está estructurado de forma que permite realizar búsquedas en los documentos. Puede hacer preguntas específicas dirigidas a los datos de su índice de Amazon Kendra, y el modelo fundacional devuelve las respuestas a sus preguntas. Por ejemplo, puede consultar una base de conocimientos interna sobre información de TI y hacer preguntas como “¿Cómo me conecto a la red de mi empresa?” Para obtener más información acerca de cómo configurar un índice, consulte la Guía para desarrolladores de Amazon Kendra.

Al utilizar la función de consulta de documentos, los modelos básicos restringen sus respuestas al contenido de los documentos de su índice con una técnica denominada Retrieval Augmented Generation (RAG). Esta técnica agrupa la información más relevante del índice junto con la solicitud del usuario y la envía al modelo fundacional para obtener una respuesta. Las respuestas se limitan a lo que se encuentra en el índice, lo que impide que el modelo dé respuestas incorrectas basadas en datos externos. Para obtener más información sobre este proceso, consulte la entrada del blog Compilación rápida de aplicaciones de IA generativa de gran precisión con datos empresariales.

Para empezar, en una conversación con un modelo fundacional en Canvas, active el botón Consulta de documentos situado en la parte superior de la página. En el menú desplegable, seleccione el índice de Amazon Kendra que quiera consultar. A continuación, puede empezar a hacer preguntas relacionadas con los documentos de su índice.

Administración de modelos

Puede poner en marcha tantos modelos como desee. JumpStart Cada JumpStart modelo activo conlleva cargos en tu cuenta, por lo que te recomendamos que no pongas en marcha más modelos de los que utilizas actualmente.

Para iniciar otro modelo, puede hacer lo siguiente:

El modelo debería empezar a iniciarse y, en unos minutos, podrá charlar con el modelo.

Le recomendamos encarecidamente que cierre los modelos que no esté utilizando. Los modelos se cierran automáticamente tras 2 horas de inactividad. Sin embargo, para apagar un modelo manualmente, puede hacer lo siguiente:

El modelo comienza a cerrarse. Si su chat compara dos o más modelos, puede cerrar un modelo individual desde la página del chat. Para ello, seleccione el icono Más opciones del modelo ( ) y, a continuación, seleccione Cerrar modelo.

Comparación de los resultados del modelo

Es posible que desee comparar los resultados de los distintos modelos uno junto al otro para ver qué resultado de modelo prefiere. Esto puede ayudarle a decidir qué modelo se adapta mejor a su caso de uso. Puede comparar hasta tres modelos en los chats.

Debe iniciar un nuevo chat para agregar modelos para compararlos. Para comparar los resultados de los modelos uno junto al otro en un chat, haga lo siguiente:

Cuando los modelos estén activos, verá los dos modelos uno junto al otro en el chat. Puede enviar su mensaje y cada modelo responderá en el mismo chat, como se muestra en la siguiente captura de pantalla.

Cuando termines de interactuar, asegúrate de apagar todos JumpStart los modelos individualmente para evitar incurrir en cargos adicionales.

Implemente un JumpStart modelo básico

Si desea obtener predicciones de un modelo SageMaker JumpStart básico de Amazon a través de una aplicación o un sitio web, puede implementar el modelo en un SageMaker punto final. SageMaker Los puntos finales alojan su modelo y usted puede enviar solicitudes al punto final a través del código de su aplicación para recibir las predicciones del modelo. Para obtener más información, consulte Implementación de sus modelos en un punto de conexión.