IA generativa en entornos de SageMaker portátiles - Amazon SageMaker

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

IA generativa en entornos de SageMaker portátiles

Jupyter AI es una extensión de código abierto que permite JupyterLab integrar capacidades de IA generativa en los cuadernos de Jupyter. Mediante la interfaz de chat de IA de Jupyter y los comandos mágicos, los usuarios experimentan con código generado a partir de instrucciones en lenguaje natural, explican el código existente, hacen preguntas sobre sus archivos locales, generan cuadernos completos y mucho más. La extensión conecta los cuadernos de Jupyter con modelos de lenguaje de gran tamaño (LLMs) que los usuarios pueden usar para generar texto, código o imágenes, y para hacer preguntas sobre sus propios datos. Jupyter AI es compatible con proveedores de modelos generativos como Anthropic ( AWS y JumpStart Amazon Bedrock)AI21, Cohere y OpenAI.

También puedes usar Amazon Q Developer como una solución lista para usar. En lugar de tener que configurar manualmente una conexión a un modelo, puede empezar a utilizar Amazon Q Developer con una configuración mínima. Al activar Amazon Q Developer, se convierte en el proveedor de soluciones predeterminado en Jupyter AI. Para obtener más información sobre el uso de Amazon Q Developer, consulteSageMaker JupyterLab.

El paquete de la extensión está incluido en la versión 1.2 y posteriores de Amazon SageMaker Distribution. Amazon SageMaker Distribution es un entorno Docker para la ciencia de datos y la computación científica que se utiliza como imagen predeterminada de las instancias de JupyterLab notebook. Los usuarios de diferentes IPython entornos pueden instalar Jupyter AI manualmente.

En esta sección, ofrecemos una descripción general de las capacidades de IA de Jupyter y demostramos cómo configurar los modelos proporcionados por JumpStart Amazon Bedrock desde nuestros portátiles Studio JupyterLabClassic. Para obtener información más detallada sobre el proyecto Jupyter AI, consulte su documentación. También puede consultar la entrada del blog La IA generativa en Jupyter para obtener una descripción general y ejemplos de las principales capacidades de la IA de Jupyter.

Antes de usar la IA de Jupyter e interactuar con la tuyaLLMs, asegúrate de cumplir los siguientes requisitos:

  • En el caso de los modelos alojados por AWS, debe tener el ARN de su SageMaker punto de conexión o tener acceso a Amazon Bedrock. En el caso de otros proveedores de modelos, debe disponer de la API clave utilizada para autenticar y autorizar las solicitudes a su modelo. Jupyter AI es compatible con una amplia gama de proveedores de modelos y modelos lingüísticos. Consulte la lista de modelos compatibles para mantenerse actualizado sobre los últimos modelos disponibles. Para obtener información sobre cómo implementar un modelo en JumpStart, consulte Implementación de un modelo en la JumpStart documentación. Debe solicitar acceso a Amazon Bedrock para usarlo como proveedor de modelos.

  • Asegúrese de que las bibliotecas de IA de Jupyter estén presentes en su entorno. Si no es así, instale el paquete necesario siguiendo las instrucciones que se indican en. Instalación de Jupyter AI

  • Familiarícese con las capacidades de Jupyter AI en. Acceda a las funciones de Jupyter AI

  • Configure los modelos de destino que desee utilizar siguiendo las instrucciones de. Configure su proveedor de modelos

Tras completar los pasos previos, puede continuar conUtilice Jupyter AI en nuestro Studio Classic JupyterLab .

Temas