IA générative dans les environnements d' SageMaker ordinateurs portables

Mode de mise au point

IA générative dans les environnements d' SageMaker ordinateurs portables - Amazon SageMaker AI

Jupyter AI est une extension open source permettant d' JupyterLab intégrer des fonctionnalités d'IA générative dans les ordinateurs portables Jupyter. Grâce à l'interface de chat et aux commandes magiques de Jupyter AI, les utilisateurs expérimentent le code généré à partir d'instructions en langage naturel, expliquent le code existant, posent des questions sur leurs fichiers locaux, génèrent des blocs-notes complets, etc. L'extension connecte les blocs-notes Jupyter à de grands modèles linguistiques (LLMs) que les utilisateurs peuvent utiliser pour générer du texte, du code ou des images, et pour poser des questions sur leurs propres données. Jupyter AI prend en charge les fournisseurs de modèles génératifs tels qu' AI21Anthropic ( AWS et JumpStart Amazon Bedrock), Cohere et OpenAI.

Vous pouvez également utiliser Amazon Q Developer comme solution prête à l'emploi. Au lieu d'avoir à configurer manuellement une connexion à un modèle, vous pouvez commencer à utiliser Amazon Q Developer avec une configuration minimale. Lorsque vous activez Amazon Q Developer, celui-ci devient le fournisseur de solutions par défaut de Jupyter AI. Pour plus d'informations sur l'utilisation d'Amazon Q Developer, consultezSageMaker JupyterLab.

Le package de l'extension est inclus dans les versions 1.2 et ultérieures d'Amazon SageMaker Distribution. Amazon SageMaker Distribution est un environnement Docker pour la science des données et le calcul scientifique utilisé comme image par défaut des instances de JupyterLab bloc-notes. Les utilisateurs de différents IPython environnements peuvent installer Jupyter AI manuellement.

Dans cette section, nous donnons un aperçu des fonctionnalités de Jupyter AI et expliquons comment configurer les modèles fournis par JumpStart Amazon Bedrock JupyterLabou depuis les ordinateurs portables Studio Classic. Pour des informations plus détaillées sur le projet Jupyter AI, consultez sa documentation. Vous pouvez également consulter le billet de blog Generative AI in Jupyter pour un aperçu et des exemples des principales fonctionnalités de Jupyter AI.

Avant d'utiliser Jupyter AI et d'interagir avec vous LLMs, assurez-vous que vous remplissez les conditions préalables suivantes :

Pour les modèles hébergés par AWS, vous devez disposer de l'ARN de votre point de terminaison SageMaker AI ou avoir accès à Amazon Bedrock. Pour les autres fournisseurs de modèles, vous devez disposer de la clé API utilisée pour authentifier et autoriser les demandes adressées à votre modèle. Jupyter AI prend en charge un large éventail de fournisseurs de modèles et de modèles linguistiques. Consultez la liste des modèles pris en charge pour vous tenir au courant des derniers modèles disponibles. Pour plus d'informations sur le déploiement d'un modèle dans JumpStart, consultez la section Déployer un modèle dans la JumpStart documentation. Vous devez demander l'accès à Amazon Bedrock pour l'utiliser en tant que fournisseur de modèles.
Assurez-vous que les bibliothèques Jupyter AI sont présentes dans votre environnement. Si ce n'est pas le cas, installez le package requis en suivant les instructions deInstallation de Jupyter AI.
Familiarisez-vous avec les fonctionnalités de Jupyter AI dans. Accédez aux fonctionnalités de Jupyter AI
Configurez les modèles cibles que vous souhaitez utiliser en suivant les instructions deConfigurez votre fournisseur de modèles.

Après avoir effectué les étapes préalables, vous pouvez passer àUtiliser Jupyter AI dans JupyterLab ou Studio Classic.

Rubriques

Avertissement JavaScript est désactivé ou n'est pas disponible dans votre navigateur.

Pour que vous puissiez utiliser la documentation AWS, Javascript doit être activé. Vous trouverez des instructions sur les pages d'aide de votre navigateur.