Démarrage rapide : création d'un domaine sandbox SageMaker AI pour lancer des clusters Amazon EMR dans Studio

Suivez ces étapes pour configurer un domaine SageMaker AI afin de lancer des clusters Amazon EMR depuis Studio.

1. Téléchargez le fichier brut de ce AWS CloudFormation modèle depuis le sagemaker-studio-emr GitHub référentiel.

2. Accédez à la AWS CloudFormation console : https://console.aws.amazon.com/cloudformation

3. Choisissez Créer une pile, puis sélectionnez Avec de nouvelles ressources (standard) dans le menu déroulant.

4. À l'étape 1 :

   1. Dans la section Préparer le modèle, sélectionnez Choisir un modèle existant.

   2. Dans la section Spécifier un modèle, sélectionnez Charger un modèle de fichier.

   3. Téléchargez le AWS CloudFormation modèle téléchargé et choisissez Next.

5. À l'étape 2, entrez un nom de pile SageMakerDomainName, puis choisissez Next.

6. À l'étape 3, conservez toutes les valeurs par défaut et choisissez Next.

7. À l'étape 4, cochez la case pour accuser réception de la création de ressources et choisissez Create stack. Cela crée un domaine Studio dans votre compte et dans votre région.

1. Accédez à la console SageMaker AI https://console.aws.amazon.com/sagemaker/et choisissez Domaines dans le menu de gauche.

2. Cliquez sur votre nom de domaine Generative AIDomain pour ouvrir la page des détails du domaine.

3. Lancez Studio depuis le profil utilisateurgenai-user.

4. Dans le volet de navigation de gauche, accédez à Data puis à Amazon EMR Clusters.

5. Sur la page des clusters Amazon EMR, choisissez Create. Sélectionnez le modèle SageMaker Studio Domain No Auth EMR créé par AWS CloudFormation la pile, puis choisissez Next.

6. Entrez un nom pour le nouveau cluster Amazon EMR. Mettez éventuellement à jour d'autres paramètres tels que le type d'instance des nœuds principaux et principaux, le délai d'inactivité ou le nombre de nœuds principaux.

7. Choisissez Create resource pour lancer le nouveau cluster Amazon EMR.

   Après avoir créé le cluster Amazon EMR, suivez le statut sur la page Clusters EMR. Lorsque le statut passe àRunning/Waiting, votre cluster Amazon EMR est prêt à être utilisé dans Studio.

1. Lancement JupyterLab

   Depuis Studio, lancez l' JupyterLab application.

2. Créez un espace privé

   Si vous n'avez pas créé d'espace pour votre JupyterLab application, choisissez Créer un JupyterLab espace. Entrez un nom pour l'espace et conservez-le comme privé. Conservez les valeurs par défaut de tous les autres paramètres, puis choisissez Créer un espace.

   Sinon, exécutez votre JupyterLab espace pour lancer une JupyterLab application.

3. Déployez votre LLM et vos modèles d'intégration à des fins d'inférence

   • Dans le menu supérieur, choisissez Fichier, Nouveau, puis Terminal.

   • Dans le terminal, exécutez la commande suivante.

     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb
     mkdir AWSGuides
     cd AWSGuides
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/AmazonSageMakerDeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/EC2DeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/S3DeveloperGuide.pdf

     Cela permet de récupérer le Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb bloc-notes dans votre répertoire local et de télécharger trois fichiers PDF dans un AWSGuides dossier local.

   • Ouvrezlab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb, conservez le Python 3 (ipykernel) noyau et exécutez chaque cellule.

     Avertissement

     Dans la section Contrat de licence Llama 2, assurez-vous d'accepter le CLUF Llama2 avant de continuer.

     Le bloc-notes déploie deux modèlesall-MiniLM-L6-v2 Models, Llama 2 et c'est parti ml.g5.2xlarge pour l'inférence.

     Le déploiement des modèles et la création des points de terminaison peuvent prendre un certain temps.

4. Ouvrez votre bloc-notes principal

   Dans JupyterLab, ouvrez votre terminal et exécutez la commande suivante.

   cd ..
   wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb
   

   Vous devriez voir le Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb bloc-notes supplémentaire dans le panneau de gauche de JupyterLab.

5. Choisissez un PySpark noyau

   Ouvrez votre Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb bloc-notes et assurez-vous que vous utilisez le SparkMagic PySpark noyau. Vous pouvez changer de noyau en haut à droite de votre bloc-notes. Choisissez le nom actuel du noyau pour ouvrir un modal de sélection du noyau, puis choisissezSparkMagic PySpark.

6. Connectez votre ordinateur portable au cluster

   1. En haut à droite de votre bloc-notes, choisissez Cluster. Cette action ouvre une fenêtre modale répertoriant tous les clusters en cours d'exécution auxquels vous êtes autorisé à accéder.

   2. Sélectionnez votre cluster, puis sélectionnez Connect. Une nouvelle fenêtre modale de sélection du type d'identifiant s'ouvre.

   3. Choisissez Aucune information d'identification, puis Connect.

      

   4. Une cellule de bloc-notes se remplit et s'exécute automatiquement. La cellule du bloc-notes charge l'sagemaker_studio_analytics_extension.magicsextension, qui fournit des fonctionnalités permettant de se connecter au cluster Amazon EMR. Il utilise ensuite la commande %sm_analytics magique pour établir la connexion à votre cluster Amazon EMR et à l'application Spark.

      Note

      Assurez-vous que le type d'authentification de la chaîne de connexion à votre cluster Amazon EMR est défini sur. None Ceci est illustré par la valeur --auth-type None de l'exemple suivant. Vous pouvez modifier le champ si nécessaire.

      %load_ext sagemaker_studio_analytics_extension.magics
      %sm_analytics emr connect --verify-certificate False --cluster-id your-cluster-id --auth-type None --language python 

   5. Une fois que vous avez établi la connexion avec succès, le message de sortie de votre cellule de connexion doit afficher vos SparkSession informations, notamment votre identifiant de cluster, YARN l'identifiant d'application et un lien vers le Spark Interface utilisateur pour surveiller votre Spark emplois.

Pour supprimer votre AWS CloudFormation pile lorsque vous en avez terminé

1. Accédez à la AWS CloudFormation console : https://console.aws.amazon.com/cloudformation

2. Sélectionnez la pile que vous souhaitez supprimer. Vous pouvez le rechercher par son nom ou le trouver dans la liste des piles.

3. Cliquez sur le bouton Supprimer pour finaliser la suppression de la pile, puis sur Supprimer à nouveau pour confirmer que toutes les ressources créées par la pile seront supprimées.

   Attendez que la suppression de la pile soit terminée. Cela peut prendre quelques minutes. AWS CloudFormation nettoie automatiquement toutes les ressources définies dans le modèle de pile.

4. Vérifiez que toutes les ressources créées par la pile ont été supprimées. Par exemple, vérifiez s'il n'y a pas de cluster Amazon EMR restant.

Pour supprimer les points de terminaison d'API d'un modèle

1. Accédez à la console SageMaker AI : https://console.aws.amazon.com/sagemaker/.

2. Dans le volet de navigation de gauche, choisissez Inference, puis Endpoints.

3. Sélectionnez le point de terminaison, hf-allminil6v2-embedding-ep puis choisissez Supprimer dans la liste déroulante Actions. Répétez l'étape pour le point de terminaisonmeta-llama2-7b-chat-tg-ep.