Generative KI in SageMaker Notebook-Umgebungen

Fokusmodus

Generative KI in SageMaker Notebook-Umgebungen - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Jupyter AI ist eine Open-Source-Erweiterung zur JupyterLab Integration generativer KI-Funktionen in Jupyter-Notebooks. Über die Jupyter AI-Chat-Oberfläche und magische Befehle experimentieren Benutzer mit Code, der aus Anweisungen in natürlicher Sprache generiert wurde, erklären vorhandenen Code, stellen Fragen zu ihren lokalen Dateien, erstellen ganze Notizbücher und vieles mehr. Die Erweiterung verbindet Jupyter-Notizbücher mit großen Sprachmodellen (LLMs), mit denen Benutzer Text, Code oder Bilder generieren und Fragen zu ihren eigenen Daten stellen können. Jupyter AI unterstützt Anbieter generativer Modelle wie AI21 Anthropic AWS (JumpStart und Amazon Bedrock), Cohere und OpenAI.

Sie können Amazon Q Developer auch als sofort einsatzbereite Lösung verwenden. Anstatt manuell eine Verbindung zu einem Modell einrichten zu müssen, können Sie Amazon Q Developer mit minimaler Konfiguration verwenden. Wenn Sie Amazon Q Developer aktivieren, wird es zum Standardlösungsanbieter in Jupyter AI. Weitere Informationen zur Verwendung von Amazon Q Developer finden Sie unterSageMaker JupyterLab.

Das Paket der Erweiterung ist in Amazon SageMaker Distribution Version 1.2 und höher enthalten. Amazon SageMaker Distribution ist eine Docker-Umgebung für Datenwissenschaft und wissenschaftliche Datenverarbeitung, die als Standard-Image für JupyterLab Notebook-Instances verwendet wird. Benutzer verschiedener IPython Umgebungen können Jupyter AI manuell installieren.

In diesem Abschnitt geben wir einen Überblick über die KI-Funktionen von Jupyter und zeigen, wie Modelle konfiguriert werden, die von JumpStart oder Amazon Bedrock aus JupyterLaboder Studio Classic-Notebooks bereitgestellt werden. Ausführlichere Informationen zum Jupyter AI-Projekt finden Sie in der zugehörigen Dokumentation. Alternativ finden Sie im Blogbeitrag Generative KI in Jupyter einen Überblick und Beispiele der wichtigsten KI-Funktionen von Jupyter.

Bevor Sie Jupyter AI verwenden und mit Ihrem interagieren, stellen Sie sicher LLMs, dass Sie die folgenden Voraussetzungen erfüllen:

Für Modelle, die von gehostet werden AWS, sollten Sie den ARN Ihres SageMaker KI-Endpunkts haben oder Zugriff auf Amazon Bedrock haben. Bei anderen Modellanbietern sollten Sie über den API-Schlüssel verfügen, der zur Authentifizierung und Autorisierung von Anfragen an Ihr Modell verwendet wird. Jupyter AI unterstützt eine Vielzahl von Modellanbietern und Sprachmodellen. In der Liste der unterstützten Modelle finden Sie Informationen zu den neuesten verfügbaren Modellen. Informationen zur Bereitstellung eines Modells finden Sie in der Dokumentation JumpStart unter Bereitstellen eines Modells. JumpStart Sie müssen Zugriff auf Amazon Bedrock beantragen, um es als Ihren Modellanbieter verwenden zu können.
Stellen Sie sicher, dass Jupyter AI-Bibliotheken in Ihrer Umgebung vorhanden sind. Falls nicht, installieren Sie das erforderliche Paket, indem Sie den Anweisungen unter folgen. Installation von Jupyter AI
Machen Sie sich mit den Funktionen von Jupyter AI in vertraut. Greifen Sie auf die Funktionen von Jupyter AI zu
Konfigurieren Sie die Zielmodelle, die Sie verwenden möchten, indem Sie den Anweisungen unter folgen. Konfigurieren Sie Ihren Modellanbieter