Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Im folgenden Thema wird der Prozess beschrieben, der für die Installation und Verwendung der anwendungsspezifischen Apps SDKs mit Amazon SageMaker Partner AI erforderlich ist. Für die Installation und Verwendung SDKs für Anwendungen müssen Sie spezifische Umgebungsvariablen für Partner-AI-Apps angeben, damit das SDK der Anwendung Umgebungsvariablen aufnehmen und die Autorisierung auslösen kann. Die folgenden Abschnitte enthalten Informationen zu den Schritten, die erforderlich sind, um diesen Vorgang für jeden der unterstützten Anwendungstypen abzuschließen.
Komet
Comet bietet zwei Produkte an:
-
Opik ist ein LLM-Quell-Evaluierungsframework.
-
Die ML-Plattform von Comet kann verwendet werden, um Modelle über den gesamten ML-Lebenszyklus hinweg zu verfolgen, zu vergleichen, zu erklären und zu optimieren.
Comet unterstützt die Verwendung von zwei verschiedenen, SDKs je nachdem, mit welchem Produkt Sie interagieren. Gehen Sie wie folgt vor, um Comet oder Opik zu installieren und zu verwenden. SDKs Weitere Informationen zum Comet SDK finden Sie unter Schnellstart.
-
Starten Sie die Umgebung, in der Sie Comet oder Opik SDKs mit Partner-KI-Apps verwenden. Informationen zum Starten einer JupyterLab Anwendung finden Sie unter. Erstellen Sie einen Raum Informationen zum Starten eines Code-Editors, der auf der Code-OSS-Anwendung Visual Studio Code — Open Source basiert, finden Sie unter. Starten Sie eine Code-Editor-Anwendung in Studio
-
Starten Sie ein Jupyter-Notizbuch oder einen Code-Editor-Bereich.
-
Installieren Sie in der Entwicklungsumgebung die kompatiblen Comet-, Opik- und SageMaker Python-SDK-Versionen. Um kompatibel zu sein:
-
Die SageMaker Python-SDK-Version muss mindestens sein
2.237.0
. -
Die Comet SDK-Version muss die neueste Version sein.
-
Die Opik SDK-Version muss mit der Version übereinstimmen, die von Ihrer Opik-Anwendung verwendet wird. Überprüfen Sie die in der Benutzeroberfläche der Opik-Webanwendung verwendete Opik-Version. Die Ausnahme besteht darin, dass die Opik SDK-Version mindestens der Version der
1.2.0
Opik-Anwendung entsprechen muss.1.1.5
Anmerkung
SageMaker JupyterLab wird mit installiertem SageMaker Python-SDK geliefert. Möglicherweise müssen Sie das SageMaker Python-SDK jedoch aktualisieren, wenn die Version niedriger als ist
2.237.0
.%pip install sagemaker>=2.237.0 comet_ml ##or %pip install sagemaker>=2.237.0 opik=
<compatible-version>
-
-
Legen Sie die folgenden Umgebungsvariablen für die Anwendungsressource ARN fest. Diese Umgebungsvariablen werden für die Kommunikation mit dem Comet und SDKs Opik verwendet. Um diese Werte abzurufen, navigieren Sie zur Detailseite für die Anwendung in Amazon SageMaker Studio.
os.environ['AWS_PARTNER_APP_AUTH'] = 'true' os.environ['AWS_PARTNER_APP_ARN'] = '
<partner-app-ARN>
' -
Für die Comet-Anwendung ist die SDK-URL automatisch als Teil des API-Schlüssels enthalten, der im folgenden Schritt festgelegt wurde. Sie können stattdessen die
COMET_URL_OVERRIDE
Umgebungsvariable so einstellen, dass sie die SDK-URL manuell überschreibt.os.environ['COMET_URL_OVERRIDE'] = '
<comet-url>
' -
Für die Opik-Anwendung ist die SDK-URL automatisch als Teil des im folgenden Schritt festgelegten API-Schlüssels enthalten. Sie können stattdessen die
OPIK_URL_OVERRIDE
Umgebungsvariable so einstellen, dass sie die SDK-URL manuell überschreibt. Den Namen des Opik-Workspace finden Sie in der Opik-Anwendung und navigieren Sie zum Workspace des Benutzers.os.environ['OPIK_URL_OVERRIDE'] = '
<opik-url>
' os.environ['OPIK_WORKSPACE'] = '<workspace-name>
' -
Legen Sie die Umgebungsvariable fest, die den API-Schlüssel für Comet oder Opik identifiziert. Dies wird verwendet, um die Verbindung von SageMaker zur Anwendung zu überprüfen, wenn Comet und SDKs Opik verwendet werden. Dieser API-Schlüssel ist anwendungsspezifisch und wird nicht von verwaltet. SageMaker Um diesen Schlüssel zu erhalten, müssen Sie sich bei der Anwendung anmelden und den API-Schlüssel abrufen. Der Opik-API-Schlüssel ist derselbe wie der Comet-API-Schlüssel.
os.environ['COMET_API_KEY'] = '
<API-key>
' os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]
Geiger
Gehen Sie wie folgt vor, um den Fiddler Python Client zu installieren und zu verwenden. Informationen zum Fiddler Python Client finden Sie unter About Client 3.x
-
Starten Sie die Notebook-Umgebung, in der Sie den Fiddler Python Client mit Partner-KI-Apps verwenden. Informationen zum Starten einer JupyterLab Anwendung finden Sie unter. Erstellen Sie einen Raum Informationen zum Starten eines Code-Editors, der auf der Code-OSS-Anwendung Visual Studio Code — Open Source basiert, finden Sie unter. Starten Sie eine Code-Editor-Anwendung in Studio
-
Starten Sie ein Jupyter-Notizbuch oder einen Code-Editor-Bereich.
-
Installieren Sie in der Entwicklungsumgebung die Versionen Fiddler Python Client und SageMaker Python SDK. Um kompatibel zu sein:
-
Die SageMaker Python-SDK-Version muss mindestens sein
2.237.0
. -
Die Fiddler Python Client-Version muss mit der in der Anwendung verwendeten Fiddler-Version kompatibel sein. Nachdem Sie die Fiddler-Version über die Benutzeroberfläche überprüft haben, finden Sie in der Fiddler-Kompatibilitätsmatrix die kompatible Fiddler-Python-Client-Version
.
Anmerkung
SageMaker JupyterLab wird mit installiertem SageMaker Python-SDK geliefert. Möglicherweise müssen Sie das SageMaker Python-SDK jedoch aktualisieren, wenn die Version niedriger als ist
2.237.0
.%pip install sagemaker>=2.237.0 fiddler-client=
<compatible-version>
-
-
Legen Sie die folgenden Umgebungsvariablen für die Anwendungsressource ARN und die SDK-URL fest. Diese Umgebungsvariablen werden für die Kommunikation mit dem Fiddler Python Client verwendet. Um diese Werte abzurufen, navigieren Sie zur Detailseite für die Fiddler-Anwendung in Amazon SageMaker Studio.
os.environ['AWS_PARTNER_APP_AUTH'] = 'true' os.environ['AWS_PARTNER_APP_ARN'] = '
<partner-app-ARN>
' os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>
' -
Legen Sie die Umgebungsvariable fest, die den API-Schlüssel für die Fiddler-Anwendung identifiziert. Dies wird verwendet, um die Verbindung von der Fiddler-Anwendung SageMaker zu überprüfen, wenn der Fiddler Python Client verwendet wird. Dieser API-Schlüssel ist anwendungsspezifisch und wird nicht von verwaltet. SageMaker Um diesen Schlüssel zu erhalten, müssen Sie sich bei der Fiddler-Anwendung anmelden und den API-Schlüssel abrufen.
os.environ['FIDDLER_KEY'] = '
<API-key>
'
Tiefgreifende Prüfungen
Gehen Sie wie folgt vor, um das Deepchecks Python SDK zu installieren und zu verwenden.
-
Starten Sie die Notebook-Umgebung, in der Sie das Deepchecks Python SDK mit Partner-KI-Apps verwenden. Informationen zum Starten einer JupyterLab Anwendung finden Sie unterErstellen Sie einen Raum. Informationen zum Starten eines Code-Editors, der auf der Code-OSS-Anwendung Visual Studio Code — Open Source basiert, finden Sie unter. Starten Sie eine Code-Editor-Anwendung in Studio
-
Starten Sie ein Jupyter-Notizbuch oder einen Code-Editor-Bereich.
-
Installieren Sie in der Entwicklungsumgebung die kompatiblen Deepchecks Python SDK- und SageMaker Python SDK-Versionen. Partner AI Apps führt die Version von
0.21.15
Deepchecks aus. Um kompatibel zu sein:-
Die SageMaker Python-SDK-Version muss mindestens sein
2.237.0
. -
Das Deepchecks Python SDK muss die Nebenversion
0.21
verwenden.
Anmerkung
SageMaker JupyterLab wird mit installiertem SageMaker Python-SDK geliefert. Möglicherweise müssen Sie das SageMaker Python-SDK jedoch aktualisieren, wenn die Version niedriger als ist
2.237.0
.%pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22
-
-
Legen Sie die folgenden Umgebungsvariablen für die Anwendungsressource ARN und die SDK-URL fest. Diese Umgebungsvariablen werden für die Kommunikation mit dem Deepchecks Python SDK verwendet. Um diese Werte abzurufen, navigieren Sie zur Detailseite für die Anwendung in Amazon SageMaker Studio.
os.environ['AWS_PARTNER_APP_AUTH'] = 'true' os.environ['AWS_PARTNER_APP_ARN'] = '
<partner-app-ARN>
' os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>
' -
Legen Sie die Umgebungsvariable fest, die den API-Schlüssel für die Deepchecks-Anwendung identifiziert. Dies wird verwendet, um die Verbindung von der Deepchecks-Anwendung SageMaker zu überprüfen, wenn das Deepchecks Python SDK verwendet wird. Dieser API-Schlüssel ist anwendungsspezifisch und wird nicht von verwaltet. SageMaker Informationen zum Abrufen dieses Schlüssels finden Sie unter Setup: Python-SDK-Installation und API-Schlüsselabruf
. os.environ['DEEPCHECKS_API_KEY'] = '
<API-key>
'
Lakera
Lakera bietet kein SDK an. Stattdessen können Sie mit der Lakera Guard-API über HTTP-Anfragen an die verfügbaren Endpunkte in einer beliebigen Programmiersprache interagieren. Weitere Informationen finden Sie unter Lakera Guard API
Gehen Sie wie folgt vor, um das SageMaker Python-SDK mit Lakera zu verwenden:
-
Starten Sie die Umgebung, in der Sie Partner-KI-Apps verwenden. Informationen zum Starten einer JupyterLab Anwendung finden Sie unterErstellen Sie einen Raum. Informationen zum Starten eines Code-Editors, der auf der Code-OSS-Anwendung Visual Studio Code — Open Source basiert, finden Sie unter. Starten Sie eine Code-Editor-Anwendung in Studio
-
Starten Sie ein Jupyter-Notizbuch oder einen Code-Editor-Bereich.
-
Installieren Sie in der Entwicklungsumgebung die kompatible SageMaker Python-SDK-Version. Die SageMaker Python-SDK-Version muss mindestens
2.237.0
Anmerkung
SageMaker JupyterLab wird mit installiertem SageMaker Python-SDK geliefert. Möglicherweise müssen Sie das SageMaker Python-SDK jedoch aktualisieren, wenn die Version niedriger als ist
2.237.0
.%pip install sagemaker>=2.237.0
-
Legen Sie die folgenden Umgebungsvariablen für die Anwendungsressource ARN und die SDK-URL fest. Um diese Werte abzurufen, navigieren Sie zur Detailseite für die Anwendung in Amazon SageMaker Studio.
os.environ['AWS_PARTNER_APP_ARN'] = '
<partner-app-ARN>
' os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>
'