View a markdown version of this page

Serverlose Modellanpassung - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Serverlose Modellanpassung

Die Amazon SageMaker AI-Modellanpassung ist eine Funktion, die den traditionell komplexen und zeitaufwändigen Prozess der Anpassung von KI-Modellen von einem monatelangen Unterfangen in einen optimierten Arbeitsablauf verwandelt, der innerhalb weniger Tage abgeschlossen werden kann. Diese Funktion befasst sich mit der kritischen Herausforderung, vor der KI-Entwickler stehen, die Basismodelle mit firmeneigenen Daten anpassen müssen, um hochgradig differenzierte Kundenerlebnisse zu schaffen. Eine ausführliche Dokumentation zur Anpassung, einschließlich schrittweiser Anleitungen und erweiterter Konfigurationsoptionen, finden Sie in diesem SageMaker KI-Handbuch. Einen kurzen Überblick über die Anpassung des Nova-Modells finden Sie SageMaker im Amazon Nova-Benutzerhandbuch unter Anpassen und Feinabstimmen mit.

Die Funktion umfasst eine neue, geführte Benutzeroberfläche, die die Anforderungen natürlicher Sprache versteht, sowie eine umfassende Suite fortschrittlicher Techniken zur Modellanpassung, die alle von einer serverlosen Infrastruktur unterstützt werden, wodurch der betriebliche Aufwand für die Verwaltung von Rechenressourcen entfällt. Ganz gleich, ob Sie Anwendungen für Rechtsrecherchen erstellen, Kundenservice-Chatbots verbessern oder domänenspezifische KI-Agenten entwickeln, diese Funktion beschleunigt Ihren Weg vom Machbarkeitsnachweis bis zur Produktionsbereitstellung.

Mit den Funktionen der Modellanpassung, die von Amazon Bedrock Evaluations bereitgestellt werden, können Daten zur Verarbeitung sicher innerhalb Ihrer Region übertragen werden. AWS-Regionen Weitere Informationen finden Sie in der Dokumentation zu Amazon Bedrock Evaluations.

Die wichtigsten Konzepte

Serverloses Training

Eine vollständig verwaltete Recheninfrastruktur, die die gesamte Infrastrukturkomplexität abstrahiert, sodass Sie sich ausschließlich auf die Modellentwicklung konzentrieren können. Dazu gehören die automatische Bereitstellung von GPU-Instances (P5, P4de, P4d, G5) auf der Grundlage der Modellgröße und der Schulungsanforderungen, vorab optimierte Trainingsrezepte, die Best Practices für jede Anpassungstechnik beinhalten, Echtzeitüberwachung mit Live-Metriken und Protokollen, auf die über die Benutzeroberfläche zugegriffen werden kann, und die automatische Bereinigung der Ressourcen nach Abschluss der Schulung, um die Kosten zu optimieren.

Techniken zur Modellanpassung

Umfassender Satz fortschrittlicher Methoden, darunter überwachte Feinabstimmung (SFT), direkte Präferenzoptimierung (DPO), verstärkendes Lernen mit verifizierbaren Belohnungen (RLVR), verstärkendes Lernen mit KI-Feedback (RLAIF) und mehrstufiges Verstärkungslernen (Multi-Turn-RL).

Benutzerdefiniertes Modell

Eine spezielle Version eines Basismodells, das an einen bestimmten Anwendungsfall angepasst wurde, indem es anhand Ihrer eigenen Daten trainiert wurde. Das Ergebnis ist ein KI-Modell, das die allgemeinen Funktionen des ursprünglichen Foundation-Modells beibehält und gleichzeitig domänenspezifisches Wissen, Terminologie, Stil oder Verhalten hinzufügt, die auf Ihre Anforderungen zugeschnitten sind.

Ressourcen zur Anpassung von KI-Modellen

Ressourcen und Artefakte, die zum Trainieren, Verfeinern und Evaluieren benutzerdefinierter Modelle während des Modellanpassungsprozesses verwendet werden. Zu diesen Ressourcen gehören Datensätze, bei denen es sich um Sammlungen von Trainingsbeispielen (Prompt-Response-Paare, domänenspezifischer Text oder beschriftete Daten) handelt, die zur Feinabstimmung eines Basismodells zum Erlernen bestimmter Verhaltensweisen, Kenntnisse oder Stile verwendet werden, und Evaluatoren, bei denen es sich um Mechanismen zur Bewertung und Verbesserung der Modellleistung handelt, entweder durch Belohnungsfunktionen (codebasierte Logik, die Modellergebnisse anhand bestimmter Kriterien bewertet, die beim RLVR-Training und bei der Bewertung benutzerdefinierter Scorer verwendet werden) oder Belohnungsaufforderungen (Anweisungen in natürlicher Sprache, anhand derer ein LLM die Qualität der Modellantworten beurteilen kann, die bei der Ausbildung und LLM-as-a-judge Bewertung von RLAIF verwendet werden).

Modellpaketgruppe

Ein Sammelcontainer, der alle protokollierten Modelle aus Trainingsaufträgen nachverfolgt und einen zentralen Speicherort für Modellversionen und deren Herkunft bietet.

Protokolliertes Modell

Die Ausgabe, die von der SageMaker KI bei der Ausführung serverloser Trainingsjobs erstellt wird. Dies kann ein fein abgestimmtes Modell (erfolgreicher Job), ein Checkpoint (fehlgeschlagener Job mit Checkpoint) oder zugehörige Metadaten (fehlgeschlagener Job ohne Checkpoint) sein.

Registriertes Modell

Ein protokolliertes Modell, das für formelle Nachverfolgungs- und Verwaltungszwecke gekennzeichnet wurde und das ein vollständiges Herkunfts- und Lebenszyklusmanagement ermöglicht.

Abstammung

Die automatisch erfassten Beziehungen zwischen Trainingsaufträgen, Eingabedatensätzen, Ausgabemodellen, Evaluierungsaufträgen und Bereitstellungen in SageMaker AI und Amazon Bedrock.

Cross-account teilen

Die Möglichkeit, Modelle, Datensätze und Evaluatoren mithilfe von AWS Resource Access Manager (RAM) AWS kontoübergreifend gemeinsam zu nutzen und gleichzeitig den vollständigen Überblick über die Herkunft zu wahren.

Benutzeroberflächen

Amazon SageMaker AI bietet mehrere Schnittstellen für die Modellanpassung, sodass Sie den Ansatz wählen können, der am besten zu Ihrem Arbeitsablauf und Ihrem Fachwissen passt. Sie können Modelle programmgesteuert mithilfe von APIs anpassen, die über das SageMaker AI Python SDK verfügbar sind, intuitive Benutzeroberflächen in Studio für visuelle Workflows zur Modellanpassung nutzen oder agentengesteuerte Workflows direkt in Ihrer IDE und dem Programmierassistenten Ihrer Wahl verwenden, um einen interaktiven, dialogorientierten Ansatz bei der Modellentwicklung zu nutzen, der Amazon AI Skills nutzt. SageMaker

Preise

Preisdetails finden Sie auf der Preisseite (Registerkarte Modellanpassung).