Wichtige Begriffe

Foundation Model (FM) — Ein KI-Modell mit einer großen Anzahl von Parametern, das auf einer riesigen Menge unterschiedlicher Daten trainiert wurde. Ein Basismodell kann eine Vielzahl von Antworten für eine Vielzahl von Anwendungsfällen generieren. Foundation-Modelle können Text oder Bilder generieren und Eingaben auch in Einbettungen umwandeln. Bevor Sie ein Amazon Bedrock Foundation-Modell verwenden können, müssen Sie Zugriff beantragen. Weitere Informationen zu Fundamentmodellen finden Sie unterUnterstützte Basismodelle in Amazon Bedrock.

Basismodell — Ein Basismodell, das von einem Anbieter als Paket geliefert wird und sofort einsatzbereit ist. Amazon Bedrock bietet eine Vielzahl branchenführender Fundamentmodelle von führenden Anbietern. Weitere Informationen finden Sie unter Unterstützte Basismodelle in Amazon Bedrock.

Modellinferenz — Der Prozess, bei dem ein Basismodell aus einer bestimmten Eingabe (Aufforderung) eine Ausgabe (Antwort) generiert. Weitere Informationen finden Sie unter Senden Sie Eingabeaufforderungen und generieren Sie Antworten mit Modellinferenz.

Aufforderung — Eine Eingabe, die einem Modell zur Verfügung gestellt wird, um es zu veranlassen, eine angemessene Antwort oder Ausgabe für die Eingabe zu generieren. Eine Textaufforderung kann beispielsweise aus einer einzigen Zeile bestehen, auf die das Modell reagieren muss, oder sie kann detaillierte Anweisungen oder eine Aufgabe enthalten, die das Modell ausführen muss. Die Aufforderung kann den Kontext der Aufgabe, Beispiele für Ausgaben oder Text enthalten, den ein Modell in seiner Antwort verwenden soll. Eingabeaufforderungen können verwendet werden, um Aufgaben wie Klassifizierung, Beantwortung von Fragen, Codegenerierung, kreatives Schreiben und mehr auszuführen. Weitere Informationen finden Sie unter Schnelle technische Konzepte.

Token — Eine Abfolge von Zeichen, die ein Modell als eine einzige Bedeutungseinheit interpretieren oder vorhersagen kann. Bei Textmodellen könnte ein Token beispielsweise nicht nur einem Wort entsprechen, sondern auch einem Teil eines Wortes mit grammatikalischer Bedeutung (wie „-ed“), einem Satzzeichen (wie „?“) oder eine gebräuchliche Phrase (wie „viel“).

Modellparameter — Werte, die ein Modell und sein Verhalten bei der Interpretation von Eingaben und der Generierung von Antworten definieren. Modellparameter werden von Anbietern gesteuert und aktualisiert. Sie können Modellparameter auch aktualisieren, um im Rahmen der Modellanpassung ein neues Modell zu erstellen.

Inferenzparameter — Werte, die während der Modellinferenz angepasst werden können, um eine Antwort zu beeinflussen. Inferenzparameter können beeinflussen, wie unterschiedlich die Antworten sind, und sie können auch die Länge einer Reaktion oder das Auftreten bestimmter Sequenzen einschränken. Weitere Informationen und Definitionen bestimmter Inferenzparameter finden Sie unter. Beeinflussen Sie die Antwortgenerierung mit Inferenzparametern

Playground — Eine benutzerfreundliche grafische Oberfläche, AWS Management Console in der Sie mit der Ausführung von Modellinferenzen experimentieren können, um sich mit Amazon Bedrock vertraut zu machen. Verwenden Sie den Playground, um die Auswirkungen verschiedener Modelle, Konfigurationen und Inferenzparameter auf die Antworten zu testen, die für verschiedene von Ihnen eingegebene Eingabeaufforderungen generiert wurden. Weitere Informationen finden Sie unter Generieren Sie Antworten in der Konsole mithilfe von Playgrounds.

Einbettung — Der Prozess der Verdichtung von Informationen durch Umwandlung von Eingaben in einen Vektor numerischer Werte, sogenannte Einbettungen, um die Ähnlichkeit zwischen verschiedenen Objekten mithilfe einer gemeinsamen numerischen Darstellung zu vergleichen. So können beispielsweise Sätze verglichen werden, um ihre Bedeutungsähnlichkeit zu ermitteln, Bilder können verglichen werden, um die visuelle Ähnlichkeit zu ermitteln, oder Text und Bild können verglichen werden, um festzustellen, ob sie zueinander relevant sind. Sie können Text- und Bildeingaben auch zu einem gemittelten Einbettungsvektor kombinieren, wenn dies für Ihren Anwendungsfall relevant ist. Weitere Informationen erhalten Sie unter Senden Sie Eingabeaufforderungen und generieren Sie Antworten mit Modellinferenz und Rufen Sie Daten ab und generieren Sie KI-Antworten mit Amazon Bedrock Knowledge Bases.

Orchestrierung — Der Prozess der Koordination zwischen Basismodellen und Unternehmensdaten und -anwendungen zur Ausführung einer Aufgabe. Weitere Informationen finden Sie unter Automatisieren Sie Aufgaben in Ihrer Anwendung mithilfe von KI-Agenten.

Agent — Eine Anwendung, die mithilfe eines Basismodells Orchestrierungen durchführt, indem sie Eingaben zyklisch interpretiert und Ausgaben erzeugt. Ein Agent kann verwendet werden, um Kundenanfragen zu bearbeiten. Weitere Informationen finden Sie unter Automatisieren Sie Aufgaben in Ihrer Anwendung mithilfe von KI-Agenten.

Erweiterte Generierung zum Abrufen (RAG) — Der Vorgang, bei dem Informationen aus einer Datenquelle abgefragt und abgerufen werden, um eine generierte Antwort auf eine Aufforderung zu ergänzen. Weitere Informationen finden Sie unter Rufen Sie Daten ab und generieren Sie KI-Antworten mit Amazon Bedrock Knowledge Bases.

Modellanpassung — Der Prozess, bei dem Trainingsdaten verwendet werden, um die Modellparameterwerte in einem Basismodell anzupassen, um ein benutzerdefiniertes Modell zu erstellen. Beispiele für Modellanpassungen sind die Feinabstimmung, bei der beschriftete Daten (Eingaben und entsprechende Ausgaben) verwendet werden, und Continued Pre-Training, bei dem unbeschriftete Daten (nur Eingaben) zur Anpassung der Modellparameter verwendet werden. Weitere Informationen zu den in Amazon Bedrock verfügbaren Techniken zur Modellanpassung finden Sie unterPassen Sie Ihr Modell an, um seine Leistung für Ihren Anwendungsfall zu verbessern.

Hyperparameter — Werte, die für die Modellanpassung angepasst werden können, um den Trainingsprozess und damit das benutzerdefinierte Ausgabemodell zu steuern. Weitere Informationen und Definitionen bestimmter Hyperparameter finden Sie unter. Hyperparameter für benutzerdefinierte Modelle

Modellevaluierung — Der Prozess der Bewertung und des Vergleichs der Modellergebnisse, um das Modell zu bestimmen, das für einen Anwendungsfall am besten geeignet ist. Weitere Informationen finden Sie unter Bewerten Sie die Leistung der Amazon Bedrock-Ressourcen.

Bereitgestellter Durchsatz — Ein Durchsatzniveau, das Sie für ein Basismodell oder ein benutzerdefiniertes Modell erwerben, um die Menge und/oder Geschwindigkeit der bei der Modellinferenz verarbeiteten Token zu erhöhen. Wenn Sie Provisioned Throughput für ein Modell erwerben, wird ein bereitgestelltes Modell erstellt, das zur Durchführung von Modellinferenzen verwendet werden kann. Weitere Informationen finden Sie unter Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock.