Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verantwortungsbewusstes KI-Toolkit und Inhaltsmoderation
Verantwortungsbewusstes KI-Toolkit
Nova Forge bietet ein Toolkit für verantwortungsvolle KI, das Trainings- und Bewertungsdaten enthält, um Modelle während des Trainingsprozesses an den Richtlinien von Amazon Nova für verantwortungsvolle KI auszurichten, sowie Laufzeitkontrollen, um die Reaktionen der Modelle während der Inferenz zu moderieren.
Trainingsdaten — Fälle und Szenarien, in denen verantwortungsvolle KI-Prinzipien, Sicherheitsüberlegungen und der verantwortungsvolle Einsatz von Technologie im Vordergrund stehen, stehen zur Verfügung, sodass Daten gemischt werden können, um die Modelle während der weiteren Trainingsvorbereitung verantwortungsbewusst aufeinander abzustimmen.
Evaluationen — Evaluationen, die die Fähigkeit des Modells testen, unangemessene, schädliche oder falsche Inhalte zu erkennen und abzulehnen, sind als Benchmark-Aufgabe verfügbar, um den Unterschied zwischen der Leistung des Basismodells und der Leistung des benutzerdefinierten Modells zu ermitteln.
Laufzeitkontrollen — Die Laufzeitsteuerung von Amazon Nova steuert standardmäßig moderate Modellreaktionen während der Inferenz. Um diese Laufzeitsteuerungen zu ändern, fordern Sie die anpassbaren Einstellungen für die Inhaltsmoderation von Amazon Nova an, indem Sie sich an einen Amazon Web Services-Kundenbetreuer wenden.
Die Sicherheit liegt in der gemeinsamen Verantwortung von Amazon Web Services und seinen Benutzern. Eine Änderung des Basismodells oder kontinuierliche Vorschulungen zur Verbesserung der Leistung in einem bestimmten Anwendungsfall können sich auf die Sicherheit, Fairness und andere Eigenschaften des neuen Modells auswirken. Eine robuste Anpassungsmethode minimiert Änderungen an den in den Basismodellen integrierten Sicherheits-, Fairness- und anderen Schutzmaßnahmen und minimiert gleichzeitig die Auswirkungen auf die Modellleistung bei Aufgaben, für die das Modell nicht maßgeschneidert wurde. End-to-end Das Testen von Anwendungen anhand von Datensätzen, die für Anwendungsfälle repräsentativ sind, ist erforderlich, um festzustellen, ob die Testergebnisse bestimmte Erwartungen in Bezug auf Sicherheit, Fairness und andere Eigenschaften sowie die allgemeine Effektivität erfüllen. Weitere Informationen finden Sie im Leitfaden zur verantwortungsvollen Verwendung von KI von Amazon Web Services, in der Richtlinie für verantwortungsvolle KI von Amazon Web Services, in der Richtlinie zur zulässigen Nutzung von Amazon Web Services und in den Nutzungsbedingungen von Amazon Web Services.
Individuell anpassbare Moderation der Inhalte
Anpassbare Einstellungen für die Inhaltsmoderation (CCMS) ermöglichen die Anpassung der Kontrollen, die für die Geschäftsanforderungen relevant sind, und behalten gleichzeitig wichtige, nicht konfigurierbare Kontrollen bei, um einen verantwortungsvollen Umgang mit KI zu gewährleisten.
Diese Einstellungen ermöglichen die Generierung von Inhalten in drei verfügbaren Konfigurationen:
Nur Sicherheit
Sicherheit, vertrauliche Inhalte und Fairness kombiniert
Alle Kategorien zusammen
Die vier Kategorien für die Inhaltsmoderation sind:
-
Sicherheit — Umfasst gefährliche Aktivitäten, Waffen und kontrollierte Substanzen
-
Sensible Inhalte — Dazu gehören Obszönitäten, Nacktheit und Mobbing
-
Fairness — Geht auf Vorurteile und kulturelle Überlegungen ein
-
Sicherheit — Beinhaltet Cyberkriminalität, Malware und bösartige Inhalte
Unabhängig von Ihrer CCMS-Konfiguration setzt Amazon Nova grundlegende, nicht konfigurierbare Kontrollen durch, um einen verantwortungsvollen Umgang mit KI zu gewährleisten, z. B. Kontrollen zur Vermeidung von Schäden für Kinder und zum Schutz der Privatsphäre.
Wenn Sie CCMS verwenden, empfehlen wir, Continued Pre-Training (CPT) zu verwenden und mit einem Checkpoint zu beginnen, der vor der RAI-Ausrichtung durchgeführt wurde (nur teilweise oder vollständig vortrainierter Text), anstatt am vollständig ausgerichteten Produktions-Checkpoint. Diese Checkpoints wurden weder einer Sicherheitsschulung unterzogen noch wurden sie auf bestimmte RAI-Verhaltensweisen hin gelenkt, sodass Sie sie effizienter an Ihre Anforderungen an die Inhaltsmoderation anpassen können.
Tipp
Wenn Sie CCMS mit Datenmischung verwenden, sollten Sie erwägen, den Prozentsatz der Kategorie „rai“ in Ihrer nova_data-Konfiguration an Ihre spezifischen Anforderungen an die Inhaltsmoderation anzupassen.
Verfügbarkeit
CCMS ist derzeit für zugelassene Kunden verfügbar, die Folgendes verwenden:
Amazon Nova Lite 1.0- und Pro 1.0-Modelle
Amazon Bedrock-Inferenz On-Demand
Die Region US-East-1 (Nord-Virginia)
Um CCMS für Ihre Forge-Modelle zu aktivieren, wenden Sie sich an einen Amazon Web Services-Kundenbetreuer.
