Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Boîte à outils d'IA responsable et modération du contenu

Boîte à outils d'IA responsable

Nova Forge fournit une boîte à outils d'IA responsable qui comprend des données de formation et d'évaluation pour aligner les modèles sur les directives d'Amazon Nova en matière d'IA responsable pendant le processus de formation, ainsi que des contrôles d'exécution pour modérer les réponses des modèles lors de l'inférence.

Données de formation — Des cas et des scénarios mettant l'accent sur les principes responsables de l'IA, les considérations de sécurité et le déploiement responsable de technologies sont disponibles pour le mélange des données afin d'aligner les modèles de manière responsable pendant la formation préalable continue.

Évaluations  : les évaluations testant la capacité du modèle à détecter et à rejeter le contenu inapproprié, préjudiciable ou incorrect sont disponibles en tant que tâche de référence pour déterminer l'écart entre les performances du modèle de base et les performances du modèle personnalisé.

Contrôles d'exécution  : par défaut, le moteur d'exécution d'Amazon Nova contrôle les réponses modérées du modèle lors de l'inférence. Pour modifier ces contrôles d'exécution, demandez les paramètres de modération de contenu personnalisables d'Amazon Nova en contactant un responsable de compte Amazon Web Services.

La sécurité est une responsabilité partagée entre Amazon Web Services et ses utilisateurs. La modification du modèle de base ou le recours à une formation préalable continue pour améliorer les performances dans un cas d'utilisation spécifique peut avoir un impact sur la sécurité, l'équité et d'autres propriétés du nouveau modèle. Une méthode d'adaptation robuste minimise les modifications apportées à la sécurité, à l'équité et aux autres protections intégrées aux modèles de base tout en minimisant l'impact sur les performances du modèle pour les tâches pour lesquelles le modèle n'a pas été personnalisé. End-to-end il est nécessaire de tester les applications sur des ensembles de données représentatifs des cas d'utilisation pour déterminer si les résultats des tests répondent à des attentes spécifiques en matière de sécurité, d'équité et d'autres propriétés, ainsi qu'en termes d'efficacité globale. Pour plus d'informations, consultez le Guide d'utilisation responsable de l'IA d'Amazon Web Services, la Politique d'utilisation responsable de l'IA d'Amazon Web Services, la Politique d'utilisation acceptable d'Amazon Web Services et les Conditions d'utilisation d'Amazon Web Services.

Modération de contenu personnalisable

Les paramètres de modération de contenu personnalisables (CCMS) permettent d'ajuster les contrôles en fonction des besoins de l'entreprise tout en conservant des contrôles essentiels et non configurables pour garantir une utilisation responsable de l'IA.

Ces paramètres permettent de générer du contenu via trois configurations disponibles :

Les quatre catégories de modération de contenu sont les suivantes :

Quelle que soit la configuration de votre CCMS, Amazon Nova applique des contrôles essentiels et non configurables pour garantir une utilisation responsable de l'IA, tels que des contrôles visant à éviter de blesser les enfants et à préserver la confidentialité.

Lorsque vous utilisez CCMS, nous vous recommandons d'utiliser Continued Pre-Training (CPT) et de partir d'un point de contrôle d'alignement pré-RAI (texte partiellement ou entièrement pré-entraîné uniquement) plutôt que du point de contrôle de production entièrement aligné. Ces points de contrôle n'ont pas fait l'objet d'une formation en matière de sécurité et n'ont pas été orientés vers des comportements RAI spécifiques, ce qui vous permet de les personnaliser plus efficacement en fonction de vos exigences de modération de contenu.

Disponibilité

Le CCMS est actuellement disponible pour les clients approuvés utilisant :

Pour activer le CCMS pour vos modèles Forge, contactez un responsable de compte Amazon Web Services.