Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Toolkit di intelligenza artificiale responsabile e moderazione dei contenuti

Responsible AI Toolkit

Nova Forge fornisce un toolkit di intelligenza artificiale responsabile che include dati di formazione e valutazione per allineare i modelli alle linee guida sull'intelligenza artificiale responsabile di Amazon Nova durante il processo di formazione e controlli di runtime per moderare le risposte del modello durante l'inferenza.

Dati di formazione: i casi e gli scenari che enfatizzano i principi dell'IA responsabile, le considerazioni sulla sicurezza e l'implementazione responsabile della tecnologia sono disponibili per la combinazione dei dati per allineare i modelli in modo responsabile durante la fase preliminare continua.

Valutazioni: le valutazioni che testano la capacità del modello di rilevare e rifiutare contenuti inappropriati, dannosi o errati sono disponibili come attività di riferimento per determinare il divario tra le prestazioni del modello base e le prestazioni del modello personalizzato.

Controlli di runtime: per impostazione predefinita, il runtime di Amazon Nova controlla le risposte moderate del modello durante l'inferenza. Per modificare questi controlli di runtime, richiedi le impostazioni personalizzabili di moderazione dei contenuti di Amazon Nova contattando un account manager di Amazon Web Services.

La sicurezza è una responsabilità condivisa tra Amazon Web Services e i suoi utenti. La modifica del modello base o l'utilizzo di una formazione preliminare continua per migliorare le prestazioni in un caso d'uso specifico può influire sulla sicurezza, sull'equità e su altre proprietà del nuovo modello. Un solido metodo di adattamento riduce al minimo le modifiche alla sicurezza, all'equità e ad altre protezioni integrate nei modelli base, riducendo al minimo l'impatto sulle prestazioni del modello per le attività per le quali il modello non è stato personalizzato. End-to-end È necessario testare le applicazioni su set di dati rappresentativi dei casi d'uso per determinare se i risultati dei test soddisfano le aspettative specifiche di sicurezza, equità e altre proprietà, nonché l'efficacia complessiva. Per ulteriori informazioni, consulta la Guida all'uso responsabile dell'IA di Amazon Web Services, la Politica sull'IA responsabile di Amazon Web Services, la Politica sull'uso accettabile di Amazon Web Services e i Termini del servizio di Amazon Web Services.

Moderazione dei contenuti personalizzabile

Le impostazioni di moderazione dei contenuti (CCMS) personalizzabili consentono di regolare i controlli in base ai requisiti aziendali mantenendo i controlli essenziali e non configurabili per garantire un uso responsabile dell'IA.

Queste impostazioni consentono la generazione di contenuti attraverso tre configurazioni disponibili:

Le quattro categorie di moderazione dei contenuti sono:

Indipendentemente dalla configurazione CCMS, Amazon Nova applica controlli essenziali e non configurabili per garantire un uso responsabile dell'IA, come i controlli per prevenire danni ai bambini e preservare la privacy.

Quando si utilizza il CCMS, consigliamo di utilizzare Continued Pre-Training (CPT) e di iniziare da un checkpoint di allineamento pre-RAI (solo testo parzialmente o completamente preformato) anziché da un checkpoint di produzione completamente allineato. Questi punti di controllo non sono stati sottoposti a formazione sulla sicurezza né sono stati indirizzati verso comportamenti RAI specifici, consentendoti di personalizzarli in modo più efficiente in base ai tuoi requisiti di moderazione dei contenuti.

Disponibilità

Il CCMS è attualmente disponibile per i clienti approvati che utilizzano:

Per abilitare il CCMS per i tuoi modelli Forge, contatta un account manager di Amazon Web Services.