Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
IA responsabile
Impostazioni di moderazione dei contenuti: i clienti di Amazon Nova Forge hanno accesso alle impostazioni di moderazione dei contenuti personalizzabili (CCMS) per i modelli Amazon Nova Lite 1.0 e Pro 1.0. Il CCMS consente di regolare i controlli di moderazione dei contenuti per allinearli ai requisiti aziendali specifici, mantenendo al contempo le principali misure di protezione dell'IA responsabile. Per determinare se il tuo caso d'uso aziendale è idoneo per il CCMS, contatta il tuo account manager di Amazon Web Services.
Amazon Nova Forge fornisce un kit di strumenti per l'IA responsabile che include dati di formazione, benchmark di valutazione e controlli di runtime per aiutarti ad allineare i tuoi modelli alle linee guida sull'IA responsabile di Amazon Nova.
Dati di formazione: la categoria «RAI» nella combinazione di dati contiene casi e scenari che enfatizzano i principi dell'IA responsabile, le considerazioni sulla sicurezza e l'implementazione responsabile della tecnologia. Utilizzali per allineare i tuoi modelli in modo responsabile durante la fase preliminare continua.
Valutazioni: sono disponibili attività di benchmark per testare la capacità del modello di rilevare e rifiutare contenuti inappropriati, dannosi o errati. Usa queste valutazioni per misurare la differenza tra le prestazioni del modello base e le prestazioni del tuo modello personalizzato.
Controlli di runtime: per impostazione predefinita, il runtime di Amazon Nova controlla le risposte moderate del modello durante l'inferenza. Per modificare questi controlli in base al tuo caso aziendale specifico, richiedi le impostazioni di moderazione dei contenuti personalizzabili (CCMS) contattando il tuo account manager di Amazon Web Services.
Responsabilità condivisa per la sicurezza
La sicurezza è una responsabilità condivisa tra Amazon Web Services e i nostri clienti. La modifica del modello base o l'utilizzo di una formazione preliminare continua per migliorare le prestazioni in un caso d'uso specifico può influire sulla sicurezza, sull'equità e su altre proprietà del nuovo modello.
Utilizziamo un solido metodo di adattamento per ridurre al minimo le modifiche alla sicurezza, all'equità e ad altre protezioni integrate nei nostri modelli di base, riducendo al minimo l'impatto sulle prestazioni del modello per le attività per le quali il modello non è stato personalizzato.
Sei responsabile per:
End-to-end test delle loro applicazioni su set di dati rappresentativi dei loro casi d'uso
Decidere se i risultati dei test soddisfano le loro specifiche aspettative di sicurezza, equità e altre proprietà, nonché l'efficacia complessiva
Per ulteriori informazioni, consulta la Guida all'uso responsabile dell'IA di Amazon Web Services, la Politica sull'IA responsabile di Amazon Web Services, la Politica sull'uso AWS accettabile e i Termini di AWS servizio per i servizi che intendi utilizzare.
Impostazioni di moderazione dei contenuti (CCMS) personalizzabili
Il CCMS consente di adattare i controlli in base ai requisiti aziendali mantenendo i controlli essenziali e non configurabili che garantiscono un uso responsabile dell'IA.
Queste impostazioni consentono la generazione di contenuti attraverso tre configurazioni disponibili:
Solo sicurezza
Sicurezza, contenuti sensibili ed equità combinati
Tutte le categorie combinate
Le quattro categorie di moderazione dei contenuti sono:
Sicurezza: include attività pericolose, armi e sostanze controllate
Contenuti sensibili: includono volgarità, nudità e bullismo
Equità: affronta pregiudizi e considerazioni culturali
Sicurezza: coinvolge criminalità informatica, malware e contenuti dannosi
Indipendentemente dalla configurazione CCMS, Amazon Nova applica controlli essenziali e non configurabili per garantire un uso responsabile dell'intelligenza artificiale, come i controlli per prevenire danni ai bambini e preservare la privacy.
Raccomandazioni per l'utilizzo del CCMS
Quando si utilizza il CCMS, si consiglia di utilizzare il Continuous Pre Training (CPT) e di iniziare da un checkpoint di allineamento pre-RAI (PRE-TRAINING-Early, PRE-TRAINING-Mid, o PRE-TRAINING-Final) anziché dal checkpoint. GA/FINAL Questi checkpoint non sono stati sottoposti a formazione sulla sicurezza né sono stati indirizzati verso comportamenti RAI specifici, il che consente di personalizzarli in modo più efficiente in base ai requisiti di moderazione dei contenuti.
Suggerimento: quando utilizzi CCMS con miscelazione dei dati, valuta la possibilità di modificare la percentuale della categoria «rai» nella tua configurazione nova_data per allinearla ai tuoi requisiti specifici di moderazione dei contenuti.
Disponibilità
Il CCMS è attualmente disponibile per i clienti approvati che utilizzano:
Modelli Nova Lite 1.0 e Pro 1.0
Inferenza Amazon Bedrock On-Demand
La regione us-east-1 (Virginia settentrionale)
Per abilitare il CCMS per i tuoi modelli Forge, contatta il tuo account manager Amazon Web Services.
