Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Toolkit AI yang bertanggung jawab dan moderasi konten

Toolkit AI yang bertanggung jawab

Nova Forge menyediakan Toolkit AI yang Bertanggung Jawab yang mencakup data pelatihan dan evaluasi untuk menyelaraskan model dengan pedoman AI Amazon Nova yang bertanggung jawab selama proses pelatihan, dan kontrol runtime untuk memoderasi respons model selama inferensi.

Data pelatihan — Kasus dan skenario yang menekankan prinsip-prinsip AI yang bertanggung jawab, pertimbangan keselamatan, dan penyebaran teknologi yang bertanggung jawab tersedia untuk pencampuran data untuk menyelaraskan model secara bertanggung jawab selama pra-pelatihan lanjutan.

Evalu asi — Evaluasi yang menguji kemampuan model untuk mendeteksi dan menolak konten yang tidak pantas, berbahaya, atau salah tersedia sebagai tugas tolok ukur untuk menentukan delta antara kinerja model dasar dan kinerja model khusus.

Kontrol runtime — Secara default, runtime Amazon Nova mengontrol respons model moderat selama inferensi. Untuk mengubah kontrol runtime ini, minta Pengaturan Moderasi Konten yang Dapat Disesuaikan Amazon Nova dengan menghubungi manajer AWS akun.

Keselamatan adalah tanggung jawab bersama antara AWS dan penggunanya. Mengubah model dasar atau menggunakan pra-pelatihan berkelanjutan untuk meningkatkan kinerja pada kasus penggunaan tertentu dapat berdampak pada keamanan, keadilan, dan properti lain dari model baru. Metode adaptasi yang kuat meminimalkan perubahan keamanan, keadilan, dan perlindungan lain yang dibangun ke dalam model dasar sambil meminimalkan dampak pada kinerja model untuk tugas-tugas yang tidak disesuaikan untuk model. End-to-end pengujian aplikasi pada kumpulan data yang mewakili kasus penggunaan diperlukan untuk menentukan apakah hasil pengujian memenuhi harapan spesifik tentang keamanan, keadilan, dan properti lainnya, serta efektivitas keseluruhan. Untuk informasi selengkapnya, lihat Panduan Penggunaan AI yang Bertanggung Jawab Amazon Web Services, Kebijakan AI yang Bertanggung Jawab Amazon Web Services, Kebijakan Penggunaan yang Dapat Diterima Amazon Web Services, dan Ketentuan Layanan Amazon Web Services.