Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Toolkit AI yang bertanggung jawab dan moderasi konten
Toolkit AI yang Bertanggung Jawab
Nova Forge menyediakan Toolkit AI yang Bertanggung Jawab yang mencakup data pelatihan dan evaluasi untuk menyelaraskan model dengan pedoman AI Amazon Nova yang bertanggung jawab selama proses pelatihan, dan kontrol runtime untuk memoderasi respons model selama inferensi.
Data pelatihan — Kasus dan skenario yang menekankan prinsip-prinsip AI yang bertanggung jawab, pertimbangan keselamatan, dan penyebaran teknologi yang bertanggung jawab tersedia untuk pencampuran data untuk menyelaraskan model secara bertanggung jawab selama pra-pelatihan lanjutan.
Evalu asi — Evaluasi yang menguji kemampuan model untuk mendeteksi dan menolak konten yang tidak pantas, berbahaya, atau salah tersedia sebagai tugas tolok ukur untuk menentukan delta antara kinerja model dasar dan kinerja model khusus.
Kontrol runtime — Secara default, runtime Amazon Nova mengontrol respons model moderat selama inferensi. Untuk mengubah kontrol runtime ini, minta Pengaturan Moderasi Konten yang Dapat Disesuaikan Amazon Nova dengan menghubungi manajer akun Amazon Web Services.
Keselamatan adalah tanggung jawab bersama antara Amazon Web Services dan penggunanya. Mengubah model dasar atau menggunakan pra-pelatihan berkelanjutan untuk meningkatkan kinerja pada kasus penggunaan tertentu dapat berdampak pada keamanan, keadilan, dan properti lain dari model baru. Metode adaptasi yang kuat meminimalkan perubahan keamanan, keadilan, dan perlindungan lain yang dibangun ke dalam model dasar sambil meminimalkan dampak pada kinerja model untuk tugas-tugas yang tidak disesuaikan untuk model. End-to-end pengujian aplikasi pada kumpulan data yang mewakili kasus penggunaan diperlukan untuk menentukan apakah hasil pengujian memenuhi harapan spesifik tentang keamanan, keadilan, dan properti lainnya, serta efektivitas keseluruhan. Untuk informasi selengkapnya, lihat Panduan Penggunaan AI yang Bertanggung Jawab Amazon Web Services, Kebijakan AI yang Bertanggung Jawab Amazon Web Services, Kebijakan Penggunaan yang Dapat Diterima Amazon Web Services, dan Ketentuan Layanan Amazon Web Services.
Moderasi konten yang dapat disesuaikan
Pengaturan moderasi konten yang dapat disesuaikan (CCMS) memungkinkan penyesuaian kontrol yang relevan dengan persyaratan bisnis sambil mempertahankan kontrol penting yang tidak dapat dikonfigurasi untuk memastikan penggunaan AI yang bertanggung jawab.
Pengaturan ini memungkinkan pembuatan konten melalui tiga konfigurasi yang tersedia:
Hanya keamanan
Keselamatan, konten sensitif, dan keadilan digabungkan
Semua kategori digabungkan
Empat kategori moderasi konten adalah:
-
Keselamatan — Meliputi aktivitas berbahaya, senjata, dan zat yang dikendalikan
-
Konten sensitif — Termasuk kata-kata kotor, ketelanjangan, dan intimidasi
-
Keadilan — Mengatasi bias dan pertimbangan budaya
-
Keamanan — Melibatkan kejahatan dunia maya, malware, dan konten berbahaya
Terlepas dari konfigurasi CCMS Anda, Amazon Nova memberlakukan kontrol penting yang tidak dapat dikonfigurasi untuk memastikan penggunaan AI yang bertanggung jawab, seperti kontrol untuk mencegah kerusakan pada anak-anak dan menjaga privasi.
Saat menggunakan CCMS, sebaiknya gunakan Continued Pre-Training (CPT) dan mulai dari pos pemeriksaan penyelarasan pra-RAI (sebagian atau seluruhnya hanya teks pra-terlatih) daripada pos pemeriksaan produksi yang selaras sepenuhnya. Pos pemeriksaan ini belum menjalani pelatihan keselamatan atau diarahkan ke perilaku RAI tertentu, memungkinkan Anda untuk menyesuaikannya dengan lebih efisien dengan persyaratan moderasi konten Anda.
Tip
Saat menggunakan CCMS dengan pencampuran data, pertimbangkan untuk menyesuaikan persentase kategori “rai” dalam konfigurasi nova_data agar sesuai dengan persyaratan moderasi konten spesifik Anda.
Ketersediaan
CCMS saat ini tersedia untuk pelanggan yang disetujui menggunakan:
Model Amazon Nova Lite 1.0 dan Pro 1.0
Inferensi batuan dasar On-Demand Amazon
Wilayah us-timur-1 (Virginia Utara)
Untuk mengaktifkan CCMS untuk model Forge Anda, hubungi manajer akun Amazon Web Services.
