Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Menggunakan moderasi gambar dan video APIs
Di Amazon Rekognition API Image, Anda dapat mendeteksi konten yang tidak pantas, tidak diinginkan, atau menyinggung secara sinkron DetectModerationLabelsmenggunakan dan operasi secara asinkron. StartMediaAnalysisJobGetMediaAnalysisJob Anda dapat menggunakan Amazon Rekognition Video API untuk mendeteksi konten tersebut secara asinkron dengan menggunakan dan operasi. StartContentModerationGetContentModeration
Kategori Label
Amazon Rekognition menggunakan taksonomi hierarkis tiga tingkat untuk memberi label kategori konten yang tidak pantas, tidak diinginkan, atau menyinggung. Setiap label dengan Taksonomi Level 1 (L1) memiliki sejumlah label Taksonomi Level 2 (L2), dan beberapa label Taksonomi Level 2 mungkin memiliki label Taksonomi Level 3 (L3). Ini memungkinkan klasifikasi hierarkis konten.
Untuk setiap label moderasi yang terdeteksi, label API juga mengembalikanTaxonomyLevel, yang berisi level (1, 2, atau 3) yang dimiliki label tersebut. Misalnya, gambar dapat diberi label sesuai dengan kategorisasi berikut:
L1: Ketelanjangan Non-Eksplisit dari bagian Intim dan Ciuman, L2: Ketelanjangan Non-Eksplisit, L3: Ketelanjangan Tersirat.
catatan
Sebaiknya gunakan kategori L1 atau L2 untuk memoderasi konten Anda dan menggunakan kategori L3 hanya untuk menghapus konsep spesifik yang tidak ingin Anda moderasi (yaitu untuk mendeteksi konten yang mungkin tidak ingin Anda kategorikan sebagai konten yang tidak pantas, tidak diinginkan, atau menyinggung berdasarkan kebijakan moderasi Anda).
Tabel berikut menunjukkan hubungan antara tingkat kategori dan label yang mungkin untuk setiap tingkat. Untuk mengunduh daftar label moderasi, klik di sini.
| Kategori Tingkat Atas (L1) | Kategori Tingkat Kedua (L2) | Kategori Tingkat Ketiga (L3) | Ketentuan |
|---|---|---|---|
| Eksplisit | Ketelanjangan Eksplisit | Alat Kelamin Pria Terpapar | Alat kelamin pria manusia, termasuk penis (apakah ereksi atau lembek), skrotum, dan rambut kemaluan yang terlihat. Istilah ini berlaku dalam konteks yang melibatkan aktivitas seksual atau konten visual apa pun di mana alat kelamin pria ditampilkan baik seluruhnya atau sebagian. |
| Alat Kelamin Wanita Terpapar | Bagian luar dari sistem reproduksi wanita, meliputi vulva, vagina, dan rambut kemaluan yang dapat diamati. Istilah ini berlaku dalam skenario yang melibatkan aktivitas seksual atau konten visual apa pun di mana aspek-aspek anatomi wanita ini ditampilkan baik seluruhnya atau sebagian. | ||
| Bokong atau Anus Terpapar | Bokong atau anus manusia, termasuk kasus di mana bokong telanjang atau ketika mereka terlihat melalui pakaian tipis. Definisi ini secara khusus berlaku untuk situasi di mana bokong atau anus secara langsung dan sepenuhnya terlihat, tidak termasuk skenario di mana segala bentuk pakaian dalam atau pakaian memberikan cakupan lengkap atau sebagian. | ||
| Puting Wanita Terpapar | Puting wanita manusia, termasuk aerola yang terlihat sepenuhnya dan sebagian terlihat (area di sekitar puting susu) dan puting susu. | ||
| Aktivitas Seksual Eksplisit | N/A | Penggambaran tindakan seksual aktual atau simulasi yang mencakup hubungan seksual manusia, seks oral, serta stimulasi genital pria dan stimulasi genital wanita oleh bagian dan objek tubuh lainnya. Istilah ini juga mencakup ejakulasi atau cairan vagina pada bagian tubuh dan praktik erotis atau permainan peran yang melibatkan perbudakan, disiplin, dominasi dan ketundukan, dan sadomasokisme. | |
| Mainan Seks | N/A | Objek atau perangkat yang digunakan untuk rangsangan atau kesenangan seksual, misalnya, Dildo, vibrator, butt plug, beats, dll. | |
| Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman | Ketelanjangan Non-Eksplisit | Telanjang Kembali | Bagian posterior manusia di mana sebagian besar kulit terlihat dari leher ke ujung tulang belakang. Istilah ini tidak berlaku ketika punggung individu sebagian atau seluruhnya tersumbat. |
| Puting Pria Terpapar | Puting pria manusia, termasuk puting yang terlihat sebagian. | ||
| Bokong Terkena Sebagian | Bokong manusia yang terpapar sebagian. Istilah ini mencakup daerah bokong atau pipi bokong yang terlihat sebagian karena pakaian pendek, atau bagian atas celah anus yang terlihat sebagian. Istilah ini tidak berlaku untuk kasus-kasus di mana bokong sepenuhnya telanjang. | ||
| Payudara Wanita Terpapar Sebagian | Payudara wanita manusia yang terpapar sebagian di mana satu bagian dari dada wanita terlihat atau terbuka sementara tidak mengungkapkan seluruh payudaranya. Istilah ini berlaku ketika daerah lipatan dada bagian dalam terlihat atau ketika lipatan dada bagian bawah terlihat dengan puting sepenuhnya tertutup atau tersumbat. | ||
| Ketelanjangan Tersirat | Seseorang yang telanjang, baik topless atau tanpa dasar, tetapi dengan bagian intim seperti bokong, puting, atau alat kelamin tertutup, tersumbat, atau tidak sepenuhnya terlihat. | ||
| Bagian Intim yang Terhambat | Puting Wanita Terhambat | Penggambaran visual dari situasi di mana puting perempuan ditutupi oleh pakaian atau penutup buram, tetapi bentuknya terlihat jelas. | |
| Alat Kelamin Pria Terhambat | Penggambaran visual dari situasi di mana alat kelamin atau penis pria ditutupi oleh pakaian atau penutup buram, tetapi bentuknya terlihat jelas. Istilah ini berlaku ketika alat kelamin yang terhambat pada gambar berada dalam jarak dekat. | ||
| Berciuman di Bibir | N/A | Penggambaran bibir seseorang melakukan kontak dengan bibir orang lain. | |
| Pakaian Renang atau Pakaian Dalam | Pakaian Renang atau Pakaian Dalam Wanita | N/A | Pakaian manusia untuk pakaian renang wanita (misalnya, pakaian renang one-piece, bikini, tankinis, dll.) Dan pakaian dalam wanita (misalnya, bra, celana dalam, celana dalam, pakaian dalam, sandal jepit, dll.) |
| Pakaian Renang atau Pakaian Dalam Pria | N/A | Pakaian manusia untuk pakaian renang pria (misalnya, celana renang, celana pendek papan, celana renang, dll.) Dan pakaian dalam pria (misalnya, celana dalam, petinju, dll.) | |
| Kekerasan | Senjata | N/A | Instrumen atau perangkat yang digunakan untuk menyebabkan kerusakan atau kerusakan pada makhluk hidup, struktur, atau sistem. Ini termasuk senjata api (misalnya, senjata, senapan mesin, dll.), senjata tajam (misalnya, pedang, pisau, dll.), bahan peledak dan amunisi (misalnya, rudal, bom, peluru, dll.). |
| Kekerasan Grafis | Kekerasan Senjata | Penggunaan senjata untuk menyebabkan kerusakan, kerusakan, cedera, atau kematian bagi diri sendiri, individu lain, atau properti. | |
| Kekerasan Fisik | Tindakan yang menyebabkan kerusakan pada individu atau properti lain (misalnya, memukul, berkelahi, mencabut rambut, dll.) atau tindakan kekerasan lainnya yang melibatkan kerumunan atau banyak individu. | ||
| Menyakiti Diri Sendiri | Tindakan menyebabkan kerusakan pada diri sendiri, seringkali dengan memotong bagian tubuh seperti lengan atau kaki, di mana luka biasanya terlihat. | ||
| Darah & Gore | Representasi visual kekerasan pada seseorang, sekelompok individu, atau hewan, yang melibatkan luka terbuka, pertumpahan darah, dan bagian tubuh yang dimutilasi. | ||
| Ledakan dan Ledakan | Penggambaran ledakan api yang hebat dan merusak dengan asap tebal atau debu dan asap meletus dari tanah. | ||
| Secara Visual Mengganggu | Kematian dan Kurus Kurus | Badan yang Kurus | Tubuh manusia yang sangat kurus dan kurang gizi dengan pemborosan fisik yang parah dan penipisan otot dan jaringan lemak. |
| Mayat | Mayat manusia dalam bentuk tubuh yang dimutilasi, mayat gantung, atau kerangka. | ||
| Kecelakaan | Kecelakaan Udara | Insiden kendaraan udara, seperti pesawat terbang, helikopter, atau kendaraan terbang lainnya, yang mengakibatkan kerusakan, cedera, atau kematian. Istilah ini berlaku ketika bagian-bagian dari kendaraan udara terlihat. | |
| Obat-obatan & Tembakau | Produk | Pil | Meja atau kapsul kecil, padat, sering berbentuk bulat atau oval. Istilah ini berlaku untuk pil yang disajikan sebagai standalones, dalam botol, atau paket transparan dan tidak berlaku untuk penggambaran visual seseorang yang minum pil. |
| Obat-obatan & Perlengkapan Tembakau & Penggunaan | Merokok | Tindakan menghirup, menghembuskan napas, dan menyalakan zat yang terbakar termasuk rokok, cerutu, e-rokok, hookah, atau sendi. | |
| Alkohol | Penggunaan Alkohol | Minum | Tindakan minum minuman beralkohol dari botol atau gelas alkohol atau minuman keras. |
| Minuman Beralkohol | N/A | Tutup satu atau beberapa botol alkohol atau minuman keras, gelas atau mug dengan alkohol atau minuman keras, dan gelas atau mug dengan alkohol atau minuman keras yang dipegang oleh seseorang. Istilah ini tidak berlaku untuk individu yang minum dari botol atau gelas alkohol atau minuman keras. | |
| Tindakan Kasar | Jari Tengah | N/A | Penggambaran visual gerakan tangan dengan jari tengah diperpanjang ke atas sementara jari-jari lainnya dilipat ke bawah. |
| Judi | N/A | N/A | Tindakan berpartisipasi dalam permainan kesempatan untuk kesempatan memenangkan hadiah di kasino, misalnya, bermain kartu, blackjacks, roulette, mesin slot di kasino, dll. |
| Simbol Kebencian | Partai Nazi | N/A | Penggambaran visual simbol, bendera, atau gerakan yang terkait dengan Partai Nazi. |
| Supremasi Putih | N/A | Penggambaran visual simbol atau pakaian yang terkait dengan Ku Klux Klan (KKK) dan gambar dengan bendera konfederasi. | |
| Ekstremis | N/A | Gambar berisi bendera kelompok ekstremis dan teroris. |
Tidak setiap label dalam kategori L2 memiliki label yang didukung dalam kategori L3. Selain itu, label L3 di bawah label L2 “Produk” dan “Perlengkapan dan Penggunaan Obat dan Tembakau” tidak lengkap. Label L2 ini mencakup konsep di luar label L3 yang disebutkan dan dalam kasus seperti itu, hanya label L2 yang dikembalikan sebagai respons. API
Anda menentukan kesesuaian konten untuk aplikasi Anda. Misalnya, citra yang bersifat sugestif mungkin dapat diterima, namun citra yang mengandung ketelanjangan mungkin tidak. Untuk memfilter gambar, gunakan larik ModerationLabellabel yang dikembalikan oleh DetectModerationLabels (gambar) dan oleh GetContentModeration (video).
Jenis konten
APIDapat juga mengidentifikasi jenis konten animasi atau bergambar, dan jenis konten dikembalikan sebagai bagian dari respons:
Konten animasi termasuk video game dan animasi (misalnya, kartun, komik, manga, anime).
Konten bergambar termasuk menggambar, melukis, dan sketsa.
Kepercayaan
Anda dapat mengatur ambang batas kepercayaan yang digunakan Amazon Rekognition untuk mendeteksi konten yang tidak pantas dengan menentukan parameter input MinConfidence. Label tidak dikembalikan untuk konten yang tidak pantas yang terdeteksi dengan kepercayaan yang lebih rendah dari MinConfidence.
Menentukan nilai untuk MinConfidence itu kurang dari 50% kemungkinan akan mengembalikan sejumlah besar hasil positif palsu (yaitu penarikan yang lebih tinggi, presisi lebih rendah). Di sisi lain, menentukan MinConfidence di atas 50% kemungkinan akan mengembalikan jumlah hasil positif palsu yang lebih rendah (yaitu penarikan yang lebih rendah, presisi lebih tinggi). Jika Anda tidak menentukan nilai untuk MinConfidence, Amazon Rekognition mengembalikan label untuk konten yang tidak pantas yang terdeteksi dengan kepercayaan setidaknya 50%.
Label berisi array ModerationLabel dalam kategori sebelumnya, dan perkiraan kepercayaan dalam keakuratan konten yang dikenali. Label tingkat atas dikembalikan bersama dengan label tingkat kedua yang diidentifikasi. Misalnya, Amazon Rekognition mungkin mengembalikan “Ketelanjangan Eksplisit” dengan skor kepercayaan yang tinggi sebagai label tingkat atas. Itu mungkin cukup untuk kebutuhan pemfilteran Anda. Namun, jika perlu, Anda dapat menggunakan skor kepercayaan label tingkat kedua (seperti "Ketelanjangan Laki-Laki Grafis") untuk mendapatkan pemfilteran yang lebih terperinci. Sebagai contoh, lihat Mendeteksi citra yang tidak pantas.
Penentuan Versi
Baik Amazon Rekognition Image maupun Amazon Rekognition Video mengembalikan versi model deteksi moderasi yang digunakan untuk mendeteksi konten yang tidak pantas (ModerationModelVersion).
Menyortir dan Mengagregasi
Saat mengambil hasil dengan GetContentModeration, Anda dapat mengurutkan dan mengumpulkan hasil Anda.
Urutkan urutan - Array label yang dikembalikan diurutkan berdasarkan waktu. Untuk mengurutkan berdasarkan label, tentukan NAME dalam parameter input SortBy untuk GetContentModeration. Jika label muncul beberapa kali dalam video, akan ada beberapa contoh elemen. ModerationLabel
Informasi label - Elemen ModerationLabels array berisi ModerationLabel objek, yang pada gilirannya berisi nama label dan kepercayaan Amazon Rekognition dalam keakuratan label yang terdeteksi. Stempel waktu adalah waktu ModerationLabel terdeteksi, didefinisikan sebagai jumlah milidetik yang berlalu sejak awal video. Untuk hasil yang dikumpulkan berdasarkan video SEGMENTSStartTimestampMillis, DurationMillis strukturEndTimestampMillis, dan dikembalikan, yang menentukan waktu mulai, waktu akhir, dan durasi segmen masing-masing.
Agregasi - Menentukan bagaimana hasil dikumpulkan ketika dikembalikan. Defaultnya adalah agregat denganTIMESTAMPS. Anda juga dapat memilih untuk agregat menurutSEGMENTS, yang mengumpulkan hasil melalui jendela waktu. Hanya label yang terdeteksi selama segmen yang dikembalikan.
Status adaptor Moderasi Kustom
Adaptor Moderasi Kustom dapat berada dalam salah satu status berikut: TRAINING _IN_PROGRESS, _, TRAINING _,COMPLETED,, TRAINING atau. FAILED DELETING DEPRECATED EXPIRED Untuk penjelasan lengkap tentang status adaptor ini, lihat Mengelola adaptor.
catatan
Amazon Rekognition bukanlah otoritas, dan sama sekali tidak mengeklaim sebagai filter lengkap dari konten yang tidak pantas atau menyinggung. Selain itu, moderasi gambar dan video APIs tidak mendeteksi apakah suatu gambar menyertakan konten ilegal, sepertiCSAM.
