翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
イメージとビデオのモデレーションの使用 APIs
Amazon Rekognition Image ではAPI、 および StartMediaAnalysisJobGetMediaAnalysisJobオペレーションを使用して、不適切、望ましくない、または不快なコンテンツを同期的に検出DetectModerationLabelsできます。Amazon Rekognition Video を使用するとAPI、 StartContentModerationおよび GetContentModerationオペレーションを使用して、このようなコンテンツを非同期的に検出できます。
ラベルのカテゴリ
Amazon Rekognition は、3 レベルの階層分類を使用して、不適切、望ましくない、または不快なコンテンツのカテゴリにラベル付けします。分類レベル 1 (L1) の各ラベルには、分類レベル 2 (L2) のラベルが多数あり、分類レベル 2 のラベルには分類レベル 3 (L3) のラベルがある場合があります。これにより、コンテンツの階層分類が可能になります。
検出されたモデレーションラベルごとに、 はTaxonomyLevelラベルが属するレベル (1、2、または 3) を含む APIも返します。例えば、イメージには、次の分類に従ってラベルを付けることができます。
L1: Intimate parts and Kissing の非明示的なヌード、L2: Non-Explicit Nudity、L3: Implied Nudity。
注記
L1 または L2 カテゴリを使用してコンテンツをモデレートし、L3 カテゴリを使用して、モデレートしたくない特定の概念 (モデレーションポリシーに基づいて不適切、望ましくない、または不快なコンテンツとして分類したくないコンテンツを検出する) を削除することをお勧めします。
次の表は、カテゴリレベルと各レベルの可能なラベルとの関係を示しています。モデレーションラベルのリストをダウンロードするには、ここをクリックします。
| トップレベルカテゴリ (L1) | 第 2 レベルカテゴリ (L2) | 第 3 レベルのカテゴリ (L3) | 定義 |
|---|---|---|---|
| 明示的 | Explicit Nudity (明示的なヌード) | 露出した男性のジェネレーター | ペニス (勾配か弛緩かにかかわらず）、精包、および識別可能な恥骨を含む、人間の男性の肥大化。この用語は、性的活動、または男性の膠原病が完全または部分的に表示される視覚的コンテンツを含むコンテキストに適用されます。 |
| 公開された冪等性器 | 外反、膣、および観察可能な褥瘡を含む女性の膠質系の外部部分。この用語は、性的活動を含むシナリオや、女性の解剖学のこれらの側面が完全にまたは部分的に表示される視覚的コンテンツに適用されます。 | ||
| 露出した臀部または肛門 | 人間の臀部または肛門。臀部が裸の場合や、純粋な衣服で識別できる場合が含まれます。この定義は特に、臀部または肛門が直接かつ完全に見える状況に適用されます。ただし、アンダーウェアまたは衣類が完全または部分的なカバーを提供するシナリオは除きます。 | ||
| 露出した尖ったニップル | 完全に見えて部分的に見えるエアロラ (ニップルを囲むエリア) やニップルを含む、人間の女性のニップル。 | ||
| 明示的な性的アクティビティ | 該当なし | 人間の性的性交、性的性行為、男性の性行為、他の身体部位や物体による女性性行為を含む、実際の性行為またはシミュレートされた性行為の表現。この用語には、身体部位の射精や虹彩、絆創膏、規律、優勢と従属、サドマゾシズムを含む虐待行為やロールプレイも含まれます。 | |
| 性玩具 | 該当なし | ダイルド、バイブレーター、バットプラグ、ビートなど、性的嗜好または性的嗜好に使用されるオブジェクトまたはデバイス。 | |
| 密接な部分とキッシングの明示的でないヌード | 明示的でないヌード | ベアバック | 人間の後舌部分で、大多数のスキンが首から背後まで見えます。この用語は、個人の背部が部分的または完全に塞がれている場合には適用されません。 |
| 露出したオスニップル | 部分的に見えるニップルを含む、人間のオスニップル。 | ||
| 部分的に露出した臀部 | 部分的に露出した人間の臀部。この用語には、短い衣類による臀部または臀部頬の一部が見える領域、または肛門裂の上部の一部が見える領域が含まれます。この用語は、臀部が完全にヌードの場合には適用されません。 | ||
| 部分的に露出した扇形 | 部分的に露出した人間の女性虹彩。女性虹彩の一部が、虹彩全体を明らかにしずに表示または発見されます。この用語は、内側の剣状部が見える場合、または下部の剣状部がニップルで完全に覆われているか閉じ込められている状態で見える場合に適用されます。 | ||
| 暗黙的なヌード | トップレスまたはボトムレスのヌードだが、臀部、ニップル、弛緩などの舌を覆ったり、咬合したり、完全には見えなかったりする個人。 | ||
| ブロックされた近接パーツ | 障害物のある尖ったニップル | 女性のニップルが不透明な衣類やカバーで覆われているが、その形状が明確に見える状況の視覚的な表現。 | |
| 男性ジタリアの障害 | 男性の小包またはペニスが不透明な衣服または被覆で覆われているが、その形状が明確に見える状況の視覚的な表現。この用語は、イメージ内の肥大化がクローズアップされている場合に適用されます。 | ||
| 唇でのキス | 該当なし | ある人物の唇が別の人物の唇と接触する様子。 | |
| 水着またはアンダーウェア | スイムウェアまたはアンダーウェア | 該当なし | 女性用水着 (ワンピース水着、バイキニス、タンキニなど) と女性用下着 (ブラウジング、パンジー、ショート、ランジェリー、トングなど) の人間の衣服 |
| 男性用水着またはアンダーウェア | 該当なし | 男性の水着 (水着トランク、ボードショート、水着ショートなど) と男性のアンダーウェア (ショート、ボクサーなど) 用の人間の衣服 | |
| Violence (暴力) | Weapons (武器) | 該当なし | 生き物、構造、またはシステムに害や損害を与えるために使用される機器またはデバイス。これには、銃器 (銃、ライフル、機関銃など）、シャープな武器 (剣、銃など）、弾薬、弾薬 (ミサイル、弾丸など) が含まれます。 |
| グラフィック暴力 | Weapon Violence (武器による暴力) | 自分自身、他の個人、または資産に損害、損傷、損傷、または死亡を引き起こすための武器の使用。 | |
| Physical Violence (身体的な暴力) | 他の個人または資産に害を与える行為 (ヒット、叩きつけ、髪の毛のプルなど）、または群集や複数の個人が関与するその他の暴力行為。 | ||
| セルフアラーム | 自分に害を与える行為。多くの場合、手足や脚などの身体部分を切断し、切断が通常見られるようにします。 | ||
| ボーンとゴア | 開いた傷、放牧された部位、損傷した体の部位を含む、人、個人のグループ、または動物に対する暴力の視覚的表現。 | ||
| 爆発とブラスト | 濃い煙、または地面から発生する埃や煙を伴う強烈な火の暴力的で破壊的なバーストの表現。 | ||
| Visually Disturbing (視覚的に不快なもの) | 墨消し | Emaciated Bodies (痩せこけた身体) | 非常に細く、重度の物理的浪費と肥大化と脱痰の枯渇を伴う、非常に細く、低養の人体。 |
| Corpses (死体) | 人体は、切断された体、ハンギングされた体、またはスケルトンの形で行われます。 | ||
| クラッシュ | 航空事故 | 損傷、損傷、または死亡につながる、飛行機、ヘリ、またはその他の飛行車両などの航空車両のインシデント。この用語は、航空車両の一部が見える場合に適用されます。 | |
| 薬物とタバコ | 製品 | 薬物 | 小さい、中実、多くの場合、円形または楕円形のテーブルまたはカプセル。この用語は、スタンドアロン、ボトル内、または透明なパケットとして提示されるピルに適用され、ピルを使用している人物の視覚的な表現には適用されません。 |
| 薬物とタバコの寄稿者と使用 | 喫煙 | タバコ、葉巻、電子タバコ、ハッカー、ジョイントなど、焼き付けた物質を呼び出す、呼ぶ、および点火する行為。 | |
| アルコール | アルコールの使用 | 飲酒 | アルコールやアルコールのアルコールやアルコールのアルコールやアルコールからアルコールを貪食する行為。 |
| アルコール飲料 | 該当なし | アルコールまたはリキュール、アルコールまたはリキュールを含む眼鏡またはマグ、および個人が保持するアルコールまたはリキュールを含む眼鏡またはマグの 1 つ以上の持ち出しをクローズアップします。この用語は、アルコールやアルコールのアルコールやアルコールからの個々のアルコールには適用されません。 | |
| 失礼なジェスチャー | ミドルフィンガー | 該当なし | 中指を使用した手のジェスチャの視覚的な表現は上方向に延長され、他の指は下に折りたたまれます。 |
| ギャンブル | 該当なし | 該当なし | カード、ブラックジャック、ルーレット、カジノのスロットマシンなど、カジノで賞品を獲得する機会を得るための試合に参加する行為。 |
| ヘイト記号 | ナチ党 | 該当なし | ナチ党に関連するシンボル、フラグ、またはジェスチャの視覚的な表現。 |
| ホワイトスプレマシー | 該当なし | Ku Kux Klan (KKK) に関連付けられたシンボルまたは衣類と、南国のフラグが付いたイメージの視覚的な表示。 | |
| 過激派 | 該当なし | 過激派と過激派のグループフラグを含むイメージ。 |
L2 カテゴリのすべてのラベルに L3 カテゴリでサポートされているラベルがあるわけではありません。さらに、「Products」および「Drug and Tobacco Paraphernalia and Use」L2 ラベルの下にある LL3 ラベルは、すべてを網羅しているわけではありません。これらの L2 ラベルは、前述の L3 ラベル以外の概念を対象としており、そのような場合は L2 ラベルのみがAPIレスポンスで返されます。
用途に合ったコンテンツであるかどうかはお客様が判断します。例えば、暗示的な性質のイメージは受け入れ、ヌードを含むイメージは拒否することができます。イメージをフィルタリングするには、 (イメージ) と DetectModerationLabels (GetContentModerationビデオ) によって返されるModerationLabelラベル配列を使用します。
コンテンツタイプ
API はアニメーション化されたコンテンツタイプまたは図で示されているコンテンツタイプを識別でき、コンテンツタイプはレスポンスの一部として返されます。
アニメーションコンテンツには、ビデオゲームとアニメーション (漫画、漫画、漫画、アニメなど) が含まれます。
図に示されているコンテンツには、描画、ペイント、スケッチが含まれます。
信頼度
MinConfidence 入力パラメータを指定することで、安全でないコンテンツを検出するために Amazon Rekognition によって使用される信頼度のしきい値を設定できます。検出された安全でないコンテンツの信頼度が MinConfidence よりも低い場合、そのコンテンツのラベルは返されません。
値を 50% MinConfidence未満に指定すると、多数の偽陽性の結果 (再現率が高い、精度が低い) が返される可能性があります。一方、50% MinConfidenceを超える値を指定すると、偽陽性の結果の数が少なくなる可能性があります (再現率が低く、精度が高い）。MinConfidence の値を指定しない場合、 Amazon Rekognition は少なくとも 50% の信頼度で検出された安全でないコンテンツのラベルを返します。
ModerationLabel 配列には、上のカテゴリのラベルと検出されたコンテンツの精度を示す推定信頼度が含まれます。最上位ラベルは、識別された第 2 レベルラベルと共に返されます。例えば、Amazon Rekognition では「明示的なヌード」を最上位のラベルの高い信頼スコアと共に返すことができます。場合によりますが、フィルタ処理のニーズにはこれで十分です。ただし、必要に応じて、第 2 レベルラベル ([Graphic Male Nudity (男性のヌードイメージ)] など) の信頼スコアを使用して、よりきめ細かなフィルタ処理が可能です。例については、不適切なイメージの検出を参照してください。
バージョニング
Amazon Rekognition イメージと Amazon Rekognition Video は、両方とも、不適切なコンテンツの検出に使用されるモデレーション検出のバージョンを返します (ModerationModelVersion)。
並び替えと集計
を使用して結果を取得する場合 GetContentModeration、結果をソートして集計できます。
並べ替えの順序 – 返されるラベルの配列は時間を基準に並べ替えられます。ラベル別に並べ替えるには、GetContentModeration の SortBy 入力パラメータに NAME を指定します。ビデオ内でラベルが複数回表示されている場合、ModerationLabel 要素のインスタンスは複数になります。
ラベル情報 — ModerationLabels配列要素には ModerationLabel オブジェクトが含まれており、オブジェクトにはラベル名と、検出されたラベルの精度に対する Amazon Rekognition の信頼度が含まれます。タイムスタンプは ModerationLabel が検出された時間を表し、ビデオの開始から経過した時間がミリ秒数として定義されます。ビデオ SEGMENTS ごとに集計された結果では、StartTimestampMillis、EndTimestampMillis、DurationMillis 構造が返され、それぞれセグメントの開始時間、終了時間、持続時間を定義します。
集計 — 結果が返されたときの集計方法を指定します。デフォルトでは TIMESTAMPS によって集計されます。また、SEGMENTS による集計を選択することもできます。この方法では、時間枠の結果が集計されます。このセグメント中に検出されたラベルのみが返されます。
カスタムモデレーションアダプターのステータス
カスタムモデレーションアダプターは、_IN_、TRAINING_PROGRESS、TRAINING_COMPLETED、TRAININGFAILED、DELETINGDEPRECATED、または のいずれかのステータスになりますEXPIRED。これらのアダプターのステータスの詳細については、「アダプターの管理」を参照してください。
注記
Amazon Rekognitionは、不適切または不快なコンテンツに関する権威ではなく、また網羅的なフィルタリングであると主張するものではありません。さらに、イメージとビデオのモデレーションでは、イメージに APIs などの不正なコンテンツが含まれているかどうかは検出されませんCSAM。
