Amazon Bedrock による不正検出

コンテンツの分類 - 分類子を使用して、ユーザー入力やモデル出力に含まれる有害なコンテンツ (暴力を扇動するコンテンツなど) を検出します。分類子は、モデルの入力と出力を処理し、攻撃の種類と信頼度を割り当てるアルゴリズムです。これらの分類子は、 Titanとサードパーティーのモデルの使用の両方で実行できます。分類プロセスは自動化されており、ユーザー入力やモデル出力を人間が確認する必要はありません。

パターンの特定 - 分類メトリクスを使用して、違反の芽や繰り返し発生する動作を特定します。当社では、匿名化された分類メトリクスをまとめ、サードパーティーのモデルプロバイダーと共有する場合があります。Amazon Bedrock はユーザー入力やモデル出力を保管せず、サードパーティーのモデルプロバイダーと共有することもありません。

Amazon Bedrock にアップロードするコンテンツには、子性不正使用マテリアル (CSAM) の検出とブロックの責任があります。また、このコンテンツに不正なイメージが含まれていないことを確認する必要があります。CSAM の配布を停止するために、Amazon Bedrock は自動不正検出メカニズム (ハッシュマッチングテクノロジーや分類子など) を使用して明確な CSAM を検出する場合があります。Amazon Bedrock が画像入力で明確な CSAM を検出すると、Amazon Bedrock はリクエストをブロックし、自動エラーメッセージを受け取ります。また、Amazon Bedrock は、米国国立医療情報センター (NCMEC) または関連機関にレポートを提出することもできます。CSAM を重視し、検出、ブロック、報告のメカニズムを更新し続けます。お客様は、適用される法令によって追加のアクションを実行するよう要求され、それらのアクションに対する責任を負う場合があります。