Amazon Bedrock による不正検出

コンテンツの分類 - 分類子を使用して、ユーザー入力やモデル出力に含まれる有害なコンテンツ (暴力を扇動するコンテンツなど) を検出します。分類子は、モデルの入力と出力を処理し、攻撃の種類と信頼度を割り当てるアルゴリズムです。これらの分類子は、両方で実行できます。Titan およびサードパーティーモデルの使用状況。これには、Amazon Bedrock のモデルカスタマイズを使用して微調整されたモデルが含まれる場合があります。分類プロセスは自動化されており、ユーザー入力やモデル出力を人間が確認する必要はありません。

パターンの特定 - 分類メトリクスを使用して、違反の芽や繰り返し発生する動作を特定します。当社では、匿名化された分類メトリクスをまとめ、サードパーティーのモデルプロバイダーと共有する場合があります。Amazon Bedrock はユーザー入力やモデル出力を保管せず、サードパーティーのモデルプロバイダーと共有することもありません。

児童の性的虐待マテリアル (CSAM) の検出とブロック — ユーザー (およびエンドユーザー) が Amazon Bedrock にアップロードするコンテンツには責任があり、このコンテンツに違法なイメージが含まれていないことを確認する必要があります。の拡散を停止するためにCSAM、Amazon Bedrock は自動不正検出メカニズム (ハッシュマッチングテクノロジーや分類子など) を使用して見かけ上の を検出する場合がありますCSAM。Amazon Bedrock がイメージ入力CSAMで明らかな を検出すると、Amazon Bedrock はリクエストをブロックし、自動エラーメッセージを受け取ります。また、Amazon Bedrock は、米国国立児童紛失搾取センター (NCMEC) または関連機関にレポートを提出することもできます。当社は真CSAM剣に考えており、検出、ブロック、報告のメカニズムを引き続き更新していきます。お客様は、適用される法律により追加のアクションを求められる場合があり、こうしたアクションの実施は、お客様の責任となります。