のプライバシー保護 AWS Clean Rooms ML

Clean Rooms ML は、トレーニングデータプロバイダーがシードデータ内の誰が属しているかを学習し、シードデータプロバイダーがトレーニングデータ内の誰が属しているかを学習できる、メンバーシップ推論攻撃のリスクを軽減するように設計されています。この攻撃を防ぐためにいくつかの対策が講じられています。

まず、シードデータプロバイダーはクリーンルームの ML 出力を直接監視せず、トレーニングデータプロバイダーはシードデータを監視できません。シードデータプロバイダーは、シードデータを出力セグメントに含めることもできます。

次に、トレーニングデータのランダムなサンプルから類似モデルを作成します。このサンプルには、シードオーディエンスと一致しない多数のユーザーが含まれています。このプロセスにより、ユーザーがデータに含まれていないかどうかを判断することが難しくなります。これは、メンバーシップ推論のもう 1 つの手段です。

さらに、シード固有の類似モデルトレーニングの各パラメータに複数のシードカスタマーを使用できます。これにより、モデルがどれだけオーバーフィットできるかが制限され、ユーザーについてどれだけ推測できるかが制限されます。この結果、シードデータの最小サイズは 500 ユーザーとすることをお勧めします。

最後に、ユーザーレベルのメトリクスはトレーニングデータプロバイダーには提供されないため、メンバーシップ推論攻撃を受ける別の手段がなくなります。