AIに対するモデルインバージョン攻撃に該当するものはどれか。
| ア | AIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し、学習に用いた元のデータを推測する。 |
| イ | AIモデルに対して複数のデータを入力して得られた出力結果を観察することによって、当該AIモデルを模倣し、同等の性能をもつAIモデルを得る。 |
| ウ | 学習時のデータセットに悪意あるデータを混入し、誤った学習をさせる。 |
| エ | 何らかの方法でAIの実行ファイルを入手し、逆アセンブルや逆コンパイルによってAIのソースコードを得る。 |
答え ア
【解説】
| ア | AIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し、学習に用いた元のデータを推測するのは、モデルインバージョン攻撃です。(〇) |
| イ | AIモデルに対して複数のデータを入力して得られた出力結果を観察することによって、当該AIモデルを模倣し、同等の性能をもつAIモデルを得るのは、モデル抽出攻撃です。(×) |
| ウ | 学習時のデータセットに悪意あるデータを混入し、誤った学習をさせるのは、データポイズニング攻撃(data poisoning attack)です。(×) |
| エ | 何らかの方法でAIの実行ファイルを入手し、逆アセンブルや逆コンパイルによってAIのソースコードを得るのは、リバースエンジニアリング(reverse engineering)です。(×) |
【キーワード】
・モデルインバージョン攻撃
- モデルインバージョン攻撃(model inversion attack)
AIシステムにおける入出力の分析により、訓練データに含まれる情報を復元する攻撃で、プライベートな情報が含まれるデータを学習データとして使っている場合に、特定の個人データが復元されプライバシーが侵害される可能性があります。
もっと、「モデルインバージョン攻撃」について調べてみよう。
戻る
一覧へ
次へ