EN

セキュリティ用語解説

再構築攻撃(Reconstruction Attack)

再構築攻撃(Reconstruction Attack)とは、複数の統計情報や匿名化されたデータセットから統計的推論やデータマッチングを用いて元のデータを復元する攻撃手法です。

近年、データの利活用が進む一方で、AI(人工知能)の進展により、再構築攻撃のリスクが増大しています。モデルの更新機会が増えることや、生成AIが学習データ(入力データ)そのものを露出することでデータセットが再構築される危険性が高まります。
このような状況下で、再構築攻撃の脅威は現実のものとなり、対策が急務となっています。

 

また、再構築攻撃には、既存のデータからデータセットそのものを復元するだけでなく、単純な匿名化のような不十分な対策では防ぎきれないという特徴もあります。さらに、現代の計算機能力の向上に伴い、攻撃の精度がますます高くなっている点も懸念されています。

 

再構築攻撃に対する対策として、差分プライバシーのようなデータあるいはモデルの品質に直接影響を与えるアプローチが挙げられます。また、モデルやデータ自体を変更せずに、ユーザから受けた危険なクエリを差し止めたり、あるいは生成AIの出力結果から機密データをフィルタするアプローチもあります。さらに、データ公開や利用に関する厳格なガイドライン策定や再構築攻撃そのもののリスクを周知することが重要となります。加えて、データ利用者や開発者に対する教育や啓発活動を強化していくことが求められます。

 

アルファベット順で探す