今や毎日のように生成AIという言葉を目にするようになったが、同時に、AIならではのセキュリティ事故も報じられ始めている。AIのポテンシャルを生かしつつ、リスクに備えるにはどういったポイントに留意する必要があり、どのような対策を講じていけばいいのだろうか。
10年ほど前からAIとセキュリティというテーマに関心を抱き、常に最新動向を追いかけつつ、日本企業からのさまざまな相談に答えてきた三井物産セキュアディレクションの高江洲勲とNRIセキュアテクノロジーズの柿本健司という二人の凄腕エンジニアが、未来に向けた指針を語った。
-
高江洲 勲
- 三井物産セキュアディレクション プロダクト＆ソリューション事業部
システムインテグレーターで開発業務を経験した後、セキュリティの社会的重要性の高まりを考えセキュリティ専業の企業に転職。MBSDに入社し、Webアプリケーションの脆弱性診断業務を担当していた最中に精度の高い画像識別AIが登場したことがきっかけで機械学習とセキュリティというテーマに取り組み始める。その後、機械学習やLLM、AIに対する攻撃とその防御方法やAIを用いたセキュリティ業務の効率化・高度化といった切り口での研究開発に携わっている。
-
柿本 健司
- NRIセキュアテクノロジーズ 研究開発センター サービス開発推進部 セキュリティコンサルタント
情報工学を専攻した後、セキュリティ関連業務に興味を抱いてNRIセキュアテクノロジーズに入社。Web・メールアクセスの監視・運用業務に携わる中、社内で開催されていた「生成AI勉強会」をきっかけに、LLMや生成AIの仕組みとそれらへの攻撃手法に強い関心を抱くようになった。問題意識をさらに深めるため現在の部署に異動し、「AI Red Team」をはじめとするAI関連の新規セキュリティサービスの開発に携わっている。
攻撃側と防御側の非対称性をさらに拡大させるAIの存在
Q：AIがこれほど注目されるようになったターニングポイントは何だと見ていますか？
Q：そんなAI技術ですが、セキュリティ面ではどのようなリスクが存在するのでしょうか。
Q：一方で、サイバー攻撃を仕掛ける側が生成AIを活用する事例も指摘されています。
写真左から NRIセキュアテクノロジーズ 研究開発センター サービス開発推進部 セキュリティコンサルタント 柿本健司
三井物産セキュアディレクション プロダクト＆ソリューション事業部 高江洲 勲氏
従来対策と同様、リスクベースで、早期からセキュリティを考慮することが重要に
Q：作ることが優先され、セキュリティが後回しになったのはWebセキュリティの世界で起きたことと同じですね。
Q：具体的にはどのような問題でしょうか？
Q：こうした問題は何らかの手法で検知できないのでしょうか？
Q：では、どのように対策していけばいいのでしょう。
AIの将来も見据え、セキュリティベンダーが果たせる役割とは
Q：AI Blue Teamとはどのようなサービスになりますか？
Q：この先、生成AIとセキュリティのあり方はどのように変化していくでしょうか。
Q：脅威モデリングなどの手法は、解決の一助になるでしょうか？
＜関連サービス＞
AIセキュリティ対策 特設サイト
- AIシステムの包括的セキュリティ診断サービス 『 AI Red Team 』
- AIシステムの継続的セキュリティ監視サービス 『 AI Blue Team 』
- 設計段階での脅威モデリングサービス 『 AI Yellow Team 』