今や毎日のように生成AIという言葉を目にするようになったが、同時に、AIならではのセキュリティ事故も報じられ始めている。AIのポテンシャルを生かしつつ、リスクに備えるにはどういったポイントに留意し、会社としてどのような体制で取り組む必要があるのだろうか。
10年ほど前からAIとセキュリティというテーマに関心を抱き、常に最新動向を追いかけつつ、日本企業からのさまざまな相談に答えてきた三井物産セキュアディレクションの高江洲勲とNRIセキュアテクノロジーズの柿本健司という二人の凄腕エンジニアが、未来に向けた指針を語った。
-
高江洲 勲
- 三井物産セキュアディレクション プロダクト＆ソリューション事業部
システムインテグレーターで開発業務を経験した後、セキュリティの社会的重要性の高まりを考えセキュリティ専業の企業に転職。MBSDに入社し、Webアプリケーションの脆弱性診断業務を担当していた最中に精度の高い画像識別AIが登場したことがきっかけで機械学習とセキュリティというテーマに取り組み始める。その後、機械学習やLLM、AIに対する攻撃とその防御方法やAIを用いたセキュリティ業務の効率化・高度化といった切り口での研究開発に携わっている。
-
柿本 健司
- NRIセキュアテクノロジーズ 研究開発センター サービス開発推進部 セキュリティコンサルタント
情報工学を専攻した後、セキュリティ関連業務に興味を抱いてNRIセキュアテクノロジーズに入社。Web・メールアクセスの監視・運用業務に携わる中、社内で開催されていた「生成AI勉強会」をきっかけに、LLMや生成AIの仕組みとそれらへの攻撃手法に強い関心を抱くようになった。問題意識をさらに深めるため現在の部署に異動し、「AI Red Team」をはじめとするAI関連の新規セキュリティサービスの開発に携わっている。
安易な生成AI利用が招く情報漏洩のリスク、対策のポイントは多層防御
Q：AI、生成AIにはセキュリティ面でどのようなリスクが存在するのでしょうか。
Q：従来のセキュリティ対策はこうしたリスクに効果がないのでしょうか？
NRIセキュアテクノロジーズ 研究開発センター サービス開発推進部 セキュリティコンサルタント 柿本健司
セキュリティの現場でも当たり前になったAI活用
Q：他に、生成AIならではの留意点はあるでしょうか？
DXを前提にしたAIトランスフォーメーションが重要なポイントに
三井物産セキュアディレクション プロダクト＆ソリューション事業部 高江洲 勲氏
Q：そんな中で、安全にAIを活用するにはどうすればいいのでしょうか。
Q：なるべく早い段階で脆弱性の有無をチェックし、修正する方がいいという部分は、Webアプリケーションの脆弱性対策と変わりませんね。
Q：会社全体でAI活用を進めていく際のポイントもお願いします。
AIエージェントを見据えてさらに高まるSecurity for AIの重要性
Q：この先、AI技術はどのように変化していくでしょうか。
Q：そうなると、アナリストや診断員にも高度なスキルが求められますね。
＜関連サービス＞
AIセキュリティ対策 特設サイト
- AIシステムの包括的セキュリティ診断サービス 『 AI Red Team 』
- AIシステムの継続的セキュリティ監視サービス 『 AI Blue Team 』
- 設計段階での脅威モデリングサービス 『 AI Yellow Team 』