AI時代のセキュリティ技術者は何を考え、どう実践するのか

ご挨拶

セッション1
フロンティアAI時代のセキュア開発

フロンティアAIによるソフトウェアの脆弱性検出が実用レベルで可能になっています。攻撃者側が、いままでにない速度で攻撃が行われることが予想される世界で、今あるビジネスを「継続」するために、エンジニアはどのように開発を進めていくべきか。セキュア開発にAIを使っていく前提で、どのように開発プロセスや設計手法をどうアップデートしていくか。

本講演では、弊社内の開発現場やお客様のセキュア開発支援の現場経験を踏まえ、フロンティアAI台頭後の「セキュア開発」をどう進めればよいかを考えます。

セッション2
AIを活用したセキュリティ設計評価

セキュリティ設計評価とはシステムの設計段階において、設計書やアーキテクチャを対象にセキュリティ観点からの妥当性を評価し、潜在的なリスクや不備を早期に特定・改善につなげる活動です。 

セキュリティ設計評価におけるAI活用では、設計書の中から評価観点ごとに関連する記述を抽出し、それらを基にAIによる一次的な評価結果の生成を試みました。

本講演では、この試行を通じて構築・改善した評価基準や評価手法に焦点を当て、精度向上に寄与したアプローチと適用が難しかったケースを整理することで、AI活用の有効性と限界を考察します。

セッション3
ペネトレーションテストにおけるAI活用

Mythosをはじめとする高性能AIの登場により、セキュリティの様々な業務においてAIを活用しようとする企業が増えてきています。

例えば、ペネトレーションテスト用のAIエージェントに、企業のAD環境を模した標的を与え、「ゴールはドメイン管理者の奪取。ゴールの情報だけ共有する」というブラックボックスのような条件で攻撃させてみました。果たしてAIはどこまでやれたのか。そしてどこで止まったのか。

本講演では、その検証結果から得られた考察を解説します。「AIにペンテストを任せる」という選択肢が現実になりつつある今、皆さまの組織のセキュリティ戦略を考えるヒントをお持ち帰りいただければ幸いです。