AIエージェントとは、与えられた目的や目標を理解し、必要に応じて外部ツールやシステムと連携しながら、情報収集、判断、計画、実行を行うAIシステムです。
従来の生成AIが、人間の入力に対して単に「質問に答える」「文章を作る」だけだったことに対して、AIエージェントは、目的達成に向けてタスクを分解し、必要に応じて外部ツールを呼び出しながら自律的に処理を進めます。
人が細かく指示しなくても、与えられた目的に沿って次に取るべき行動を判断できるため、業務効率化や自動化の手段として注目され、情報検索、資料作成、メール作成、チケット起票、社内システム連携など、これまで人間が作業をつないでいた工程の一部を自動化できる点が特徴です。
一方で、AIエージェントは外部ツールや業務システムへのアクセスを伴うため、ツール定義の改ざん・汚染（MCP Tool Poisoning）、権限管理の不備、エージェント間通信の悪用など、従来の対話型生成AIとは異なるリスクが生じます。加えて、プロンプトインジェクションやメモリ汚染といった生成AIと共通する脆弱性についても、AIエージェントでは実際のツール実行や外部システムの操作につながる可能性があるため、影響がより大きくなる点に注意が必要です。情報漏洩や誤操作、不正操作、業務停止などにつながる可能性があるため、セキュリティとガバナンスを前提とした業務設計が求められます。
生成AIとAIエージェントの比較
|
観点 |
生成AI |
AIエージェント |
|
主な役割 |
質問への回答、文章生成、要約、コード生成など |
目的達成に向けた判断、計画、外部ツール利用、タスク実行 |
|
利用イメージ |
人間がAIに質問し、出力結果を確認して次の作業を行う |
AIが目的をもとにタスクを分解し、複数の作業を進める |
|
外部システム連携 |
限定的な連携が中心 |
API、SaaS、社内システム、MCPサーバなどの外部サービスと連携 |
|
主なリスク |
情報漏洩、ハルシネーション、不適切な出力、プロンプトインジェクションなど |
誤操作、不正操作、権限悪用、メモリ汚染、ツール悪用、エージェント間での不正な指示や情報の伝播など |
|
必要な対策 |
入出力管理、利用ルール、データ保護、プロンプト対策 |
権限設計、内部動作の可視化、ツール呼び出し監視、脅威モデリング、継続監視 |
AIエージェントで想定されるリスク
|
リスク |
概要 |
|
プロンプトインジェクション |
悪意ある指示を入力や外部コンテンツに紛れ込ませ、AIエージェントに意図しない行動を取らせる攻撃 |
|
MCP Tool Poisoning （ツール定義の改ざん・汚染） |
MCPサーバやツール定義を悪用し、不正なツール呼び出しや情報送信を行わせる攻撃 |
|
メモリ汚染 |
AIエージェントの記憶領域に誤情報や悪意ある情報を混入させ、以後の判断を歪める攻撃 |
|
権限の過剰付与 |
必要以上のアクセス権限により、情報漏洩や誤操作の影響が拡大するリスク |
|
エージェント間通信の悪用 |
複数のAIエージェントが連携する環境で、偽情報や悪意ある指示が伝播するリスク |
|
サプライチェーンリスク |
外部AIサービス、OSS、MCPサーバ、プラグイン、APIなどの依存先に起因するリスク |
|
規制・ガバナンスリスク |
AIの判断や処理結果に対する説明責任、ログ管理、個人情報保護などへの対応が不十分になるリスク |
