Agentic AI

Agentic AI（エージェンティックAI）とは、人が与えた目標に向けて、AIが自律的に計画を立て、外部ツールやAPI、データを活用してタスクを実行し、その結果を評価しながら次の行動を調整するAIシステムや、その設計の考え方です。複数のAIエージェントを連携させることで、役割を分担しながら、より複雑な目標の達成を目指すこともできます。 

Agentic AIとAIエージェントの違い

両者の使い分けに統一的な定義はなく、同じ意味で使われることもあります（例えば米国NISTの一部資料では両者を同じシステムを指す語として扱っています）。

本ページでは、総務省・経済産業省の「AI事業者ガイドライン」などを参考に、AIエージェントを「特定の目標のために、環境を感知して自律的に行動する個々の実行主体」、Agentic AIを「AIエージェントを構成要素として、より包括的・自律的に目標達成を目指すシステムや考え方」として説明します。

なお、「agentic」は「エージェント的な」という意味の形容詞でもあり、「どの程度自律的か」という度合いを表す言葉として使われることもあります。 

Agentic AIにおけるセキュリティリスクと対策

Agentic AIのセキュリティリスクを考えるうえで重要なのは、「AIがどこまで自律的に動くか（自律性）」と「どのような権限で外部のシステムやデータに作用できるか（権限・作用範囲）」の2点です。この考え方は、AIエージェント単体にも、複数のエージェントで構成されるAgentic AI全体にも共通します。

生成AIに質問して回答を得る使い方では、その回答をどう使うかは主に人が判断します。一方、Agentic AIでは、AIの判断がメールの送信やデータの更新、決済などの実際の操作につながる場合があります。そのため、攻撃や誤りによってAIの判断が誤った方向に向かった場合、自律性が高いほど人が気づく前に処理が進み、権限が広いほど被害が大きくなります。

対策の考え方

Agentic AIを安全に活用するには、AIエージェントを独立した「システム利用主体」として捉え、エージェントごとのID（非人間ID）や権限を適切に管理することが重要です。そのうえで、システム全体を次の3つの観点から設計します。

①自律性の範囲を決める：

業務の重要度や影響の大きさに応じて、AIに任せる範囲と、人の承認を挟む操作を決めます。承認依頼が多すぎると確認が形骸化しやすいため、影響の大きい操作に承認を集中させることも大切です。

②権限と作用範囲を絞る：

プロンプトインジェクションは現時点で完全に防ぐ方法が確立されていません。そのため、「AIが騙されても被害が限定される」ように、アクセスできるデータ、実行できる操作、接続できる外部サービスを必要最小限にすることが基本です。

③監視し、異常に気づけるようにする：

入出力や操作のログを記録・監視し、誰の指示でどのエージェントが何を実行したかを後から追跡できるようにします。あわせて、異常を検知した際にエージェントを停止する手段や、可能な範囲で操作を取り消し・復旧する手段を用意しておくことが有効です。