AIエージェントが社内で自律的に行動する環境が広がり、過剰な権限付与や不可視の意思決定が新たな脅威となっています。マイクロソフトのハイヤッテ ギャロ氏は、フロンティアモデルは報酬ハッキングや共謀を起こし得て予測不能であり、暗黙の信頼は成立しないと指摘しています。エージェントはモデル、ハーネス、アクションスペース、ランタイムで構成され、IDや権限、データ、エンドポイント、ネットワーク、クラウド、ランタイムの多層防御が必要です。すべてのアクションを実行前に監督するガーディアン エージェントの常時運用により、行動の範囲をリアルタイムで調整し、エージェント型インサイダーを継続的に管理します。こうした前提のもと、社内エージェントの行為とリスクを可視化し、適切な封じ込めを行う体制の確立が求められます。
マイクロソフトが7月に発表したProject Perceptionは、複数層のサイバースタックとRed、Blue、Green teamのエージェントを組み合わせたエージェント型セキュリティシステムです。ID、データ、クラウド、エンドポイント、ネットワーク、ランタイムなどのセンサーからシグナルを統合し、社内エージェントを検出してIDやコンテナー、ポリシーと権限を割り当てます。収集シグナルを用いてタスクに伴うリスクを動的に算出し、GreenとBlueのガーディアン エージェントが全アクションを能動的に監督します。リスク上昇時はリアルタイムでピンポイント対応し、非決定論的な知性に対して決定論的な制御を実装します。さらにトレーサビリティにより事象の検証と原因理解、セキュリティ更新の判断を支援し、モデルの透明性向上が封じ込めをより賢く強固にします。イノベーションと安全性の二者択一ではなく、今日から取り組みを開始できる仕組みとして位置付けられています。
詳しくは「マイクロソフト」の公式ページまで。レポート／DXマガジン編集部
