AIに「経営会議の資料を作って」と頼む。AIは社内の売上データを集め、競合情報を調査し、グラフを作成し、数分でスライドを仕上げる。しかし、その裏で機密情報が外部サービスへ送信されていたらどうでしょうか。AI時代はいま、「開発生産性革命」のフェーズから、「AIをどう統制するか」のフェーズへ入り始めています。
前回のコラムでは、AIによる開発生産性の劇的な向上によって、「いかに早くつくるか」から「上流の設計と下流の運用」へ競争の主戦場が移っていくことについて書きました。今回は、その“上流の設計”の中でも、企業がこれから確実に直面する「AI時代の新しいセキュリティリスク」について考えます。
見えないからこそ、恐ろしい
AI時代に入り、多くの企業でAIツールやAIエージェントの活用が始まっています。現場では、「このAIツールを使いたい」「このAIエージェントで業務を自動化したい」という声が日々上がります。しかし企業は、ここで立ち止まる必要があります。そのAIに、会社の重要な情報を渡して本当に問題ないのでしょうか。AI時代において、企業の競争力の源泉であり、最も守るべきものは「データ」です。
この状況は、自動運転とよく似ています。自動運転技術は大きく進化していますが、万が一の事故や予測不能な事態への責任、安全性の担保が完全ではないため、社会全体への全面開放には至っていません。
しかし、ITの世界には車とは決定的に異なる特徴があります。それは、「脅威が目に見えない」ということです。車の暴走は誰の目にも分かります。一方、デジタル空間で起きる情報漏洩は、表面上は正常な業務に見えてしまいます。ここに、AI時代特有の恐ろしさがあります。
完璧なアウトプットの裏で進む“静かな漏洩”
生成AIは今、「相談相手」から「自律型AI（AIエージェント）」へ進化し始めています。AIは、自ら計画を立て、外部ツールやSaaS、ブラウザ操作などを組み合わせながら、タスクを自律的に実行するようになっています。例えば、社内データの取得、外部情報の調査、レポート作成、メール送信、スケジュール調整といった作業を、人間の代わりに実行します。アウトプットは非常に優秀です。業務も問題なく回っているように見えます。しかし、その裏で“見えない暴走”が起きる可能性があります。
AIは効率化を目的として行動します。その過程で、悪意がなくても、あるいは外部からの巧妙なプロンプトインジェクションなどによって、社内機密を外部サービスへ送信してしまう可能性があります。しかも、それは多くの場合、“正常な業務”として処理されます。表面上は何も起きていない。しかし裏側では、静かに情報漏洩が進行している。これが、AI時代の新しいリスクです。
AIは「正規の顔」で動く
さらに厄介なのは、従来型のセキュリティ対策では、この種のリスクを検知しづらいことです。AIは「攻撃者」として振る舞うのではなく、「正規権限を持つユーザーの代理」として行動します。つまり、AIは「正規のアカウント」で、「正規のAPI」や「正規ツール」を利用して動作します。
例えば、深夜の大量データアクセス、外部APIとの通信、ブラウザ自動操作、SaaS間の大量データ連携といった挙動も、AIエージェント時代では“正常業務”として発生し始めます。つまりAIは、新しいリスクを増やすだけではありません。「本当の攻撃」と「AIによる正規活動」の境界線そのものを曖昧にしてしまうのです。AI活用が進むほど、セキュリティ運用の難易度はさらに上がっていきます。
AIに「人間の権限」を渡していいのか
この問題の本質は、「AIへの権限委譲」にあります。AIエージェントに高度な業務を任せるためには、社内システムや顧客データ、売上情報、メール、ファイルサーバーなどへのアクセス権限が必要になります。しかし現実には、利便性を優先し、「人間の権限」をそのままAIへ渡してしまうケースが増えています。
ですが、どんなに賢い子供でも、初めてのお使いで限度額無制限のクレジットカードを渡す親はいません。悪意がなくても、想定外の使い方をしてしまう可能性があるからです。AIへの権限付与も、まったく同じです。膨大なデータへアクセスできる「人間の権限」を、自律的に動作するAIへそのまま委譲することは、極めて危険な行為です。
AI時代に求められるのは「統制力」
AI時代に求められるセキュリティは、単なる「外部攻撃対策」ではありません。重要なのは、「AIに何を任せ、どこまで許可するか」を設計・統制することです。そのためには、AIツールの仕組みを理解すること、AIの挙動を継続的に監視すること、必要最小限の権限しか与えないこと、重要な処理には人間の承認を介在させること、といった考え方が不可欠になります。
AI時代は、「どのAIを使うか」が競争力になる時代ではありません。「AIに何を任せ、どこを人間が統制するか」が競争力になる時代です。AIによって開発生産性は劇的に向上します。しかし同時に、「見えないリスク」もまた、かつてない速度で拡大し始めているのです。
林雅也
株式会社ecbeing 代表取締役社長
日本オムニチャネル協会 専務理事
1997年、学生時代に株式会社ソフトクリエイトのパソコンショップで販売を行うとともに、インターネット通販の立ち上げに携わる。1999年にはECサイト構築パッケージ「ecbeing」の前身である「ec-shop」を開発し、事業を推進。2005年に大証ヘラクレス上場、2011年に東証一部上場へ寄与。2012年には株式会社ecbeingの代表取締役社長に就任。2018年、全農ECソリューションズ(株)取締役 JAタウンの運営およびふるさと納税支援事業を行う。2020年からは日本オムニチャネル協会の専務理事を務め、ECサイト構築パッケージecbeingの導入サイトは1600サイトを超える。
日本オムニチャネル協会
https://omniassociation.com/
