セキュリティにおいて、私が最も信用していない指標は、インシデント件数の少なさです。
静かな四半期は、制御が機能していることを意味する場合があります。一方で、適切な場所を見ていなかっただけかもしれません。この2つを見分けることは以前からセキュリティの仕事の一部でしたが、AIがビジネスのあらゆる領域に入り込むなかで、その重要性はこれまで以上に高まっています。
今年の初め、Boxの私のチームはHarris Pollと共同で、AIをどのように導入しているかについてIT意思決定者1,640人を対象に調査を実施しました。約半数が、AIツールによって本来見るべきではない情報が誰かに露出した経験がすでにあると回答し、そのうち6人に1人は重大なインシデントだったと答えています。しかし、より興味深いのは、どの企業がそれを報告したかです。
Box 最高情報セキュリティ責任者（CISO）
ヘザー・セイラン（Heather Ceylan）
成熟度がインシデントを防ぐのではなく、インシデントを明らかにする
AI活用が最も進んでいる企業、つまりビジネス全体でAIエージェントを稼働させている企業ほど、インシデントの報告件数は少ないのではなく、むしろ多くなっています。最も成熟した企業では60%が情報漏えいのインシデントを報告したのに対し、成熟度が最も低い企業では46%でした。これを、先進企業の制御が他社より弱いと読み違えるのは簡単です。より慎重に見ると、先進企業はより多くのシステムでより多くのAIエージェントを稼働させているため、問題が起きる可能性が高い一方で、問題が起きた際にそれを発見する能力もはるかに高いということです。
違いは可視性です。成熟度が最も低い企業の4分の1以上は、AIインシデントの監査を一度も実施したことがありませんでした。また、従業員が企業データとともにAIをどのように利用しているかを明確に把握していたのは17%にすぎません。これに対し、先進企業ではその割合が73%でした。自社のAI利用状況を把握できていない企業のクリーンなレポートは、安全である証拠ではありません。それは、問題がないように見える形で記録された盲点にすぎません。
この2つのグループを分ける能力は、検知です。Box自身のAI導入を通じて、私は本当の課題がどこにあるのかを理解しました。私たちはすでに、社員がどのAIツールを利用しているかを明確に把握しており、未承認のツールをデフォルトでブロックすることは簡単でした。より難しいのは、その次のレイヤです。つまり、ツールやAIエージェントが正当なアクセス権を得た後に何をするのか、そして、表面上は明確に現れない不正なデータアクセスや情報漏えいインシデントを誰かが監視しているのかという点です。未承認ツールのブロックは比較的単純です。承認済みツールの不正利用を検知することこそ、本当に手間のかかる仕事であり、多くの企業が最も十分にカバーできていない領域です。
高い安全性が求められる他の業界では、この問いに対する答えはずっと前に出ています。最も優れた安全実績を持つ航空会社や原子力事業者ほど、インシデントやヒヤリハットを詳細に記録しています。小さな失敗を積極的に表面化させることで、それらが連鎖して大きな事故になるのを防いでいるのです。こうした業界では、薄いインシデントログは勲章ではなく、警告として受け止められます。
見えないものはガバナンスできない
もちろん、可視性が制御の代わりになるわけではありません。AIエージェントの不適切な挙動を見つけることと、それを止められることは別の仕事であり、どちらも必要です。ただし、順序があります。見えないものはガバナンスできません。うまく取り組んでいる企業は、まず可視性を構築しています。一方で、多くの企業はいまだにその土台を整えている段階です。私たちの調査では、AIエージェントが企業データにアクセスする方法について正式な標準を設けていたのは約3分の1にすぎませんでした。ガバナンスの残りすべては、この基盤に依存しています。
同じ原則は、日々の検知を超えた領域にも当てはまります。経営層は、企業が抱える本当のリスクを把握する必要があり、それは何を測定するかに左右されます。だからこそ、私たちはこの1年の多くの時間を、セキュリティリスクの測定方法の進化に費やしてきました。従来の指標は、サービスレベルや修復までの時間といった運用上のシグナルに重点を置いていました。これらは、どれだけのリスク露出を抱えているかというより、セキュリティプログラムがどれだけうまく運営されているかを示す指標です。現在は、設定を誤ったAIエージェントや攻撃者が何にアクセスできるのか、そして私たちがそれを検知できるのかに重点を移しています。測定できないリスクは、ガバナンスできません。これは同じ問題を、ひとつ上のレベルで見ているにすぎません。
セキュリティ担当への問いを変える
経営層にとって、ここで求められる変化は小さいものですが、重要です。多くの経営陣は、前四半期に何件のインシデントが起きたかを尋ねます。より良い問いは、もしインシデントが起きていたら、それに気づけたのか、ということです。最初の問いだけを続けると、セキュリティ担当者が沈黙を保つことに事実上のインセンティブを与えてしまいます。見た目の数字は良くなる一方で、実際のリスクは高まるという、企業にとって最悪の組み合わせです。
したがって、AIへの取り組みを本格化した年にAIインシデントの件数が増えたのであれば、それは検知機能が仕事をしている結果かもしれません。私がむしろ注目するのは、周囲のAI活用が拡大し続けているのに、まったく変化しない数字です。
可視性がスピードを可能にする
監督や統制は、スピードのために支払うコストのように扱われがちです。実際には、その逆に近いものです。私たちの調査では、76%の企業が、現在のガバナンスがAI導入の速度を落としていると回答する一方で、93%は、より優れたガバナンスがあれば長期的にはより速く進められると回答しました。どちらも正しいのです。先行する企業は、AI運用の早い段階で可視性を組み込んでおり、それこそが、大規模にAIを運用できる理由です。
次のレポートでインシデント件数が増えていたとしても、すぐに失敗と判断しないでください。AIエージェントによって動く領域がますます広がる企業環境では、何が起きているのかを把握できる企業が優位に立ちます。私が懸念するのは、完全には信頼できないクリーンなダッシュボードを見ながら運用している企業です。
関連コンテンツ
- Boxのエージェント向けセキュリティとガバナンス機能のご紹介：AIエージェントを万全に企業内で展開
- AIで勝つ企業、取り残される企業。企業向けAI最前線レポート
- エージェンティックAIが到来。最先端の企業がその価値の大部分を獲得
このブログは Box, Inc 公式ブログ（https://blog.box.com/）2025年9月3日付投稿の翻訳です。
著者: Heather Ceylan, Chief Information Security Officer at Box
原文リンク: https://blog.box.com/why-safest-ai-teams-report-most-security-incidents
