企業でAIエージェントを導入しているなら、「まずAIエージェントを動かしてから、後でセキュリティを追加すればいい」と考えたことがあるかもしれません。あるいは、さらに悪いことに「ガバナンスを入れるとAIエージェントのスピードが落ちるから、後で対応しよう」と考えることもあるでしょう。
しかし現実には、AIエージェントはこれまでのツールとは異なる動きをします。AIエージェントはユーザーに代わって、企業コンテンツに対してマシンスピードでアクションを実行します。後付けのセキュリティは、AIエージェントの動作速度が、その背後にあるレビューのプロセスを上回った瞬間に機能しなくなります。
今、この問題が重要な理由
企業は、数千人の人間のユーザーがコンテンツをクリックして操作する世界から、同じコンテンツに対して数百万ものAIエージェントが動作する可能性のある世界へ移行しています。人間規模を前提に構築されたガバナンスの考え方、つまり定期的なレビュー、手動承認、事後監査は、AIエージェント規模になると成り立たなくなります。
これは単なるトレンドではありません。構造的な変化です。AIエージェント規模のガバナンスは、ルールベースで、デフォルトで継承され、リアルタイムで強制される必要があります。そうでなければ、ガバナンスとはいえません。
この課題を解決するため、Box Agentのガードレールは、AIエージェントの実行時に適用される組み込み型の制御機能を提供し、企業がAIエージェントを安全かつ大規模に導入できるようにします。
アーキテクチャを段階ごとに解説
Box Agentのガードレールは、3つのライフサイクル段階に適用される3つの要素で構成されています。すべての段階に明示的なガバナンスチェックポイントがあり、後付けされるものはありません。
各ガードレールを構成する3つの要素
- コンテンツスコープ: AIエージェントがアクセスできるフォルダやアイテムを指定
- ユーザースコープ: AIエージェントのアクション対象にできるユーザーの許可リストまたは拒否リスト
- ヒューマンインザループ（HIL）: AIエージェントが人間によるレビューのために停止しなければならないタイミング
A. セットアップと設定
企業全体のデフォルト設定を一度設定すれば、あらゆる場所に継承されます。
- Box管理者が、管理コンソールで企業全体のガードレールを設定
ガバナンスチェックポイント: これらのデフォルト設定は、すべてのカスタムBox Agentの作成時に自動適用されます。 - AIエージェントの作成者が、AI StudioのAgent BuilderでカスタムAIエージェントを構築
ガバナンスチェックポイント: 企業のガードレールは作成時に継承され、オプトインではありません。 - AIエージェントの作成者は、権限が許可されている場合、企業のガードレールを編集し、AIエージェント固有のルールを追加できる
ガバナンスチェックポイント: 編集権限は管理者レベルで権限により制御されます。 - 企業のデフォルト設定とAIエージェント固有の設定を組み合わせたガードレールを適用してAIエージェントを展開し、その設定をAIエージェントとともに保存
B. 実行と評価
ユーザーがアクションを実行すると、Actions Platformは処理を開始する前に、AIエージェントのガードレールに照らしてリクエストをリアルタイムに評価します。
- 【シナリオA】ガードレールが設定されていない場合: アクションを実行。制限もレビューもなし
- 【シナリオB】HILなしのガードレール: 評価が肯定的であればアクションを許可し、否定的であれば拒否
ガバナンスチェックポイント: ルールはアクションの実行前に自動的に強制 - 【シナリオC】HILありのガードレール: モードを選択できる
- 例外を確認: 許可されたアクションは実行し、フラグが付いたアクションはユーザー承認のために停止する
- 許可されたアクションを確認: 許可されたアクションはユーザー承認のために停止し、フラグが付いたアクションは拒否する
この段階のガバナンスチェックポイント: すべてのアクションは実行前にガードレールに照らして評価され、その評価結果がログに記録されます。
C. 結果とユーザーエクスペリエンス
すべての評価は明確な結果として終了し、チャットインターフェースに直接表示されます。
- ブロック（拒否）: ユーザーに、ルールによってアクションが制限されたことを平易な言葉で伝えるメッセージを表示。データは移動しない
- レビューが必要（確認）: ユーザーに、承認と拒否のボタンを備えたインラインの承認プロンプトを表示。画面を切り替えたり、別のツールを使用したりする必要なし
- 許可: アクションを実行
この段階のガバナンスチェックポイント: ユーザーはアクションが一時停止または停止した理由を常に把握でき、実際に作業している場所で承認できます。
アーキテクチャ図
具体的なシナリオ
法務部門が、パラリーガルによるNDA回答案の作成を支援するカスタムBox Agentを導入するとします。このAIエージェントは、進行中の案件が入ったフォルダにアクセスできます。その中には、機密性の高い顧客の財務情報や社内弁護士のメモを含む案件もあります。
ガードレールがなければ、パラリーガルがAIエージェントに進行中の案件を要約するよう依頼した際、AIエージェントはアクセス可能なすべてのファイルを取得します。本来アクセスさせるべきではなかった機密サブフォルダも含まれます。機密コンテンツはチャットの回答に入り、その後エクスポートされたドラフトに入り、さらにメールへと流れていきます。
Box Agentのガードレールを使うと、次のように変わります。
- コンテンツスコープにより、AIエージェントのアクセスをパラリーガルが利用できるサブフォルダに制限します。機密ファイルは、単にアウトプットから除外されるのではなく、AIエージェントから見えなくなります。
- ユーザースコープにより、AIエージェントのアクションが到達できる相手を制限します。NDAワークフローでは、送信と共有の対象を、社内弁護士と承認済みの外部法律事務所の許可リストに限定します。外部またはリストにない受信者は自動的に拒否されます。
- HILの「許可されたアクションを確認」モードでは、作成された回答がチャットから外に出る前に承認を必須にします。人間が承認するまで、何も外部には送信されません。
この仕組みでは、単に失敗をブロックするのではなく、システムのガードレールによって、そもそも失敗が起きるのを防ぎます。
企業向けセルフアセスメントチェックリスト
社内に次のことを問いかけてみてください。
- 企業全体のAIエージェント向けガードレールを1か所で設定し、新しいすべてのAIエージェントに自動継承できますか？
- カスタムコードを書かずに、AIエージェントがアクセスできるコンテンツや、共有できる相手を制限できますか？
- AIエージェントのワークフローを中断することなく、機密性の高いアクションに対してインラインで人間の承認を必須にできますか？
- AIエージェントが何を、なぜ実行し、各アクションを誰が承認したのかを、監査人に正確に示せますか？
多くの企業では、これらの質問の大半に対する答えは、率直に言えば「まだできない」でしょう。Box Agentのガードレールは、それぞれに直接対応します。ルールは管理コンソールで一度設定すれば、すべてのAIエージェントに継承され、リアルタイムで強制され、その結果がエンドユーザーに明確に表示されます。
構築できるもの
AIエージェントのアクションがガバナンスされるため、次のようなことを安全に実現できます。
- 機密性の高いフォルダ（財務、法務、人事など）に対して、コンテンツのコピーを別途作成することなくAIエージェントを展開する
- ガードレールが実行前に作動するという確信を持って、エンドユーザーが高価値なアクション（ドラフト作成、メタデータ抽出、更新、共有）を実行できるようにする
- レビュー担当の人員を増やすことなく、AIエージェントのワークフローをより広いユーザー層へ展開する
- コンプライアンスレポートやインシデント対応のために、すべてのAIエージェントのアクションを記録する
今後の展開
Boxはこの権限優先のモデルをマルチエージェントのワークフローへ拡張し、あるAIエージェントから別のAIエージェントへ作業が引き継がれる場合でも、来歴と承認ロジックが維持されるようにしていきます。同じガードレールの要素（コンテンツスコープ、ユーザースコープ、HIL）を、MCPパートナーを含む、より幅広いAIエージェントのエコシステムへ拡張します。これにより、Boxコンテンツ上で動作するサードパーティのAIエージェントも、Box Agentと同じ企業全体のAIエージェント向けルールを継承できるようになります。
要点
Box Agentのガードレールは、AIエージェントのランタイム上に後付けするラッパーではありません。AIエージェントのライフサイクルのあらゆる段階に組み込まれた、ルールベースのフレームワークです。一度設定すれば自動的に継承され、リアルタイムで強制されます。これにより、AIエージェントには実際に行動する自由を与えながら、安全に行動するための実効性のあるガードレールも提供できます。
関連コンテンツ
- エージェンティックガードレール: AIガバナンスの次なる段階は「制御」
- Box、企業コンテンツ全体で稼働するAIエージェントを保護する新たな制御機能を発表
- 信頼性の課題: AIエージェントを大規模に保護する
- 新しいBox Agentのご紹介: コンテンツをAIが必要とするコンテキストに変える
このブログは、Box, Inc. 公式ブログ（https://blog.box.com/）2026年9月2日付投稿の翻訳です。
著者: Bakhshi Malhotra, Product Marketing Manager, Box
原文: https://blog.box.com/securing-ai-agents-box-agent-guardrails-give-you-control-without-slowing-down-innovation
