AIエージェントは「人間を超えるリスク」Box決算が映す企業AI導入の現況

Boxは、企業向けコンテンツ管理プラットフォームを展開する米国企業です。アーロン・レヴィCEOとディラン・スミスCFOが共同創業し、本社を米カリフォルニア州レッドウッドシティに置きます。契約書や研究文書といった非構造化データをAIで活用する「インテリジェント・コンテンツ・マネジメント」を掲げています。上位プラン「Enterprise Advanced」と、AIの利用量に応じて課金する「AIユニット」が成長の柱です。

2026年8月25日に発表した2026年5〜7月期決算は、売上高3.21億ドル（前年比9%増、恒常通貨ベースで11%増）とガイダンスを上回りました。恒常通貨ベースでは5四半期連続の増収加速です。ビリングスは前年比17%増の3.1億ドル、残存履行義務（RPO）は前年比15%増の17億ドル、ネットリテンションレートは106%に改善しました。通期（2027年1月期）の売上高見通しは1000万ドル引き上げ、約12.9億ドル（前年比10%増）としました。

AIエージェントは「人間より危険なユーザー」になる

決算説明会でレヴィCEOが多くの時間を割いたのが、AIエージェントのセキュリティ統制です。エージェントには人間の従業員と同じ統制がまず必要だと同氏は説明します。閲覧・編集できる文書を限定するアクセス権限や、逸脱時のアラートがその基本です。Boxの既存のセキュリティ基盤が、そのままエージェント時代の土台になるという整理です。

一方で、人間とエージェントには決定的な違いがあると同氏は指摘します。人間が処理できるデータ量には物理的な限界があり、不審な行動の検知が容易で、悪意があっても被害範囲は限定的でした。対してAIエージェントは、投入された計算資源に比例して大量のデータにアクセスし、目標を最後まで実行し切ってしまいます。「人間には不要だった保護」が新たに必要になるという発想の転換です。

Boxは5〜7月期に、この領域の新機能を相次いで発表しました。エージェント用ガードレール、サードパーティ製エージェントの活動監視、プロンプトインジェクション検知、エージェントの分類に基づくアクセスポリシーなどです。これらはBox自身のエージェントだけでなく、ClaudeやChatGPT、Geminiといった外部エージェントにも適用できます。特定フォルダ内でのデータ書き込みやダウンロードの禁止、一定量を超える活動へのアラートといった統制を想定しています。

背景には、説明会で繰り返し言及された「OpenAIとHugging Faceを巡るインシデント」があります。レヴィCEOは、今年前半に流行した「バイブコーディング」でアプリを作る風潮を「少しこっけいに見えた」と振り返りました。エンタープライズシステムに求められる保護水準を知っているからだ、というのが同氏の説明です。同社は脅威検知製品「Shield」を含むセキュリティ投資を一段と強化する方針を示しました。

AI普及の隠れた立役者「ゼロデータリテンション」