ダークトレース、企業向けAIの安全な導入を支援する「Darktrace / SECURE AI™」を正式リリース　新研究組織「Darktrace Signal Labs」も始動

振る舞いベースセキュリティを手がけるダークトレース（本社：英国ケンブリッジ、CEO：エド・ジェニングス）は、10月29日に開催したイベント「Darktrace LIVE」で、「Darktrace / SECURE AI™」の正式リリースを発表した。同製品は、企業がAIの導入を安全に拡大するために必要なソリューションとして位置づけられている。あわせて、新たに出現しつつあるAIリスクを研究する新組織「Darktrace Signal Labs」の始動も明らかにした。

AIの「把握」から「振る舞いの評価」へ広がるセキュリティ課題

AIはこの半年だけでも飛躍的な進化を遂げた。企業ではAIエージェントや高度な生成AIの活用が加速している。その一方で、AIを悪用した攻撃が高度化し、AIシステムそのものが新たな攻撃対象になるなど、これまでにないセキュリティ課題が生まれている。

企業内のAI導入は広範にわたるだけでなく、断片化も進んでいる。AIエージェントがアイデンティティ、データ、アプリケーション、インフラへのアクセスを獲得するにつれ、問題はAIの使用を把握するだけにとどまらなくなった。セキュリティチームは、AIの振る舞いが組織のポリシーや意図した目的、通常の業務パターンに沿っているかどうかも知る必要がある。こうした動向を受け、今回のDarktrace LIVEは「進化するAIをどう安全に使いこなすか」をテーマに掲げた。AIがもたらす可能性とリスクという二面性に焦点を当て、AI時代に求められる新たなセキュリティ戦略を発表した。

「Darktrace / SECURE AI™」が正式リリース

Darktrace / SECURE AI™は、企業がAIの導入を安全に拡大するのに必要な可視性、コンテキストの理解、ガバナンス、インシデント対応機能を提供するソリューションだ。簡単かつ迅速に展開できるよう設計されており、次のことができる。

組織内のAIの使用を把握する
人とAIエージェントの振る舞いをリアルタイムに理解する
それらのアクティビティが組織のポリシーや意図された目的に一致しているかどうかを評価する
リスクが発生した場合にアクションを取る

AIの導入はセキュリティチームが追い付けないほどの速さで進んでおり、生成AIはいたるところで使われている。ダークトレースによると、同社の顧客の80%以上が生成AIサービスを利用している。また2026年8月現在、平均的な組織は5つの異なるAIプロバイダーとやりとりしているという。

アーリーアダプタープログラムの参加者は、ビジネス上の価値が即座に得られるユースケースとして、シャドーAIの検知、ポリシー管理、プロンプト分析を挙げている。正式リリースにはAmazon Web Services（AWS）、Anthropic、Microsoft、OpenAIとのインテグレーションも含まれ、企業向けAIプラットフォームに対するプロンプト分析とシャドーAI検知をサポートしている。

新組織「Darktrace Signal Labs」が自律化するAIのリスクを研究

Darktrace Signal Labsは、振る舞いベースのセキュリティ研究を専門とする新たな取り組みだ。AIシステムの自律性が高まる中で出現しつつある新たなリスクの研究にフォーカスする。研究者は安全なサンドボックス環境内で、モデルとエージェントの振る舞いの不整合を調査する。対象は、タスクの逸脱、ジェイルブレイク、その他の敵対的攻撃を含む幅広いシナリオだ。異常な、または勝手な振る舞いを誘発するシナリオを詳しく理解したうえで、Darktrace / SECURE AI™とDarktrace Behavioral Defense Platform™がそれらをどう検知し、対応できるかを実証する。

初の研究成果としてAIエージェントの脅威に関する2本のレポートを公開

同組織は最初の研究成果として、AIエージェントがもたらす新たな脅威に関する2本の調査レポートを公開した。1本目のテーマは「エージェントハーネスの乗っ取り（ハイジャック）による組織の攻撃」で、エージェント型AIハーネスが乗っ取られ、ワークステーションが自律的な攻撃者に変貌する可能性があることを明らかにした。研究者たちは会話履歴の汚染を利用し、自分たちが認可されたレッドチーマーであるとフロンティアモデルに信じ込ませた。そのうえで、一般的なAIワークフローが1つのパッケージインストールから武器化され得る仕組みを示した。

2本目のテーマは「企業内のローグエージェント（不正なエージェント）の振る舞いを検知する」だ。研究者は制御されたテスト環境でAIエージェントに不正行為を誘発させ、エージェントがどのように目標を追求するかを研究した。その結果、エージェントはタスクを達成するために度々ハッキング手法に頼ることが確認された。不適切な可能性のあるエージェントの振る舞いを把握するには、強力な可視性とビヘイビアプロファイリングが必要であることを示す結果となっている。

出典：ダークトレース・ジャパン株式会社