今回はCato SASE Cloudの新たな機能 AI Security for Usersについてご紹介します。
※2026年7月時点の情報です。

AI Securityとは

現在、生成AIの急速な普及により企業におけるAIの利用形態は大きく変化しています。
ChatGPTやMicrosoft Copilot、Gemini、ClaudeといったパブリックAIサービスに加え、今後自社AIアプリケーションやAIエージェントの活用も進むことで、従来のセキュリティ対策では対応が難しい新たなリスクが顕在化する恐れがあります。

こうした背景からAI通信を対象として、可視化・制御するAI Securityが注目されています。

Cato Networksはこの領域を強化するため、2025年にAIセキュリティスタートアップである「Aim Security」を買収しました。
これはCatoにとって初の企業買収であり、SASE Cloud PlatformへAIセキュリティ機能を統合することを目的としています。
Aim SecurityはThird-Party AIの利用保護、AI Firewallによるランタイム保護、AI Security Posture Management（AI-SPM）などの技術を提供しており、これらの機能がCatoのSASEアーキテクチャへ順次統合されています。

現在のCato AI Securityは以下の2つのライセンスで構成されています。

・AI Security for Users：ChatGPTやCopilotなどのThird-Party AI利用を可視化・制御し、プロンプトレベルで保護する機能
・AI Security for Applications：自社開発AIアプリケーションやLLM APIに対してAI Firewallを適用し、ランタイム保護を提供する機能

本記事ではAI Security for Usersに焦点を当て、CatoがThird-Party AI通信をどのようにインターセプトし、プロンプトの保護や利用状況の可視化を実現しているのか、そのアーキテクチャと主要機能について解説します。

Third-Party AIの課題

Third-Party AIの普及により課題となる点は、従来のネットワーク境界やエンドポイント管理の枠組みを超えてAIサービスが利用される点です。
ユーザーは企業ネットワークを経由せずにAIへアクセスすることが可能であり、従来のCASBやWebフィルタリングでは十分な可視化や制御が行えないケースが増加しています。

企業においては具体的に以下のような課題が顕在化しています。

・Third-Party AIの利用実態を正確に把握できない
・IT部門が認識していないシャドーAIの利用が増加している
・AIへ送信されるプロンプト内容を検査できない
・個人情報や機密情報が外部AIへ送信されるリスクを制御できない
・AI利用状況を継続的に監査・分析する仕組みが不足している

Catoが提供するAI Security for Usersは、これらの課題に対してSASEアーキテクチャ上でAI通信をインターセプトし、プロンプトレベルでの制御と可視化を実現することで、AI利用のガバナンスを補強する事が可能です。

AI Security for Usersのアーキテクチャ

AI Security for Usersは、ユーザーからAIアプリケーションに至るまでの通信経路を複数のレイヤーで制御・可視化する構造となっており、大きく以下の4つのレイヤーで構成されています。

①User

ユーザーは様々なクライアント環境から生成AIサービスへアクセスします。具体的には、Cato Clientを利用した端末、企業管理下のブラウザ、一般的なChromeやEdgeブラウザ、さらにはデスクトップアプリケーションなど、多様なアクセス経路が存在します。

対象となるAIサービスは、ChatGPT、Microsoft Copilot、Gemini、Claudeといった主要な生成AIに加え、SaaSに組み込まれたAI機能など、Catoが識別可能な多数のThird-Party AIアプリケーションが含まれます。

②Intercept

AI Securityの中心となるのはAI通信のインターセプト機能です。
ユーザーからAIサービスへの通信を以下の様々なポイントでプロンプト内容を解析可能な状態にすることで、後続のプロンプトの制御/可視化を実現します。

・Cato Client（Inline）

Cato Clientを利用する場合、ユーザーの通信はCato Cloudを経由します。この経路上でAIアプリケーションの識別、TLS通信の復号、プロンプトの抽出、そしてAI Security Engineによるリアルタイム解析がインラインで実施されます。

この方式では、プロンプトがLLMへ送信される前に評価が行われるため、ポリシー違反となる内容は送信前にブロックまたは加工され、機密情報の外部流出を未然に防ぐことが可能です。

・Browser Plugin

ブラウザプラグインは、ブラウザ上で利用されるAIサービスに対して直接的に介入し、プロンプトの検査および制御を行う仕組みです。Cato Clientがオフの状態や、ネットワークがCatoを経由しない環境においても動作する点が特徴です。

このプラグインは、ユーザーが入力したプロンプトをブラウザ上で取得し、AI Security Engineへ送信して解析を行います。その結果に基づいてポリシーが適用され、必要に応じてプロンプトのブロックや匿名化が実施されます。

これにより、ネットワーク経路に依存することなく、プロンプト送信前の段階で機密情報を保護することが可能となり、BYODや外部委託先などの環境においても一貫したセキュリティ制御を実現できます。

・API（Out-of-Band）

Enterprise向けAIサービスに対しては、API IntegrationによるOut-of-Band方式が利できます。
この方式では通信経路に直接介入するのではなく、AIサービスが提供するAPIを通じて利用データを取得します。

取得対象には会話履歴、プロンプトおよびレスポンス、利用ユーザー情報などが含まれます。

③プロテクト（制御）/ 可視化

インターセプトされたユーザーのAI通信はCato AI Security Engineによって解析されます。
AI Securityではプロンプト内容に対する制御と、AI利用状況の可視化の機能が提供されます。
それぞれの要素について以下で紹介でします。

・Third-Party AIの可視化

AI Securityにおいて重要なポイントはユーザーの利用するThird-Party AIの利用状況を可視化し把握することです。
Gen AI（生成AI）アプリ専用のダッシュボード自体は、従来のCASB、DLPのライセンスで提供されていましたが、AI Securityではより環境全体のユーザーのAIの利用状況・ポリシー違反の警告を可視化し、AI利用の全体像を迅速に把握できます。

概要

組織全体のAI利用状況を俯瞰的に可視化します。
アプリケーションは個人、ビジネステナントを区別して表示されます。

ディスカバリー

組織内で利用されているAIアプリケーションを一覧で確認できます。
ChatGPTやCopilotなどの承認済みAIだけでなく、IT部門が把握していないShadow AIも自動的に検出されるため、AI利用のガバナンス状況を把握することができます。

AIユーザー

AIサービスを利用しているユーザー一覧を表示します。
ポリシー違反数の多いユーザーを特定してセキュリティ対策につなげる用途で利用が可能です。

AIインタラクション

ユーザーとAIのプロンプトをセッション単位で確認できます。
プロンプト制御のポリシーが期待通りに動作しているか、また誤検知が発生していないか調査に活用できます。
プロンプトの内容を確認するには管理者にAIセキュリティの権限の付与が必要です。

・プロンプト制御

CatoのAI Securityのもう一つの重要な機能として、ユーザーとAIのインタラクションを監視して、プロンプトの内容を制御することです。
どのようなコンテンツを制御するかはエンジンプロファイルで定義します。

エンジンプロファイル

AI SecurityではAIとのインタラクション分析・プロンプト制御するためのプロファイル作成にDetector（検出器）という機能を利用します。
Detectorはプロンプト内の情報を解析し、その内容が機密情報やリスクを含むかどうかを判定します。

Detectorを用いてエンジンプロファイルに定義し、複数の検出ロジックを組み合わせることで、組織のポリシーに応じた柔軟な検査が可能となります。
CatoのDetectorは大別すると以下の2種類のタイプをサポートしており、それぞれ評価基準でデータを識別します。

Entity Detector

Entity Detectorでは特定の種類のデータなど明確に定義されたデータ要素を対象とします。

• Personal Identifiers
  - 名前
  - メールアドレス
  - 住所情報
  - SSN
  - パスポート番号
  等
• Technical Identifiers & Code
  - シークレット & パスワード
  - IPアドレス
  - MACアドレス
  - URL

Content Detector

Content Detectorではプロンプト全体の文脈を解析し、より高度なリスクを識別します。
単純なキーワード検出ではなく、LLMベースの解析により意図や文脈を評価する点が特徴です。

• Code Protection
  - Code Sharing
• AI Usage Regulation
  - Financial Eligibility Decision Making（投資・融資などの金融判断情報）
  - Employee Decisions and Performanca Evaluation（人事評価、従業員評価等の人事情報）
  等
• Sensitive business Information
  - Confidential Medical Exposure Information（医療情報・患者情報）
  - Confidential Financial Information Exposure（機密財務情報）
  等
• Safety & Security
  - Jailbreak and Prompt Injection
  - Obfuscation Attacks
  等
• Language Detection
  - non-English

Custom Topic & Intent Detector（EA）

標準のDetectorに加えて、組織固有のセキュリティ要件に合わせた独自の検出ルールを定義することもできます。

Custom Topic & Intent Detectorはプロンプトをリアルタイムで解析し、「Topic（ユーザーが質問している内容）」と「Intent（ユーザーがなぜ、どのように質問しているか）」の両面から評価を行います。
単純なキーワードマッチングではなくLLMによる文脈理解を利用するため、危険なトピックやユーザーの意図を踏まえた検出が可能です。

本機能は現在EA（Early Availability）のため、利用する場合はメーカーへの申請が必要です。

AIインタラクションポリシー

上記のエンジンプロファイル（Detector）を利用して、ユーザーからのプロンプトを制御するインタラクションポリシーを作成できます。

AIインタラクションポリシーではCato Client、ブラウザプラグイン、APIとインターセプトごとにルールを定義できます。
ここでは新しいネットワークルール（Cato Client）での制御を行います。

インタラクションポリシーは従来のファイアウォールポリシーと同様の利用イメージで設定が可能です。
ソースとなるユーザー/グループを設定し、制御対象とするChatgpt、Gemini、Copilot等のアプリケーションを選択します。

エンジンプロファイルではDetectorで定義したプロファイルを選択します。
アクションの設定できる項目とそれぞれの内容は以下の通りです。

• ブロック：Detectorで検出したプロンプトをブロックします。
• 監視：Detectorで検出したプロンプトを監視します。
• 匿名化：Detectorがプロンプトの匿名化をサポーする場合、コンテンツが匿名化されて送信されます。
  • 匿名化してブロック：プロンプトの匿名化をサポートしない場合、プロンプトはブロックされます。
  • 匿名化して監視：プロンプトの匿名化をサポートしていない場合、プロンプトは送信され監視されます。

動作確認

AIインタラクションポリシーを作成し、実際にユーザーのプロンプトを制御します。
例としてChatGPTとのインタラクションに対して、電話番号やメールアドレス等の個人情報を検出するエンジンプロファイルを割り当てたポリシーを作成しています。

ブロック動作

AIインタラクションのモニターからChatGPTに対する該当のユーザーセッションを確認できます。

匿名化動作

ブロック動作と同様にAIインタラクションのモニターから、プロンプトの内容を監視できます。

まとめ

生成AIの業務利用が拡大する中、企業にはAI利用状況の可視化だけでなく、プロンプトレベルでの保護やガバナンスが必要となります。

CatoのAI Security for UsersはCato Clientでの接続以外にもBrowser Plugin、API Integrationといった複数のインターセプト方式に対応し、様々な接続方式のAI通信をリアルタイムに検出・制御します。
また環境内のAI利用を把握するダッシュボードや、インタラクション監視などのモニタリング機能により、組織全体のAI利用状況から個々のインタラクションまで一元的に可視化・分析することができます。

CatoのAIセキュリティはこれらの機能がSASEプラットフォームへネイティブに統合されており、ネットワーク、セキュリティ、AIガバナンスを単一の管理コンソールで一元的に運用できる点が大きな特長です。

生成AIの利便性を維持しながら、安全な利用環境の実現を検討しているユーザー様は是非ご活用いただければ幸いです。