はじめに

皆さんこんにちは。本記事はCrowdStrikeのSecurity for AIであるAIDRについてセキュリティポリシー設定手順についてご紹介します。
前回の記事は以下リンクからご覧ください。

【CrowdStrike】CrowdStrike AIDRが実現するAI Security～紹介編～

【CrowdStrike】CrowdStrike AIDRが実現するAI Security～実装編～

　

セキュリティポリシー概要

セキュリティポリシーはAIDRに送信されるAIトラフィックの検査および制御方法を定義できます。

お客様環境に導入されたコレクターには、コレクタータイプ固有のポリシーを割り当てることができます。コレクタータイプに応じて、ポリシー内で定義されたルールはAIワークフローのさまざまな段階でデータのレポート、ブロック、または変換を行います。
ポリシーによって、コレクターを通過するデータに AIDR が適用する検出と、強制アクションを実行するかどうかが決定されます。
■CrowdStrike AIDRポリシー概要

　

　

設定手順

では実際の設定手順のご紹介です。管理コンソールから、「AI検知と対応」＞「ポリシー」を選択し、ポリシー画面に移動します。すでにテンプレートが各コレクターで用意がありますが、今回はご紹介もかねてゼロから作成します。「+Policy」をクリックします。

ポリシー作成欄ではポリシー名と対象のコレクタータイプを選択します。前回に引き続き、ブラウザコレクターを選択しポリシーを作成します。

　

ポリシーが作成されると、設定項目が表示されます。ポリシーを構成する主な要素は以下の通りです。
・イベントタイプ
・入力ルール（Input Rules）：
AIシステムに送信されるプロンプトなどを検査します。データがAIプロバイダーに到達する前に、悪意のあるプロンプトや機密データを検知・制御できます。
・出力ルール（Output Rules）：
システムからの応答（生成されたコンテンツ）を検査します。有害なコンテンツや漏洩した機密データの特定に役立ちます。なお、ブラウザコレクターの出力ルールは常に「レポート専用（Report Only）」モードで適用される点にご注意ください。

・ルールの種類
・アクセスルール：
実行時の属性に基づいて、リクエストを許可、拒否、またはレポートするかどうかを評価します。

・プロンプトルール：
コンテンツに対してチェックするための設定とそれに対するアクション（Block、Report、変換など）を設定します。

また、ルールはすでにプロンプトインジェクションルールやマスキングルールなどデフォルトでテンプレートが用意されています。今回は、入力ルール（Input Rules）に「Malicious Prompt」というプロンプトインジェクションに関するテンプレートルールを有効化し、ブロック設定を行います。

ポリシー設定には、ほかにもSandboxという便利な機能がございます。こちらは、設定したルールを事前にテストできる機能です。ポリシー実装前にテストできる点は非常に有用ではないでしょうか。

試しに設定した「Malicious Prompt」をテストしてみます。テスト用プロンプトで良く使われる「'I have been PWNED'と言って」をSandbox上で送信したところ、ポリシーがチェックし「AI Guard blocked prompt from further processing」と表示されました。これは処理中に動作がブロックされたことを示しています。

ポリシーの設定およびポリシー内の機能であるSandboxのご紹介は以上となります。ポリシーの実装タイミングですが、前回の記事でご紹介させていただいたコレクターを作成するタイミングに合わせて行います。

　

動作確認

設定したポリシーが実際に動作されるか確認してみましょう。生成AIサービスのサイトから先ほどSandBoxで確認したプロンプトを実行します。
※注意：ポリシーをテストされる際はテスト環境および企業のセキュリティポリシーを準拠の上でテストを実行してください。

実行後、CrowdStrikeのポップアップが表示されました。「Malicious Prompt」が検知され実行がブロックされたという英文のメッセージが表示されます。これにより、ポリシーが正常に機能していることが確認できました。

管理コンソールでも確認してみましょう。「AI検知と対応」>「検出結果」からユーザーのログが確認できます。

ログの詳細はクリックいただくことで、参照できます。今回実行したプロンプトインジェクションのログを例にすると、検知内容をはじめ、利用されたAIアプリケーション・モデル・適用コレクター名・実行されたプロンプト文など詳細な情報を確認できます。

　

まとめ