LLMのキャッシュは、同じ質問を速く安く返す機能です。しかし、AIアプリで「同じ質問」に見える要求が、同じ利用者に同じ答えを返してよいとは限りません。たとえば「今月の売上を要約して」は、テナント、部署、閲覧権限、集計時点が違えば別の結果でなければなりません。キャッシュ安全設計の出発点はヒット率ではなく、どの二つの要求なら同一応答を共有してよいかを定義することです。
結論は、cache key、TTL、DLPを別の責務として扱うことです。cache keyは共有してよい要求の境界、TTLは古さを許容する時間、DLPは送受信時の検査です。三つを一つの設定値にしないことで、性能改善と情報境界を同時に説明できます。
cache keyは「文章の一致」より先に利用境界を表す
Cloudflare AI Gatewayの既定キャッシュは、プロバイダー、エンドポイント、モデル、認証ヘッダー、完全な要求本文を連結してハッシュ化します。本文が一文字でも違えば別エントリです。この既定動作は、むやみに広い共有を避ける出発点になります。ただしアプリケーション側でcustom cache keyを設定するなら、単にプロンプトを短縮してはいけません。
カスタムキーに含めるか、キャッシュをskipするかを最初に決める属性は、少なくともテナントID、認可後のロールまたはデータスコープ、知識ベースの版、個人化の有無、要求時点です。例として、製品ドキュメントの公開FAQを「質問正規化後の文言＋文書版」で共有するのは検討できます。一方、顧客の契約内容を参照する回答は、同じ文章でも利用者の権限が異なるため、キャッシュをskipするか、権限境界を含むキーにします。IDを推測で省略したキャッシュキーは、コスト削減ではなく越境の設計ミスになります。
| 要求の性質 | cache key の考え方 | TTLの考え方 | DLP |
|---|---|---|---|
| 公開FAQ | 質問＋公開文書版 | 文書更新までの短時間 | 標準ポリシー |
| テナント別集計 | テナント＋権限＋集計版、又はskip | 集計更新間隔より短く | テナント別に分離を検討 |
| 個人化した回答 | 原則skip | 設けない | 入出力を検査 |
| 緊急告知・規程 | skip | 設けない | ポリシー変更後も再確認 |
TTLは性能の数字ではなく、誤ったまま返してよい時間
AI Gatewayでは個別要求でTTLやskipを指定でき、キャッシュ対象の最小TTLは60秒、最大は1か月とされています。だからといって長く設定するほど良いわけではありません。TTLは「更新されても以前の回答を返してよい時間」です。公開FAQなら更新通知と連動させ、在庫、権限、インシデント情報のように変化コストが高いデータはskipを既定にします。
キャッシュ状況はcf-aig-cache-statusでHIT/MISSを観測できます。リリース時には、公開FAQだけがHITになり、テナント別・個人化要求がHITになっていないかを確認します。hit率だけをKPIにすると、危険な要求まで共有したくなります。
DLPはキャッシュを再検査しないことを前提にする
CloudflareのDLPはプロンプトとプロバイダーからの応答を検査します。ただし、キャッシュヒット時にはDLPを再実行しません。ポリシーを更新しても、既存キャッシュはTTLが切れるまで再評価されません。これが設計で最も見落とされやすい点です。
機密番号の検出ルールを追加した直後は、新しい要求にcf-aig-skip-cacheを付け、キャッシュを使わない経路でDLPを通します。テナントごとにDLPを変えたいなら、ゲートウェイ単位で一様に適用される仕様を踏まえ、ゲートウェイ自体を分ける案を検討します。
実装前に通す四つの試験
第一に、同じ質問でもテナントIDを変えるとMISSになること。第二に、同じ利用者でもロールを変えると共有されないこと。第三に、ナレッジの版を変えると古い回答が返らないこと。第四に、DLPポリシー更新後に意図した要求がキャッシュを経由しないことです。テストに実在の個人情報を使わず、境界が見えるダミーデータで期待値を固定します。これで性能テストと越境テストを別々に失敗させられます。
さらに、権限を外した直後の利用者、組織を移動した利用者、削除済み文書を参照した要求も境界テストへ含めます。通常の同一質問だけを繰り返す試験では、運用中に起きる権限・鮮度の変化を検出できません。失敗した場合はTTL短縮だけで済ませず、共有条件そのものを見直します。
限界：DLPとキャッシュは認可の代わりにならない
DLPはデータ検出・ブロックを助けますが、アプリケーションの認証認可やテナント分離を置き換えません。また、DLPでFlagされた応答はキャッシュされ得るため、運用上許容する処置を明確にする必要があります。同時要求で必ずヒットすること、キャッシュが常にコストを下げることも保証されません。まず共有可能な公開コンテンツに範囲を絞り、ログとテストで広げる判断をしてください。
AI Gatewayのキャッシュ、DLP、テナント境界を一緒に設計したい場合は、AI基盤設計・セキュリティ相談をご利用ください。
一次情報と確認範囲
確認日：2026年9月4日。製品仕様・制度は更新されるため、導入時はリンク先の最新版を再確認してください。海外の制度・職業規範は日本へ直接適用せず、相違点と限界を本文に明記しています。