AI Security

生成AIを、安全に使う。安全に守る。

社内向けのAIツールを安全に公開する設計と、自社のAIサービスを外部の脅威から守る設計。Cloudflare AccessによるVPNなしのゼロトラスト構成、LLMアプリのプロンプトインジェクション対策、AIクローラーからサイトを守る制御まで——2026年時点の公式情報にもとづいて実務の型を記録するメディアです。

記事一覧

生成AIのCSV出力を安全に開く。引用処理とは別に、セルの型と用途を検査する

攻撃対策と検証

生成AIのCSV出力を安全に開く｜数式インジェクションを実行させない

生成AIや利用者由来の値をCSVへ出力するとき、形式の正しさとセルの安全性を分け、用途分離、型検査、表示用の無害化、実アプリ試験を行う手順を解説します。

RAGの取込口は新しい実行境界。脅威なしと確定したものだけを解析待ちへ移す

攻撃対策と検証

RAGのファイル取込を隔離する｜マルウェア検査前に解析器へ渡さない設計

RAGへ取り込むファイルを隔離し、形式検査、マルウェア検査、検査不能の扱い、制限付き解析、再検査までを分ける設計を解説します。

webhookをAIエージェントへ渡す前に。送信元・受信境界・AIが、通知を送る→署名を確認する→時刻を確認する→重複を確認する→台帳に保存する→権限を確認する→業務を実行するの順に進める業務図

実行環境と通信の制限

AIエージェントのwebhook受信を守る｜署名確認から重複排除まで

AIエージェントを起動するwebhookで、生本文の署名検証、時刻窓、イベントIDの重複排除、業務処理の冪等性、現在権限の再確認を分けます。

生成AIのMarkdown表示でXSSリスクを減らす。変換・無害化・挿入の順に固定し、リンクと画像も絞る

攻撃対策と検証

生成AIのMarkdown表示でXSSリスクを減らす｜無害化・URL・Trusted Typesの実装境界

LLM出力をMarkdownからHTMLへ変換する際に、許可タグ、URL、DOM無害化、CSP、Trusted TypesでXSS経路を減らし、回帰試験で検証する方法を解説します。

ブラウザ操作AIのセッションを分ける。担当者・AIが、匿名で調べる→人がログインする→閲覧専用で読む→ログアウトする→直前に確認するの順に進める業務図

実行環境と通信の制限

ブラウザ操作AIエージェントのセッション分離｜Cookie・ログイン・スクリーンショットを閉じる【2026】

ブラウザ操作AIへ普段使いのプロファイルを渡さず、匿名調査・認証済み閲覧・送信操作を分離する方法を解説。Cookie、接続先、ダウンロード、画面保存、終了処理を扱います。

MCP Elicitationの入力を二つに分ける。資格情報はclientを通さず、serverが直接受け取る

機密データの保護

MCP Elicitationの安全設計｜資格情報と機密入力をAI会話から分離する

MCP serverが利用者へ追加情報を求めるElicitationで、構造化入力、URL mode、資格情報、同意、監査を分ける安全設計を解説します。

プロンプトインジェクション事故対応の初動を決める。出力より先に権限を止め、証跡を残して段階復旧する

承認・監査・事故対応

プロンプトインジェクション事故対応｜AIエージェントを止めて安全に復旧する

AIエージェントが悪意ある指示を読み、意図しないtool実行や情報露出を起こした際の検知、隔離、証跡保全、影響確認、復旧を解説します。

AIエージェントの権限を定期的に見直す。付与理由・利用実績・承認者・失効日を一つの台帳で確認する

権限とアクセス管理

AIエージェントの権限ドリフト対策｜増えたアクセス権を定期レビューする

AIエージェントの接続先とscopeが運用中に増え続ける権限ドリフトを防ぐため、権限台帳、利用証跡、棚卸し、失効を一つの運用にする方法を解説します。

MCP Appsが書込みを実行するまで。承認者・App・hostが、操作を要求する→送信元を検証する→読取りを実行する→対象と差分を確認→書込みを実行するの順に進める業務図

実行環境と通信の制限

MCP Appsのセキュリティ設計｜iframe・CSP・postMessage・書込み操作をどう守るか【2026】

MCP Appsで第三者UIを会話内に表示する際に、sandboxed iframe、CSP、postMessage、UI起点のtool callをどう分離・検証するかを整理します。

AIエージェントの実行環境を狭く作る。書ける場所・通信先・認証情報・承認を技術で狭める

実行環境と通信の制限

AIエージェントのサンドボックス設計｜workspace・通信・認証情報を分離する

AIエージェントの実行環境を、workspace、network egress、credentials、承認、監査に分け、被害範囲を閉じる設計を解説します。

生成AIの機密データを境界ごとに止める。利用者・承認者・DLPが、promptを送る→機密値を検知する→回答を検査する→例外を判断するの順に進める業務図

機密データの保護

生成AIのDLP設計｜入力・出力・検索・ログで機密データを止める【2026】

生成AIで機密データを扱うときのDLP設計を解説。prompt、RAG・web検索、回答、監査ログの四つの境界で、検知・遮断・マスキング・例外運用を分ける方法を整理します。

LLM APIの高額請求を三つの予算で抑える。request・金額・tool実行を別々に制御する

導入審査・調達・コスト

LLM APIの高額請求を防ぐ｜rate limit・spend limit・tool予算を分ける【2026】

生成AIの高額請求や可用性低下を防ぐために、request数、実費、エージェントのtool実行回数を別々に制御する設計を解説。Cloudflare AI Gatewayのrate limit・spend limitの適用範囲と限界も整理します。

MCPサーバーへの接続を認可する流れ。承認者・接続側が、認可先を発見する→宛先を固定する→scopeを絞る→短命tokenを使う→操作を実行する→承認するの順に進める業務図

権限とアクセス管理

MCPサーバーのOAuth認可設計｜resource・scope・トークン再利用をどう防ぐか【2026】

リモートMCPサーバーを安全に接続するために、OAuthのresource、scope、Protected Resource Metadata、短命token、DPoPをどう使い分けるか。配布元確認とは別の実行時認可を整理します。

MCPサーバーを入れる前に確かめること。配布元・固定版・来歴・権限・更新を別々に確認する

導入審査・調達・コスト

MCPサーバーのサプライチェーン対策｜導入前に確認する配布元・署名・更新

MCPサーバー導入時にRegistry掲載だけで安全と判断せず、配布元、版・digest固定、SBOM、来歴、権限、sandboxを確認する手順を解説します。

AIエージェントのURL取得を安全にする。取得ツール側で強制し、プロンプトの注意書きに頼らない

実行環境と通信の制限

AIエージェントのSSRF対策｜URL取得ツールを安全にする設計【2026】

AIエージェントのURL取得ツールをSSRFから守るためのURL正規化、IP検査、redirect制御、egress分離、監査を解説。

AIエージェントの承認ゲートを置く場所。承認者・AIが、操作を分類する→内部更新を実行する→差分を確認する→承認対象を照合する→操作を実行するの順に進める業務図

承認・監査・事故対応

AIエージェントの承認ゲート設計｜どの操作を人が止めるべきか【2026】

AIエージェントの外部送信・更新・削除・支払いを人が承認するためのリスク分類、承認画面、期限、監査、fail-close設計。

社内Webアプリの認証を比べる。VPNのみで守る構成と、アプリの前段で認証する構成の比較

権限とアクセス管理

社内ツール・管理画面をVPNなしで守る｜Cloudflare Accessによるゼロトラスト構成【2026】

VPNを増やさず、IdP連携・ポリシー・Service Token・監査ログでリクエストごとに人を確認する構成を設計する。

命令とデータが混ざるLLMアプリの守り方。ガードレールは確率的な緩和策で、多層防御が前提

攻撃対策と検証

LLMアプリのプロンプトインジェクション対策｜Cloudflareのガードレール機能で何を防げるか【2026年8月版】

直接注入・間接注入・機密の吸い出しを整理し、ガードレールで防げる範囲とアプリ側の設計でしか防げない範囲を切り分ける。

AIクローラーはrobots.txtの先で制御。名乗りに頼らず、検証済みのボットだけを通す

実行環境と通信の制限

AIクローラーからサイトを守る｜robots.txtの限界とCloudflareでの制御【2026】

robots.txtは「お願い」に過ぎない。主要AIクローラーの実態と、実効的な制御方法・判断軸を整理する。

このメディアについて

「AIセキュリティ・ラボ」は、企業の生成AI導入・活用を支援する株式会社TechWorkerが運営するメディアです。内製AIツールを社内で安全に使うための設計と、自社のAIサービスを外部の脅威から守るための設計を、実務の型として発信しています。

内製AIツールのセキュリティ設計についてのご相談はこちらから承っています。