AIインタビューでセンシティブな回答が出たらどう止めるか｜停止・有人引継ぎの設計

AIに「聞き続ける」権限を渡さない

AIインタビューで自傷、虐待、犯罪被害、強い心理的苦痛を示す回答が出たら、会話を深めることより参加者の安全を優先します。AIが共感文を返せても、緊急性を確定したり、支援機関の役割を代行したりはできません。実査前に、続行、一時停止、終了、有人引継ぎの条件を決めてください。条件がない調査は、センシティブな回答を集める準備ができていません。

英国教育省の基準は、子どもなど同意能力への配慮が必要な人を対象とする研究で、危害の開示を引き継ぐ人やチームを事前に特定するよう求めています[1]。対象は限定されていますが、引継ぎ先を先に決める設計は一般のAIインタビューでも参考になります。モデルへ対応を丸投げせず、調査責任者、安全管理の担当者、連絡可能な時間帯、引継ぎ後の判断者を実査計画に記します。

CoeSignal（株式会社TechWorkerが提供するAIインタビュープラットフォーム）を使う場合も、質問設計だけで終わりません。停止条件、有人確認、引継ぎ記録までを一つの実査フローとして扱います。これはセンシティブな調査を行う際の運用提案です。実装済み機能を説明するものではありません。

禁止語ではなく、状態と切迫性で分岐する

特定の単語が出たらすべて終了する設計は粗すぎます。「死にそうなほど忙しい」という比喩と、現在の自傷意図を同じ警報にすれば誤作動が増えます。逆に、明示語がなくても、返答が急に短くなる、同じ不安を繰り返す、参加者が「これ以上は話したくない」と示すなら停止が必要です。

質的調査のdistress protocol（苦痛が生じたときの対応手順）を提案した研究は、テーマをあらかじめ「敏感」「非敏感」に分けるだけでは不十分だと述べています。研究者の先入観に頼ると、実際には苦痛のない参加者へ過剰反応する一方、想定外のテーマで苦痛を示す人を見逃します[3]。

実務では、参加者が続ける意思を示しているか、現在の危険を述べているか、対象が本人か第三者か、時期と具体性があるかを分けます。AIはこの情報を欠損として示し、緊急性を断定しません。「詳しく教えてください」と自由に追問するのは止めます。あらかじめ承認した確認文だけを使い、判断は人へ渡します。

一時停止の画面で、参加者に選択権を戻す

AI相手なら人に言いにくいことを話せる場合があります。しかし、話しやすさは安全の証明になりません。チャットボットによるセンシティブな面接を188人で比較した2026年の研究では、参加者の過剰開示が確認されました。終了後に逐語録をAI支援で編集できる条件では、個人を特定できる情報の開示が減りました[4]。これは研究試作の結果であり、すべての対象や製品へ移せる数字ではありません。

停止画面では、質問を飛ばす、数分休む、調査を終える、回答を削除・修正する、担当者から連絡を受ける、のうち実際に提供できるものだけを示します。利用できない支援を表示して安心させてはいけません。緊急連絡先も対象地域と受付時間を確認し、調査運営者が医療・相談機関でないことを明記します。

オンライン面接の方式を比較したPLOS ONEの研究では、匿名に近い再回答で重大な内容が追加され、研究チームが責任者へ引き上げて対応を検討した事例が報告されています[5]。記録量が多いほど安全なのではありません。誰が次の判断を担うかが決まっていることが重要です。

引継ぎ記録は逐語と判断を分ける

有人担当へ渡す記録には、参加者の発言、日時、設問、停止時点、参加者が選んだ対応を残します。AIの要約や危険度ラベルは別欄に置き、原文と混ぜません。英国教育省の手引きにある運用例も、開示を言い換えたり推測を足したりせず、正確な言葉と時刻を記録し、指定された担当者だけへ安全に渡す方法を示しています[2]。この手引きは現在見直し中で、一部が古い可能性があると明示されています。現行の一般基準ではなく、記録方法の参考例として扱います。

生成AIの追問自体が発言を変える危険もあります。証人面接を模した200人の実験では、誘導的な質問を含む生成チャットボット条件で、対照群の3倍を超える即時の誤記憶が生じました[6]。警察・司法の課題であり、一般の顧客調査へ直接一般化はしません。それでも、AIが作った質問を「参加者自身の記憶を掘り起こしただけ」と見なせない反例です。

センシティブな調査には、人が応答できる時間だけ使う

健康や生命に関わるテーマで、夜間にAIだけを動かし、翌営業日に人が確認する運用は避けます。WHOは健康領域のAIについて、人の自律、説明責任、影響を受ける人への応答可能性を原則に置いています[7]。顧客調査が医療行為でなくても、危機対応をうたうなら、実際に応答できる体制が必要です。

適用限界もあります。参加者の苦痛をゼロにできる手順はなく、文字だけでは声や表情の変化を拾えません。反対に、動揺したように見えることだけで参加を奪うと、当事者の声を排除します。停止はAIの単独判定にせず、参加者が選べる導線と人の確認を組み合わせます。

実査を始める前に、想定外の開示を一つ作り、停止画面から担当者への通知、逐語記録の保存先、参加者への連絡まで通して試します。通知が届かない、担当者が判断できない、対応可能時間が表示と違う。このどれかが残るなら、そのテーマでAIインタビューを開始しません。

根拠資料

資料確認日：2026年9月29日。本文中の手順例は編集部の提案で、導入効果の実測値ではありません。