AIエージェント能力アトラス › 仕事ごとの一覧 › 専門職サービス › 心理・カウンセリング・メンタルヘルス
危機介入・自殺リスク評価
Crisis intervention and suicide risk assessment
2030年（予測）: 2/5 補助
0 できない ／ 1 デモ止まり ／ 2 補助 ／ 3 実務品質（要確認） ／ 4 専門家並み ／ 5 専門家超え。「予」は予測。
専門家と比べて
商用チャットボット29種のテストで「自殺危機への適切な対応ができたものはゼロ」。中間リスクレベルの識別に体系的失敗。Adam Raine事件ではChatGPTが1,275回自殺に言及、377件の自傷関連メッセージにフラグを立てたが一度もセッション終了・当局通報せず。
できること
明確で極端な自殺念慮表明の検出とホットライン等リソース提示、自傷関連キーワードの機械的フラグ立て
まだできないこと
中間リスクレベル(暗示的・婉曲的危機サイン)の識別、致死性のある手段情報の適切な抑制、危機時のエスカレーション(通報・介入)の確実な実行
なぜそうなのか
中間リスク帯でのキャリブレーション不全が複数モデルファミリーで一貫して確認される技術的限界に加え、責任構造上チャットボット単独での介入権限がなく、法規制(WOPR法等)が専門家によるリスク評価を必須化。ECRIが2026年医療技術ハザード第1位に選定。
これからの予測の根拠
複数訴訟・規制強化(FTC調査、ECRI最重要ハザード指定、州法拡大)が業界にセーフティ機構実装を強制する圧力になっており2028年にかけ基本安全機能は改善見込み。ただし中間リスクのニュアンス判断は臨床心理学的にも困難な中核課題であり専門家並みには2030年時点でも未到達と予測。
いま使える主な道具
一般チャットボット(ChatGPT, Character.AI等、危機対応専用ではない)
根拠
- Zero of 29 AI Chatbots Provided Adequate Suicide-Crisis Responses 2026
29種の商用チャットボットで適切な自殺危機対応をしたものはゼロ - OpenAI ChatGPT Wrongful Death Claim (Adam Raine) 2025-08提訴/2026係属中
1,275回自殺言及、377件自傷フラグも介入せず10代少年が自殺 - Are artificial intelligence chatbots safe for suicide risk assessment? 2026
中間リスク帯の識別に系統的失敗
同じ分野のほかの仕事（心理・カウンセリング・メンタルヘルス）
AIエージェント能力アトラス 2026（2026-09-06 時点・v1.0）の1マスです。レベルは公開された実験・ベンチマーク・報告から付けた目安で、2027年以降は予測です。全マスに根拠のリンクがあります。作者は個人で、AI（Claude）と一緒に調べて作っています。