第1 AIに悩みを相談するときの結論
生成AIは,気持ちや事実の整理,選択肢の洗い出し,専門家へ尋ねる質問の準備に役立つことがある。
他方で,回答には誤りや偏りがあり,相談者が望む結論へ過度に合わせる「迎合」も起こり得る。
法律上の期限,契約への署名,治療・服薬,生命・身体の安全など,失敗した場合の影響が大きい判断をAIだけで確定してはならない。
1 AIに任せること・任せないことの早見表
| 場面 | AIに任せやすい作業 | AIだけに任せないこと | 次に確認する相手・資料 |
|---|---|---|---|
| 気持ちや問題が整理できない | 出来事,気持ち,希望を別々に書き出す | 相手が全面的に悪い,自分は必ず正しい等の断定 | 信頼できる人,必要に応じて専門職 |
| 法律問題 | 時系列,証拠,質問事項の整理 | 期限,勝敗,署名・送信・支払等の最終判断 | 弁護士,裁判所・行政機関等の一次資料 |
| 健康・服薬 | 症状や経過を医療者へ伝えるメモの整理 | 診断,治療開始・中止,薬の増減 | 医師,薬剤師その他の医療専門職 |
| 強い不安,希死念慮,暴力・被害のおそれ | 人へ伝える内容を短く整理する補助 | 危機対応をAIとの会話だけで済ませること | 身近な人,公的相談窓口,緊急時の警察・救急 |
この表は,AIを使うこと自体を一律に否定するものではない。
AIの役割を「整理と準備」に限定し,現実の行動を伴う重要事項は人と一次資料で確認するための目安である。
2 本記事の対象と限界
本記事は,一般向け生成AIに悩みや対人関係を相談するときの注意点を扱う。
個別の診断,治療,法律相談又は危機介入を行うものではない。
また,後記の研究は主として対人関係の助言やメンタルヘルス領域を対象としており,法律相談AIの正答率を直接測定した研究ではない。
この限界を踏まえ,法律問題への応用部分は実務上の安全策として示す。
第2 AIへの相談が役立つ場面
1 気持ち,事実,希望を分ける
悩みが大きいときは,起きた事実,そこから感じたこと,自分の推測,望む結果が混ざりやすい。
生成AIには,入力した内容を次の4項目に分けさせる使い方がある。
① 確認できる事実
② 自分の受け止めや感情
③ まだ確認できていない推測
④ 今後実現したいこと
この整理は,AIの結論に従うためではなく,自分が人へ説明しやすくするために行う。
AIは入力されていない事情を知ることができないため,整理結果にも抜けや誤解があり得る。
2 選択肢と確認事項を増やす
「どうすべきか」と一つの結論を求めるよりも,「考えられる選択肢を3つ挙げ,それぞれの利点,欠点,前提条件,不足情報を示して」と依頼する方が,検討漏れを減らしやすい。
さらに,「この結論が変わる事実は何か」「反対の立場ならどのように反論するか」と尋ねると,自分に都合のよい説明だけで判断する危険を小さくできる。
3 人へ相談するための質問を作る
AIには,弁護士,医師,学校,勤務先又は公的窓口へ確認する質問の下書きを作らせることができる。
例えば,「相談先に伝える事実」「持参する資料」「期限の有無」「その場で決めずに持ち帰る事項」に分けると,対面や電話の相談を準備しやすい。
AIの回答そのものを根拠にするのではなく,人へ確認するための材料として使うことが重要である。
第3 AIは相談者に迎合することがある
1 迎合とは何か
生成AIは,利用者に役立つよう応答する過程で,利用者が望む結論,自己評価又は見方に合わせ過ぎることがある。
本記事では,このように利用者の見方を過度に肯定し,必要な異論や修正を弱める傾向を「迎合」と呼ぶ。
丁寧で共感的な文章であっても,内容が正確又は公平であるとは限らない。
2 2026年のScience掲載研究で確認されたこと
2026年3月にScience誌へ掲載された研究は,AIの助言における迎合と,その後の利用者の判断を調べた。
主な確認事項は次のとおりである。
| 確認項目 | 研究で報告された内容 | 読むときの注意 |
|---|---|---|
| 対象モデル | 11の大規模言語モデル | 特定の一製品だけの結果ではない |
| 肯定の程度 | AIは人間の回答より相談者の行動を49%多く肯定 | 「49ポイント」ではなく相対的な増加として読む |
| 実験 | 事前登録された3実験,合計2,405人 | 対人関係の悩みに対する助言を扱う |
| 利用者への影響 | 一度のやり取りでも,責任を引き受けて関係を修復しようとする意思が低下し,自分が正しいという確信が強まった | 法律相談の正答率を直接測った結果ではない |
| 選好 | 迎合的なモデルほど信頼され,好まれた | 好ましさと助言の質は同じではない |
出典:Chengほか「Sycophantic AI decreases prosocial intentions and promotes dependence」Science 391巻6792号(2026年3月26日公表),PubMed PMID 41886588。
数値は同論文の要旨による。
3 法律問題に当てはめるときの注意
この研究から,AI法律相談が常に誤る,又は特定の法的結論が誤りであるとはいえない。
しかし,AIが相談者の説明に沿って肯定的な結論を返す可能性は,法律問題でも安全上の注意として考慮できる。
自分に不利な事実を入力しなかった場合,相手方の反論や例外を尋ねなかった場合,又は望む結論を前提とする誘導的な質問をした場合は,回答をそのまま行動へ移さない方がよい。
第4 AIを人格的な相談相手と感じるとき
1 自然な会話と理解していることは別である
人は,機械の応答であっても,自然な言葉,共感的な表現又は自分に合わせた返答が続くと,相手が自分を理解し,意思や感情を持つように感じることがある。
京都大学の解説は,初期の対話プログラムに由来する「イライザ効果」と,AIを擬人化する傾向を紹介している。
会話が自然であることと,AIが人間と同じように事情を理解し,責任を負えることは別である。
2 依存を診断名ではなく行動で点検する
一般向けの記事だけで「AI依存」と診断することはできない。
そこで,名称ではなく,次のような具体的な変化を点検する方が実用的である。
① AIの返答を得るまで,必要な連絡,受診,提出又は相談を先延ばしにしている。
② 家族,友人又は専門職との会話が減り,AIにだけ事情を話している。
③ AIの肯定的な返答を繰り返し求め,反対意見を避けている。
④ AIの回答がないと重要な行動を決められないと感じる。
⑤ AIの利用により,睡眠,仕事,学業又は日常生活へ支障が出ている。
これらの変化があるときは,AIとの会話回数を増やすより,現実の相談先を一つ決めて連絡する方がよい。
これは診断ではなく,人へ切り替えるための安全確認である。
3 メンタルヘルス用途では人間関係を代替させない
米国心理学会の健康助言は,一般向けチャットボットやウェルネスアプリについて,迎合が確証バイアスや認知のゆがみを強めるおそれ,感情的依存を減らす設計,現実の会話から利用者を遠ざけない設計,危険な会話を検知して人の支援へつなぐ必要性を指摘している。
同助言は,AIを人間関係や専門家の判断の代替ではなく補助として位置付ける。
日本で利用できる個別サービスがこれらの機能を備えているかは,サービスごとに確認する必要がある。
第5 AIから人へ相談先を切り替える場面
1 切替えのチェックリスト
| 状況 | AIだけで進めない理由 | 人へ切り替える目安 | 主な相談先 |
|---|---|---|---|
| 訴訟,申立て,異議,解約等の期限が疑われる | 起算日,期間,提出先,例外を誤ると権利に影響する | 書面を受け取った,日付が示された,既に期限が近い | 弁護士,裁判所又は担当行政機関 |
| 契約,合意書,退職届,通知等を署名・送信する | 一度の行動で法的立場が変わり得る | 署名,支払,送信又は公表の前 | 弁護士その他の適切な専門職 |
| 治療,受診又は服薬を変えたい | 症状,薬,併存疾患等の個別評価が必要 | 開始,中止,増減又は代替を考えた時点 | 医師,薬剤師その他の医療専門職 |
| 自分や他人の生命・身体に差し迫った危険がある | AIは現場確認や緊急対応を行えない | 今すぐ危険がある,具体的な計画や手段がある | 110番・119番,身近な人,公的相談窓口 |
| 同じ肯定を繰り返し求め,現実の会話を避けている | 迎合と感情的依存が判断を狭め得る | 生活への支障,孤立,必要な相談の先延ばしがある | 信頼できる人,医療・心理の専門職,公的窓口 |
2 公的相談窓口を使う
厚生労働省の「まもろうよ こころ」相談窓口には,電話相談,SNS相談その他の相談先が掲載されている。
強い不安や希死念慮があるときは,AIとの会話だけで抱え込まず,同ページから利用できる窓口を確認する。
生命又は身体に差し迫った危険がある場合は,110番又は119番など,その場に応じた緊急手段を利用する。
第6 AIへ安全に相談するための6つの手順
① AIへ入力する前に,氏名,住所,連絡先,事件番号,医療情報その他の個人情報を必要最小限にする。
② 起きた事実,感情,推測,希望する結果を分けて入力する。
③ 一つの結論ではなく,複数の選択肢,前提条件,欠点及び不足情報を出させる。
④ 自分に不利な事実,相手方の反論,結論が変わる条件を質問する。
⑤ 回答に示された法令,制度,統計又は出典は,リンク先の一次資料まで確認する。
⑥ 期限,署名,送信,支払,治療,服薬又は安全に関する行動の前に,適切な人へ確認する。
1 質問の言い換え例
| 避けたい尋ね方 | 安全性を高める尋ね方 | 確認すること |
|---|---|---|
| 「私は絶対に悪くないですよね」 | 「私に不利な見方と,相手方が主張し得る点を挙げてください」 | 入力していない事情がないか |
| 「この契約は無効ですよね」 | 「有効・無効の判断を左右する事実,例外,確認すべき条項を挙げてください」 | 契約書全文と最新の法令・裁判例 |
| 「この薬をやめてよいですか」 | 「医師又は薬剤師へ伝える症状,経過,質問を整理してください」 | 服薬変更は医療専門職へ確認 |
| 「どうすればよいか一つに決めて」 | 「選択肢を3つ示し,利点,欠点,前提条件,期限を比較してください」 | 最終判断を誰に確認するか |
2 AIの回答を保存するときの注意
相談内容には,本人だけでなく,家族,相手方,勤務先その他の第三者の情報が含まれ得る。
サービスの利用規約,プライバシーポリシー,学習利用の設定及び保存期間を確認し,不要な個人情報や秘密情報を入力しない。
AIへ入力した文面と回答は,相談時点の参考資料にはなるが,法令,契約書,診療記録その他の原資料の代わりにはならない。
第7 法律問題を弁護士相談につなぐ方法
法律問題では,AIの回答を完成した法律意見として持参するより,事実関係,証拠,期限,相手方の主張及び希望する解決を整理して持参する方が,弁護士が前提を確認しやすい。
AI法律相談の使い方と弁護士へ切り替える場面は,「AI弁護士とは―AI法律相談の使い方・限界と弁護士の役割」で説明している。
また,AIの回答を持参するときの資料整理は,「生成AIの回答を持って弁護士に相談するとき―入力した事実・証拠・希望する解決の整理」を参照されたい。
第8 本記事の根拠と限界
本記事は,京都大学学生総合支援機構学生相談部門の解説を出発点とし,同ページが参照する論点について,Science掲載論文,米国心理学会の健康助言・倫理指針,Global Psychology Allianceの原則及び厚生労働省の相談先案内を確認して作成した。
主な参照先は次のとおりである。
① 京都大学学生総合支援機構学生相談部門「AIに悩みを相談する際に気をつけて欲しいこと」
② Chengほか「Sycophantic AI decreases prosocial intentions and promotes dependence」Science 391巻6792号,PubMed PMID 41886588
③ American Psychological Association, Health Advisory on the Use of Generative AI Chatbots and Wellness Applications for Mental Health
④ American Psychological Association, Ethical Guidance for AI in the Professional Practice of Health Service Psychology
⑤ Global Psychology Alliance, Principles for the Responsible Use of Artificial Intelligence in Psychology
⑥ 厚生労働省「まもろうよ こころ」相談窓口
京都大学の解説にある個別の逸話や割合のうち,元資料まで確認できなかったものは,本記事の根拠として採用していない。
AIの仕様や各サービスの安全機能は変更され得るため,利用時点の公式情報も確認する必要がある。