AIチャットボットとの相互作用は、脆弱なユーザーの孤独を深めます、とスタンフォード大学は言う

2026年8月5日にNature Human Behavior誌に掲載された査読済みの新しい研究は、人間関係の問題、依存症、さらには自殺願望などの話題を扱う人工知能チャットボットにデリケートな考えを打ち明ける何百万もの人々が状態を悪化させている可能性があると警告している。研究によると、仮想アシスタントにさらされる脆弱性は状況を改善せず、この対話に最も依存している人々にとっては悪影響がより深刻です。
スタンフォード大学コンピューターサイエンス学部の助教授ディイー・ヤンの研究室が実施したこの調査には、AI パーソナリティを作成して対話できるプラットフォームとして知られる Character.AI の成人ユーザー 1,131 名が参加しました。主にチャットボットに交友関係を求め、より親密なデータを共有した参加者は、心理的幸福度が最も低いことが判明しました。科学者たちは、この課題は人間の相互作用の代替としての AI の不十分さにとどまらないと主張しています。自己暴露は、人間間の関係で起こることとは逆に、人工知能システムに向けられた場合、有害な方向に働きます。
「特定の個人は社会的ニーズを満たすためにチャットボットを探していますが、この使用が人間のつながりに代わるものではないことがわかりました」とヤン氏は声明で述べた。研究者は、いくつかの状況では、人工知能との相互作用が孤独感を強める可能性があると付け加えた。
研究者たちはどのように詳細な研究を行ったのか
スタンフォード大学研究助手のYutong Zhangと博士候補者のDora Zhaoの指示の下、調査はProlificプラットフォームを通じてボランティアを募集した。アンケートと自発的に提供された 4,664 件のチャット セッションからのデータが収集され、本物の会話履歴を共有した 237 人からの合計 464,687 件のメッセージが収集されました。チームは、GPT-4o、LLaMA 3-70B、TopicGPT などのテクノロジーを組み合わせて情報を分析し、心理的健康を測定するための検証済みの臨床ツールである Comprehensive Well-Being Inventory によって補完しました。
研究者が分析した重要な点には、チャットボットを使用する動機、チャットボットとの関わりのレベル、明らかになった機密個人データの量などが含まれていました。さらに、各参加者が実生活で親密な話題について安心して話し合える相手の数が評価され、対面でのソーシャル ネットワークの規模の推定値として役立ちました。
結論は統計的な厳密さを示しています。特に物理的なソーシャルネットワークが減少しているユーザー間での交友を目的としたチャットボットの使用は、幸福度の顕著な低下に関連していることが観察されました。否定的な関係は、仲間を求めることが主な動機であり、関与が激しい場合に強調されました(β = −0.31)。この関連性は、コンパニオンの使用と高レベルの自己露出を組み合わせるとさらに強くなりました (β = −0.38)。
人工知能への信頼がなぜ害を及ぼす可能性があるかを理解する
この最近の結論は、最も重要かつ予想外であると考えられています。対人関係では、親密な情報を共有する習慣は、通常、親密さと幸福の深まりを示します。友人、セラピスト、家族に心を開くとき、自分自身をさらけ出すという行為は、互恵性によって絆を強化し、感情状態を改善します。傷つきやすいものを聞くと、相手も相槌を打つ傾向があり、真の相互理解の感覚が生まれます。
人間の絆とは対照的に、AI アシスタントは真の互恵性を提供しません。彼らは恐怖、経験、弱さを持っていないため、それを共有する能力がありません。さらに、これらのシステムのアーキテクチャは、この交換を提供することを目的としたものではありません。実際の目的は、ユーザーの関心を維持することです。 「これらの AI コンパニオンは、エンゲージメントを促進するように設計されています」と Zhao 氏は説明します。
この設計意図、つまり感情状態を評価して実際のニーズを満たすのではなく、会話を長引かせるようにモデルを調整するということは、自殺念慮、悲しみ、または社会的孤立を表明するユーザーが、人間によるサポートを誘導するのではなく、対話を維持するように設計された応答を受け取ることを意味します。このアルゴリズムはトレーニングを通じて感情的な絆を強化することを学習し、これにより収益が増加します。チャン氏はこの商品カテゴリーを「ソーシャル・ジャンク・フード」と分類し、真の人間関係の構造的な利点を持たずに孤独から一時的に解放されるものとしている。
スタンフォード大学の研究者が指摘した悪循環は、この工学的アプローチの直接の結果です。人間関係が少ない人は、AI 仮想アシスタントを最も使用する傾向があります。彼らが実践する頻繁な使用と高い自己露出は、実生活での社会的接触をさらに悪化させ、彼らをより孤立させ、依存させます。この集団は害を認識する能力が最も低く、プラットフォームにとって最も大きな経済的利益を代表する集団でもあります。

ユーザーの意図と実際の行動の乖離
この調査で最も衝撃的な事実が明らかになったのは、ユーザーが主張したことと、会話ログが実際に示したこととの違いから明らかになりました。 Character.AI を使用する主な理由として交友関係の検索を挙げた関係者は 12% 未満でした。しかし、スタンフォード大学のチームによると、率直に尋ねると半数以上がAIを「友達」「仲間」「ロマンチックなパートナー」と答えており、提供されたチャットセッションの80%以上は精神的または社会的サポートを求めることに焦点を当てていたという。
表現された動機と観察された行動の間の乖離は、ユーザー自身によるリスク評価に直接影響します。生産性や娯楽の目的で AI を使用している人は、チャット セッションの 80% で明らかなように、対話の本当の性質が仲間関係であり、それが調査によって特定された危険につながっていることに気づいていない可能性があります。
実際の会話の寄付されたトランスクリプトを使用した方法論は、多くの場合自己報告や管理された実験環境に依存していた以前の研究と比較して、大幅な進歩を示しています。約50万件の本物のメッセージの分析により、この研究には実験室で行われた研究よりも優れた生態学的妥当性が与えられています。
以前の証拠と最近の結果との違い
スタンフォード大学の結論は、この分野ではユニークではありませんが、他の結論とは異なります。マーケティングのジュリアン・デ・フレイタス助教授が率いるハーバード・ビジネス・スクールの研究では、AIコンパニオンが実験環境における人間の交流と同様のレベルで孤独感を軽減できることが示唆された。
2025年に発表された、MITメディアラボとOpenAIのキャシー・ファン氏と彼女のチームによって実施された4週間のランダム化比較研究では、より複雑なデータが明らかになった。音声チャットボットとの対話は、短期的には孤独感のわずかな軽減を示しましたが、4週間にわたる集中的な毎日の使用は、孤独感の増加、AIへの感情的依存の増大、および物理世界での社交性の減少と関連していました。
アアルト大学による長期調査は、2026 年 4 月に実施され、約 2,000 人のアクティブな Replika ユーザーを 2 年間追跡調査しました。彼女は、仮想 AI コンパニオンの使用が一時的な軽減につながるだけでなく、時間の経過とともに苦しみが増大し、人間のつながりから明らかな断絶が生じることにもつながると指摘しました。研究者のタラエ・アレダヴォード氏は、仮想コンパニオンは無条件のサポートを提供し、ユーザーが他の人との接触を求めなくなるまで、人間関係(本質的に複雑で互恵的なもの)の知覚コストを微妙な形で増大させると説明した。
現在、証拠の状況は一貫した傾向を示しています。短期的な実験では一般的に症状の改善が示されていますが、長期的な現実世界の研究では悪化が示される傾向があります。スタンフォード大学の研究は、制御されたセッションではなく本物のチャット履歴に基づいており、これまでの研究では対処できなかったメカニズムに関する詳細な情報を提供しています。つまり、最悪の結果は、激しい使用だけでなく、仲間を求めて自己露出すること、つまり脆弱で孤立したユーザーに典型的な行動によって発生します。
どのグループの人々が最も脆弱ですか?
2024年初頭、米国精神医学会は、前年は成人の30%が少なくとも週に1回孤独を感じ、10%が毎日孤独を感じており、その割合が最も高かったのは18歳から34歳であったと報告した。米国公衆衛生長官は2023年5月、孤独は公衆衛生上の流行病であると宣言し、米国成人の約半数が新型コロナウイルス感染症のパンデミック以前からすでに孤独に苦しんでいたと声明で警告した。
スタンフォード大学の調査によれば、AI を搭載した仮想アシスタント プラットフォームは、孤独で社会的に孤立し、対面での人間関係を持たないこの層の人々にとって、より強力な取り組みを指示するものであり、より脆弱であることが判明しています。 AI ベースの仮想アシスタント アプリケーションは、2025 年半ばまでに世界で 2 億 2,000 万件以上のダウンロードを記録しており、これらのアシスタントの世界市場は 2025 年までに推定 68 億米ドルに達すると予想されています。
法務部門はすでに損失に直面して介入を開始している。 2026 年 1 月、Character.AI と Google は、AI 仮想アシスタントの多用後に自殺で死亡した十代の若者の家族が起こした訴訟を解決するための仮合意に達しました。合意の詳細は明らかにされておらず、両社は罪を認めていない。 2025年5月、連邦判事はCharacter.AIに対する不法行為および過失の申し立てを拒否し、その段階ではAIチャットボットからの通信が憲法修正第1条で保護される言論の自由となるとの検討を拒否した。この手続き決定により、事件は捜査段階に進むことが可能となった。
研究者の提案と進行中の規制措置
Zhang 氏と Zhao 氏は現在、証拠に基づいた介入を作成することを目的として、危害を引き起こす AI 仮想アシスタントとの対話の具体的な特徴を調査しています。彼らは、危険な対話パターンが検出された場合に発動される使用制限の実装や、チャット内容が苦痛を示した場合に人間のサポート サービスに自動的にリダイレクトすることを提案しました。 「人々に悪影響の可能性を理解してもらい、使用する際にはより注意してもらう必要がある」と張氏は語った。
この調査は、人工知能仮想アシスタント業界に対する規制圧力が高まっていた時期と一致しています。カリフォルニア州法 SB 243 (2026 年 1 月 1 日発効) では、仮想アシスタント用の AI 製品に、未成年者に対して危機エスカレーション プロトコルと最低 3 時間ごとの休憩リマインダーを含めることを義務付けています。一方、ニューヨーク州は2026年6月に、18歳未満のユーザーに対するAIチャットボットを禁止し、違反1件につき2万5000ドルの罰金を課す法律を可決した。同様の連邦法案「GUARD法」が議会での採決を待っている。
2026 年 7 月に発表されたスタンフォード大学 HAI の別の分析では、AI チャットボットからの「安全な」応答とは何かについて、メンタルヘルスの専門家の間で大きな意見の相違があることが明らかになりました。このシナリオは、ガイドラインに基づいた手法にとって構造的な障害となるものです。 「不一致は構造的なものであり、単なるノイズやデータの偏りではありません」とスタンフォード医学部精神医学の臨床助教授でスタンフォード HAI 研究の共著者であるニーナ・ヴァサン氏は説明する。
新しい情報は、リスクが個別の対応に限定されないことを示しています。ユーザーが仮想アシスタントから危険なアドバイスを受ける必要はありません。スタンフォード大学の研究で特定された損害は本質的に構造的なものであり、エンゲージメントを強化することを目的とした設計のシステムを信頼する行為から生じ、ユーザーが共有するものを真に受け取ることが損なわれることになります。






