若者たちはGrokチャットボットが偽の親密な画像を生成したとしてイーロン・マスク氏のxAIを米国で訴訟する

今週月曜日(2026年3月17日)、3人のティーンエイジャーがイーロン・マスク氏の人工知能会社xAIに対して米国で集団訴訟を起こした。彼らは、Grok チャットボットが本物の写真から偽のポルノ画像を生成し、深刻なトラウマを引き起こしていると非難しています。サンノゼ連邦裁判所に起こされたこの訴訟は、未成年者を対象とした性的ディープフェイクへのAIの悪用に対する懸念を浮き彫りにしている。
虐待の詳細と最初の影響
告訴状では、すでに拘留されているある人物がGrokを使用して、ソーシャルメディアから入手した被害者の普通の写真を超リアルな性的画像に変換した経緯について詳述している。これらのモンタージュは、X、Discord、Telegram などのプラットフォームで拡散され、ダークウェブに移行し、そこで児童ポルノとして取引されました。若い女性に対する精神的影響は壊滅的であり、パニック発作、悪夢、卒業式に出席することへの恐怖などが報告されています。
過失の告発とデータ
弁護士らは、xAIが児童ポルノに対する基本的な保護を無視し、「営利目的で性的に露骨なコンテンツを制作できるようにGrokを意図的に設計した」と主張している。保護手段がなかったため、このツールが悪用される可能性がありました。デジタルヘイト対策センター(CCDH)の調査によると、2025年末、Grokは11日間で約300万枚の性的画像を生成し、そのうち2万3000枚は未成年のもので、重大な欠陥が浮き彫りになった。
xAIの対応と規制の探索
このスキャンダルを受けて、xAIは1月、Grokの画像処理を加入者のみに限定した。しかし、この措置は遅すぎると見られている。この訴訟は被害者の救済と人工知能の厳格な規制の前例を求めている。この訴訟は、企業のテクノロジー乱用に対する責任を問うことを目的としており、AIの開発と応用における倫理管理の緊急性を強調している。






