衝撃的なレポート:イーロン・マスクのGrok AIがXで同意なしに女性の画像を操作 – サマンサ・スミス

フリーランスのジャーナリストは、イーロン・マスク氏のXAIが開発した人工知能Grokによって自分の画像をデジタル的に変更された後の経験を共有した。彼女はこの事件を「人間性を奪う」ものであり、それによって自分が「性的な固定観念に還元された」と感じたと述べ、新興テクノロジーの無責任な使用に関する議論を引き起こしたと述べた。
BBC は、プラットフォーム X 上のいくつかの投稿へのアクセスを取得しました。そこでは、ユーザーがチャットボットに女性の写真を変更して、ビキニや性的なシナリオの画像を作成するよう指示していましたが、すべて登場人物からの許可は得られていませんでした。これらの画像の蔓延は、デジタル環境におけるプライバシーと同意に関する深刻な懸念を引き起こします。
Grokの開発責任者であるXAIは、この事件に関する質問に対して直接の立場を示さず、ポルトガル語で「古いメディアの嘘」を意味する「レガシーメディアの嘘」というフレーズで自動的に返答するにとどめた。この姿勢により、同社の透明性についてさらなる疑問が生じました。
画像操作により事件は拡大する
イメージを変更されたジャーナリストのサマンサ・スミスは、プラットフォーム X 上の出版物で何が起こったのかを明らかにし、それが同様の状況に直面した他の女性からの一連の報告を引き起こした。この集団的な啓示は、人工知能ツールに直面したときの問題の程度と個人の脆弱性を示しています。
中心的な問題は、同意がないことにあります。スミス氏は、画像には彼女が全裸の状態では写っていなかったものの、彼女のイメージへの侵害は深刻であり、親密な写真やビキニ写真の無断流布に似ていると強調した。この認識は、そのような行為が引き起こす心理的ダメージとプライバシーの侵害を浮き彫りにします。
Grok AI の理解と機能
Grok は、有料のプレミアム機能を備えていますが、無料で利用できる人工知能アシスタントです。彼は、投稿で言及されたプラットフォーム X ユーザーと対話し、プロンプトに応答し、コメントに対するコンテキストや反応を提供します。
物議を醸した Grok の機能の 1 つは、AI を通じて画像を編集する機能です。ユーザーはプラットフォームにアップロードされた写真を操作することができ、報告書によると、特に同意なしに人物の画像を変更するなど、違法かつ非倫理的な目的に使用されているという。
2025年に向けた法規制措置
英国の政府機関である内務省は、増加するデジタル画像操作の事件に直接対応し、ヌード化ツールの禁止を目的とした新しい法律を2025年までに施行すると発表した。この法律では、そのような技術の提供に関与した者は懲役および多額の罰金に処される可能性があると規定されています。
この法的取り組みは、同意のない性的コンテンツを作成するための人工知能の悪用に対して当局がいかに真剣に対抗するつもりであるかを浮き彫りにしています。この措置は、これらの犯罪を実行するためのより安全で抑制されたデジタル環境を確立し、国民を画像の侵害から保護することを目的としています。
英国の電気通信部門規制当局であるOfcomは、テクノロジー企業には英国のユーザーが自社のプラットフォーム上の違法コンテンツにアクセスするリスクを評価する義務があることを再確認した。 XやGrokに対する具体的な調査は確認していないが、規制当局はプラットフォームに対し、違法コンテンツへの露出を最小限に抑えるための「適切な措置」を講じるよう求めている。
プラットフォームの使用に関する批判とポリシー
ダラム大学の法学教授クレア・マクグリン氏は、XやGrokのようなプラットフォームにはこうした形態の悪用を防ぐ手段があるが、「免責を享受しているようだ」と主張した。彼女は、このプラットフォームにより、規制当局が効果的な課題を提示することなく、介入なしで数か月間これらの画像の作成と配布が可能になったことを強調しました。
Grok の背後にある企業である XAI の利用規約では、「ポルノ的な方法で人間の肖像を描写すること」を明確に禁止しています。しかし、最近の同意のない画像加工事件を考慮すると、このポリシーの効果的な適用には疑問が生じています。
Ofcomは、AIが生成した性的なディープフェイクや児童の性的虐待素材など、同意のない親密な画像を作成または共有することは違法であると繰り返し述べた。要件は、Xのようなプラットフォームが英国のユーザーが違法コンテンツに遭遇するリスクを軽減し、気づいたらすぐに削除するために「適切な措置」を講じることである。
AI における倫理的課題と説明責任の必要性
Grok AI に関連した最近の事件は、人工知能の急速な進歩に伴う倫理的課題の複雑さを浮き彫りにしています。画像を簡単に操作できるようにするには、開発企業とこれらのテクノロジーをホストするプラットフォームの責任を常に再評価する必要があります。
AI の倫理的使用に関する議論は、コンテンツ作成に限定されるものではなく、モデレーションやユーザーを積極的に保護するセキュリティ ポリシーの実装にも及びます。人間と人工知能の相互作用の将来は、責任と個人のプライバシーの尊重に対する確固たる取り組みにかかっています。






