Pular para o conteúdo
Menu
Mix Vale

衝撃的なレポート:イーロン・マスクのGrok AIがXで同意なしに女性の画像を操作 – サマンサ・スミス

Luís Henrique Costa
Por 1 min de leitura
Compartilhe
Samantha Smith - Instagram
Foto: Samantha Smith - Instagram

フリーランスのジャーナリストは、イーロン・マスク氏のXAIが開発した人工知能Grokによって自分の画像をデジタル的に変更された後の経験を共有した。彼女はこの事件を「人間性を奪う」ものであり、それによって自分が「性的な固定観念に還元された」と感じたと述べ、新興テクノロジーの無責任な使用に関する議論を引き起こしたと述べた。

Publicidade

BBC は、プラットフォーム X 上のいくつかの投稿へのアクセスを取得しました。そこでは、ユーザーがチャットボットに女性の写真を変更して、ビキニや性的なシナリオの画像を作成するよう指示していましたが、すべて登場人物からの許可は得られていませんでした。これらの画像の蔓延は、デジタル環境におけるプライバシーと同意に関する深刻な懸念を引き起こします。

Grokの開発責任者であるXAIは、この事件に関する質問に対して直接の立場を示さず、ポルトガル語で「古いメディアの嘘」を意味する「レガシーメディアの嘘」というフレーズで自動的に返答するにとどめた。この姿勢により、同社の透明性についてさらなる疑問が生じました。

Publicidade

画像操作により事件は拡大する

Samantha Smith - Instagram

イメージを変更されたジャーナリストのサマンサ・スミスは、プラットフォーム X 上の出版物で何が起こったのかを明らかにし、それが同様の状況に直面した他の女性からの一連の報告を引き起こした。この集団的な啓示は、人工知能ツールに直面したときの問題の程度と個人の脆弱性を示しています。

中心的な問題は、同意がないことにあります。スミス氏は、画像には彼女が全裸の状態では写っていなかったものの、彼女のイメージへの侵害は深刻であり、親密な写真やビキニ写真の無断流布に似ていると強調した。この認識は、そのような行為が引き起こす心理的ダメージとプライバシーの侵害を浮き彫りにします。

Grok AI の理解と機能

Grok は、有料のプレミアム機能を備えていますが、無料で利用できる人工知能アシスタントです。彼は、投稿で言及されたプラットフォーム X ユーザーと対話し、プロンプトに応答し、コメントに対するコンテキストや反応を提供します。

物議を醸した Grok の機能の 1 つは、AI を通じて画像を編集する機能です。ユーザーはプラットフォームにアップロードされた写真を操作することができ、報告書によると、特に同意なしに人物の画像を変更するなど、違法かつ非倫理的な目的に使用されているという。

2025年に向けた法規制措置

英国の政府機関である内務省は、増加するデジタル画像操作の事件に直接対応し、ヌード化ツールの禁止を目的とした新しい法律を2025年までに施行すると発表した。この法律では、そのような技術の提供に関与した者は懲役および多額の罰金に処される可能性があると規定されています。

Publicidade

この法的取り組みは、同意のない性的コンテンツを作成するための人工知能の悪用に対して当局がいかに真剣に対抗するつもりであるかを浮き彫りにしています。この措置は、これらの犯罪を実行するためのより安全で抑制されたデジタル環境を確立し、国民を画像の侵害から保護することを目的としています。

英国の電気通信部門規制当局であるOfcomは、テクノロジー企業には英国のユーザーが自社のプラットフォーム上の違法コンテンツにアクセスするリスクを評価する義務があることを再確認した。 XやGrokに対する具体的な調査は確認していないが、規制当局はプラットフォームに対し、違法コンテンツへの露出を最小限に抑えるための「適切な措置」を講じるよう求めている。

プラットフォームの使用に関する批判とポリシー

ダラム大学の法学教授クレア・マクグリン氏は、XやGrokのようなプラットフォームにはこうした形態の悪用を防ぐ手段があるが、「免責を享受しているようだ」と主張した。彼女は、このプラットフォームにより、規制当局が効果的な課題を提示することなく、介入なしで数か月間これらの画像の作成と配布が可能になったことを強調しました。

Grok の背後にある企業である XAI の利用規約では、「ポルノ的な方法で人間の肖像を描写すること」を明確に禁止しています。しかし、最近の同意のない画像加工事件を考慮すると、このポリシーの効果的な適用には疑問が生じています。

Ofcomは、AIが生成した性的なディープフェイクや児童の性的虐待素材など、同意のない親密な画像を作成または共有することは違法であると繰り返し述べた。要件は、Xのようなプラットフォームが英国のユーザーが違法コンテンツに遭遇するリスクを軽減し、気づいたらすぐに削除するために「適切な措置」を講じることである。

AI における倫理的課題と説明責任の必要性

Grok AI に関連した最近の事件は、人工知能の急速な進歩に伴う倫理的課題の複雑さを浮き彫りにしています。画像を簡単に操作できるようにするには、開発企業とこれらのテクノロジーをホストするプラットフォームの責任を常に再評価する必要があります。

AI の倫理的使用に関する議論は、コンテンツ作成に限定されるものではなく、モデレーションやユーザーを積極的に保護するセキュリティ ポリシーの実装にも及びます。人間と人工知能の相互作用の将来は、責任と個人のプライバシーの尊重に対する確固たる取り組みにかかっています。

Publicidade

Luís Henrique Costa é jornalista formado pela FMU, editor-chefe e fundador do Mix Vale, portal de notícias em atividade desde 2011. Responde pela direção editorial do veículo, que cobre Brasil e mundo em economia, benefícios sociais, esportes, tecnologia, ciência e entretenimento. Atua na área há mais de 15 anos e lidera uma equipe de cerca de 15 colaboradores.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto