Pular para o conteúdo
Menu
Mix Vale

プラットフォーム X が Grok チャットボットをブロックし、実際の写真にヌードを含むディープフェイクの作成を防止

Jeronimo Santos
Por 1 min de leitura
Compartilhe
Grok
Foto: Grok - Bangla press / Shutterstock.com

Platform X は、Grok チャットボットに新たな厳しい技術的制限を導入すると発表しました。 1月14日に発効したこの措置は、具体的には衣服の脱ぎ捨てや性的コンテンツの作成につながる実在の人物の写真の編集を阻止することを目的としている。この措置は、世界のさまざまな地域で女性や未成年者を犠牲にしたディープフェイクの蔓延に関する苦情の波が高まっていることへの直接の対応である。

Publicidade

このアップデートは世界中で即座に実装され、無料購読者と有料購読者の区別なく、ツールのすべてのユーザーに影響を与えました。ソーシャル ネットワークのセキュリティ チームによると、主な動機は、人工知能の機能を複数の国で施行されている画像保護およびプライバシーに関する法律と整合させることです。変更前は、このツールは不正なアセンブリの作成を容易にする変更を許可しており、会社のイメージ危機を引き起こしていました。

操作された画像がプラットフォーム自体内で大量に出回り始めたとき、論争はここ数週間で急速にエスカレートした。 Grok を使用して一般的な写真から露骨なコンテンツを簡単に作成できることは、政府当局やデジタル著作権団体からの強い反発を引き起こし、問題の決定的な解決策を同社に求めました。

Publicidade
Grok
Grok – 写真: miss.cabul / Shutterstock.com

新しいセキュリティフィルターの仕組み

xAI開発チームは、この制限は高度なフィルターを通じて機能し、衣服の脱衣や現実の個人の画像への性的意味合いの要素の挿入を要求するコマンドをリアルタイムで識別してブロックするようにプログラムされていると詳細に説明した。この検出システムは予防的に機能し、画像が生成されてユーザーに配信されるのを防ぎます。

リクエストが新しいガイドラインに違反する場合、Grok は自動的に操作を拒否し、リクエストを実行できないことをユーザーに通知します。プラットフォームは、システムが保護障壁を回避する試みを特定して無力化するために継続的な監視下にあり、セキュリティ対策の継続的な有効性を確保していることを強調しました。

[[MVG_PROTECTED_BLOCK_0]

技術的な更新は、ツールが利用可能なすべての地域および言語に均一に適用されています。同社はまた、禁止されたコマンドを繰り返し送信しようとするユーザーは、画像生成機能へのアクセスの制限や停止などの制裁を受ける可能性があると警告した。

保護の包括性を確保するために、プラットフォームは現在システムによってブロックされている次のようなアクションの明確なリストを確立しています。

  • 人物の写真から衣類を削除するよう明示的にリクエストします。
  • 衣服を露出または透明にするために変更することを目的としたコマンド。
  • 人物が服を着ている画像からヌードを生成しようとします。
  • 現実の個人を性的な文脈に挿入するよう要求します。

会社とイーロン・マスクの公式位置付け

Xのオーナーであり、Grokの開発を支援するxAIの創設者でもあるイーロン・マスク氏は、新たな制限が発表された同じ日にこの論争について公に語った。同氏はプラットフォームへの投稿の中で、未成年者が関与する露骨な画像がこのツールによって生成されていたことについては全く知らなかったと述べた。マスク氏は、チャットボットは違法なコンテンツの作成を自動的に拒否するように設計されており、その動作はユーザーが提供する明示的なコマンドに依存しているため、ツールには虐待的なコンテンツの作成における自律性が免除されていると強調した。

Publicidade

公式声明の中で、プラットフォームXは所有者の声明を補足し、その保護メカニズムで特定された欠陥は以前のアップデートで速やかに修正され、新しいバリアはこの取り組みの強化を表していると述べた。同社は、事業を展開するすべての市場で法令順守を維持することに注力していることを強調しました。 xAIの代表者も講演し、テクノロジーの悪用の再発を防止し、ユーザーの誠実さを保護するために、セキュリティ システムの改善が継続的なプロセスであることを保証しました。

国際的な影響と規制措置

Grok によって生成されたディープフェイクの危機は、世界中の規制機関の強い反発を引き起こし、プラットフォームは行動を余儀なくされました。英国では、通信規制を担当する組織である Ofcom が、X 社が同国のオンライン セキュリティ法の規定に従って違法コンテンツを削除する法的義務を遵守したかどうかを判断するため、X 社に対する正式な調査を開始した。英国のキア・スターマー首相は、厳格な措置が講じられていると同社から直接保証を受けたと述べた。より厳しい面では、インドネシアやマレーシアなどのアジア諸国の政府は、ポルノや攻撃的とみなされるコンテンツの配布に対する厳しい現地法を理由に、自国の領土内でのGrokへのアクセスを完全にブロックすることを選択した。インドも同様に行動し、ディープフェイクを含む数千の出版物を削除し、その作成に関与したアカウントを停止するようプラットフォームに要求し、同社の協力を得た。異なる大陸にまたがるこうした協調的な動きは、人工知能ツールの悪用の可能性と、大手テクノロジー企業が自社の製品に対してより大きな責任を負うよう圧力がかかっていることに対する世界的な懸念の高まりを示している。

ブラジル領土で記録された事件

ブラジルでは、被害者の報告が公になったことで、この問題が悪名を轟かせた。最も注目を集めた事件の 1 つは、同意なしにヌードやビキニの使用を装うために加工された個人写真をソーシャル ネットワークのプロフィールに公開した女性に関するものです。被害者は、モンタージュの存在を発見したとき、深刻な不快感とプライバシーの侵害を報告しました。

これらおよび他の同様の事件に対応して、ブラジル消費者保護研究所(idec)は正式な措置を講じ、国内でのGrokへのアクセスを一時的に停止するよう連邦政府に要請を転送した。同団体は、このツールは以前の状態では国民のイメージとプライバシーを保護する権利を直接侵害しており、子供や青少年に対するリスクが高まっていると主張した。

市民社会の動員と大手テクノロジー企業への圧力

Grok の悪用に対する対応は政府の措置に限定されませんでした。 20を超えるフェミニスト団体とデジタル権利団体で構成される国際連合は、AppleとGoogleを対象とした圧力キャンペーンを組織した。両団体は公開書簡の中で、テクノロジー大手2社に対し、公式ストアであるApp StoreとGoogle PlayからプラットフォームXアプリケーションを一時的に削除するよう要請した。

UltraVioletやNational Organization for Womenなどの主要組織は、アプリを利用可能な状態にしておくことで、アプリストアはデジタル性的虐待に使用されたことが証明されているツールへのアクセスを容易にしていると主張した。嘆願書では、この機能が何千人もの潜在的な被害者、特に女性や若者に深刻なリスクをもたらしていることを強調し、AppleとGoogleに対し、プラットフォームが自社のコンテンツポリシーに準拠しているかを見直すよう求めた。

論争の起源

Grok には、xAI によって開発された最先端の人工知能モデルを使用した強力な画像生成および編集機能が組み込まれています。このツールは、ユーザーが X プラットフォームにアップロードまたは公開された写真に対して芸術的な創作やクリエイティブな編集を実行できるように設計されています。しかし、この技術的能力はすぐに悪意のある目的に利用されてしまいました。

モデレーションポリシーの進化

トータルブロックを実装する前に、プラットフォーム X は画像編集ツールへのアクセスを有料加入者のみに制限することで問題を封じ込めようとしていた。しかし、この措置は広く批判され、同社が事実上、不正なコンテンツの作成を可能にする機能を収益化しているとの非難を受けた。すべてのユーザーのヌードを完全に禁止する現在の制限は、世論と規制の圧力に応じたスタンスの重大な変化を表しています。

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto