プラットフォーム X は、写真内の衣服の編集を防ぎ、ディープフェイクと戦うために Grok ブロックを実装しています

プラットフォーム X は、Grok チャットボットに新たな技術的障壁が実装されていることを確認しました。この障壁は、衣服を脱いだり改変したりする目的で実際の人物の写真が編集されることを防ぐために特別に設計されたものです。 2026年1月14日に発表されたこの措置は、成人と未成年者の両方に影響を与えた、性的なディープフェイクの作成と配布に関する苦情の増大への直接の対応である。
この決定は、悪意のあるユーザーがヌードコンテンツや挑発的な服装を含む同意のないモンタージュを生成することを可能にした人工知能ツールの悪用が動機となった。この制限はただちにグローバルに適用され、サブスクリプションの種類に関係なく、ソーシャル ネットワークのすべてのユーザーに影響を与えました。
この論争は、いくつかの加工された画像が出回ったことを受けてここ数週間で激化し、数カ国のデジタル権利を擁護する当局や団体から強い反発を引き起こした。同社は、このアップデートはツールの運用を現在の法律に合わせて調整し、プラットフォーム上の個人の誠実さを保護することを目的としていると強調した。
アップデート前は、Grok に組み込まれた画像編集機能は幅広い自由度を提供していましたが、それが悪用されて有害なコンテンツを作成していました。新しいポリシーは、悪用を阻止し、管理するデジタル環境のセキュリティを回復するための同社の取り組みを表しています。
新しいセキュリティフィルターの仕組み
X セキュリティ チームは、新しい保護層は高度なフィルターを通じて機能し、衣服の脱衣や人物の画像への性的意味合いの要素の挿入を要求するコマンドをリアルタイムで識別してブロックするようにプログラムされていると詳しく説明しました。このシステムは、画像が生成される前にユーザーのリクエストの背後にある意図を分析し、新しいガイドラインに違反するリクエストを自動的に拒否するように設計されています。同社は、セキュリティ障壁を回避する試みを特定し無力化するために継続的に監視を行っていると述べた。操作をブロックするだけでなく、禁止されたコマンドの送信を主張するユーザーは、人工知能ツールへのアクセスが一時的または永続的に制限されるなどの制裁を受ける可能性があります。このアップデートは、プラットフォームが動作するすべての言語および地域に同じ保護ルールが適用されることを保証するためにグローバルに配布され、統一されたセキュリティ標準が強化されました。
同社とイーロン・マスクの公式位置付け
Xのオーナーであり、Grokの開発を担当するxAIの創設者であるイーロン・マスク氏は、この論争について公に語った。同氏は、このツールが未成年者を含む露骨な画像を生成していることについては全く知らなかったと述べ、チャットボットはユーザーからの直接コマンドのみを実行し、違法とみなされるコンテンツの作成を自動的に拒否するメカニズムを備えていることを強調した。マスク氏は、テクノロジーの悪用と闘う同社の取り組みを強調した。
Xプラットフォームは公式声明の中でこの声明を補足し、以前の保護バリアで特定された特定の欠陥は以前のアップデートですでに修正されていると述べた。同社は、すべての市場における法令順守への取り組みを改めて表明し、インシデントの再発を防ぐために xAI チームによって継続的な改善が実施されていることを強調しました。このメモによると、優先事項は技術革新を犠牲にすることなく安全な環境を保証することだという。
世界中で捜査と封鎖が行われている
英国では、通信規制当局である Ofcom が X に対する正式な調査を開始した。この調査は、同プラットフォームが国のオンライン安全法で規定されている違法コンテンツを削除する法的義務を遵守したかどうかを判断することを目的としている。
ブラジルでは、ブラジル消費者保護研究所(idec)がGrokへのアクセスを一時的に停止するよう政府に正式に要請した。同団体は、このツールは特に子供や青少年の肖像権やプライバシー権を直接侵害していると主張した。
より抜本的な措置として、インドネシアとマレーシアの政府は、自国の領土内でのGrokへのアクセスを完全にブロックすることを決定した。この決定は、ポルノや攻撃的とみなされるコンテンツの配布に対する厳格な現地法に基づいたものでした。
組織化された市民社会の動員
20を超えるフェミニスト団体とデジタル権利団体で構成される国際連合は、テクノロジー大手に対する圧力を強化している。
両社はAppleとGoogleに公開書簡を送り、それぞれのアプリストアからアプリXを一時的に削除するよう要請した。
提示された主な議論は、アプリケーションを利用可能な状態に保つことで、企業がデジタル性的虐待を行うために使用されるツールへのアクセスを容易にすることになるというものでした。
書簡の署名者の中には、ウルトラバイオレットや全米女性機関などの著名な団体も含まれており、数千人の潜在的な犠牲者に対する差し迫った危険を警告していた。
イメージング ツールの問題の原因
Grok の編集機能は、テキスト コマンドからクリエイティブなビジュアル作成を可能にするために xAI によって開発されました。しかし、プラットフォーム上で公開された写真を変更するその機能は、すぐに悪意のある目的に悪用されました。
このブロックの実装前に行われた独立した調査では、実際の画像にヌードを生成したり、最小限の衣服を挿入したりするリクエストが大量にあることが明らかになり、悪用に対するシステムの脆弱性が暴露されました。
封じ込め対策の進化
以前、同プラットフォームは画像編集へのアクセスを有料会員のみに制限することで問題を封じ込めようとしていた。この措置は、ユーザーのセキュリティに明らかなリスクをもたらす機能を収益化する方法であると解釈され、広く批判されました。現在の制限は、この種の編集をすべてのユーザーに対して完全に禁止するもので、セキュリティ要件により沿った戦略の変更を表しています。
法的背景とプラットフォームの責任
X は、あらゆる児童性的虐待コンテンツに対するゼロトレランス ポリシーを再確認し、コンテンツの即時削除と侵害アカウントの永久禁止を保証しました。同社はまた、デジタル犯罪に関連した捜査において法執行機関と積極的に協力しています。
ツールの悪用に対する主な責任は、禁止されたコマンドを発行したユーザーにありますが、プラットフォームは、そのテクノロジーが危害を引き起こすために使用されるのを防ぎ、イノベーションとユーザー保護のバランスを保つ堅牢な保護措置を実装する義務があることを認識しています。







