新しい法律の発効後、性的なディープフェイクの作成は英国で犯罪に

英国政府は、写っている人物の同意なしにディープフェイクによる親密な画像の作成を犯罪とする新法を施行することで、デジタル暴力との戦いに決定的な一歩を踏み出した。英国議会でリズ・ケンダル技術大臣が発表したこの措置は、性的に露骨で虐待的なコンテンツを生成するための人工知能ツールの使用に対する懸念の高まりに直接対応するものである。

新しい法律は、ユーザーが公の人物や匿名の人物の性的な画像を生成できるようにするXプラットフォームに統合されたGrokチャットボットに関する一連の論争の後に加速された。この規格は、この種の素材の作成を違法にするだけでなく、この目的のために特別に開発されたソフトウェアの供給を阻止し、重要な法的ギャップを埋めることも目的としています。

ケンダル大臣は、ディープフェイクを暴力と支配の手段として分類し、この形態の虐待が女性と少女に偏って影響を及ぼしていることを強調した。 2025 年データ (使用およびアクセス) 法で既に規定されている条項の適用を前倒しするという決定は、新しい生成 AI テクノロジーに関連するリスクへの対処における政府の緊急性を示しています。

この法律の制定により、当局は問題の根源に働きかけることで、このコンテンツの作成に対する強力な抑止力を確立したいと考えている。この措置は既存のオンライン安全法を補完するもので、有害で違法なコンテンツからユーザーを保護するデジタルプラットフォームの責任を強化するものです。

英国の新しい法律が定めるもの

英国で施行された新しい法基準は、性的なディープフェイクと戦うという目的において包括的かつ具体的です。この法律の中心点は、人工知能やその他のテクノロジーを使用して、明示的な同意なしに他人の親密な画像を作成する行為を犯罪化することです。これは、たとえ画像が共有または配布されなかったとしても、画像を作成するという単純な行為が処罰対象の犯罪となることを意味します。この法律は、犯罪の主な焦点が同意のない親密なコンテンツの配布にあった、以前に存在した法的曖昧さを排除することを目的として設計されました。今、虐待の連鎖の根源が直接攻撃されています。この法律は、個人の作成に加えて、これらの素材の作成を要求した者、さらに後の段階では、デジタル「ヌード化」または虚偽の露骨なコンテンツの作成を主な目的とするソフトウェアを開発および販売する企業に対する罰則も規定しています。この措置はオンライン安全法の枠組みを強化し、テクノロジープラットフォームの義務を拡大するもので、テクノロジープラットフォームは多額の罰金や規制当局による制裁を受けるリスクを伴いながら、違法な目的でのツールの使用を検出および防止するためのより堅牢なメカニズムを実装する必要がある。

Grok チャットボットをめぐる論争

この法律の制定は、xAI によって開発され X プラットフォームに統合された人工知能チャットボットである Grok に関する注目を集めた論争によって促進されました。ここ数週間、ユーザーは、単純なテキスト コマンドで性的な画像や露骨なディープフェイクを生成するツールの機能を発見し、悪用しました。多くの場合、オリジナルの写真から人々の衣服をデジタル的に削除することにより、偽のシーンを簡単に作成できることが世間の警戒を呼び起こし、議員や規制当局の注目を直ちに集めました。

当初の批判に応えて、Platform X の管理者は制限を導入し、Grok のイメージング機能を有料加入者のみが利用できるようにしました。しかし、英国政府は、この措置はリスクを軽減するには完全に不十分であると考えた。リズ・ケンダル大臣は、この危険なツールをペイウォールの背後に置くことは根本的な問題を解決せず、潜在的な被害者を保護することはできないと公に述べました。同社のこの不適切な対応は、政府が迅速に行動し、そのようなコンテンツの作成と促進の両方が容認されないことを明確にするために新しい法律を適用する決定的な要因の1つでした。

Ofcomの調査とプラットフォームの責任

法の施行と並行して、英国の通信規制当局であるオフコムはプラットフォームXに対する正式な調査を開始した。この調査の目的は、同社が自社のAIツールを不正なコンテンツの作成に使用することを許可し、オンライン安全法のガイドラインに違反していたかどうかを判断することである。

調査の焦点は、特に児童の性的虐待を構成する可能性のある合意のない親密な画像や素材の生成の防止に関して、プラットフォームがユーザーを保護するために適切かつ必要なセキュリティ対策を講じたかどうかを評価することである。

Ofcom には制裁を課す大きな権限があり、これには企業の世界売上高の最大 10% の罰金や強制的な是正措置の賦課が含まれる場合があります。政府は捜査を迅速かつ透明性を持って完了するよう求めている。

この事件は、生成型 AI の時代におけるオンライン安全法の有効性を試す重要なテストと見なされています。この結果は、サービスに統合する AI ツールに対してテクノロジー プラットフォームが負う責任のレベルに関する重要な先例となる可能性があります。

女性と女児を守るための措置

リズ・ケンダル大臣は演説の中で、性的ディープフェイクの蔓延は深刻な形態の暴力と虐待であり、女性と少女に不当な影響を与えると繰り返し強調した。彼女は、これらの偽画像は「無害な楽しみ」ではなく、むしろ被害者を辱め、コントロールし、黙らせるために使用されるツールであると述べた。

これらの資料の作成の犯罪化は、デジタル環境における女性に対する暴力と闘う労働党政府の広範な戦略の一環である。立法措置は、オンライン空間をより安全にし、デジタル虐待の被害者が正義を求めるための法律の裏付けを確保するための重要なステップと見なされています。

犯罪行為に関する詳細

新しい法律は、その作成に同意していないことを知りながら、その人と親密であるように見える画像やビデオを意図的に作成した場合を犯罪として分類することに特化している。これは、既存の写真の変更から AI を使用したまったく新しいシーンの生成まで、幅広いシナリオをカバーします。

この法案はまた、「ヌード」アプリやソフトウェアのマーケティングと供給を明確に禁止する将来の規制への道も開くものである。政府は、この種のデジタル悪用を助長することで利益を得ている企業を取り締まる方針を示した。

以前は画像を共有する行為が法的な焦点であったため、このアプローチは重大なギャップを埋めるものです。創作物を処罰することで、その内容が拡散して被害者に取り返しのつかない損害を与える前に司法制度が介入することができます。

テクノロジーと AI 業界への影響

英国の法案は、世界中の人工知能開発者やテクノロジー企業に明確なメッセージを送っています。この規格は、セキュリティに対する責任は後回しではなく、新しい生成テクノロジーの開発と実装における中心的な要素であることを確立しています。

企業は現在、はるかに厳しい規制監視にさらされており、悪意のある使用を防ぐために自社のツールに強力な保護手段を組み込む法的義務に直面しています。これには、より効果的なフィルター、プロアクティブなモデレーション、そもそも有害なコンテンツの生成を防ぐメカニズムが含まれる可能性があります。

議会での反響

この法律を発動する決定は英国議会で幅広い支持を得ており、さまざまな政党の議員が人工知能の新たな危険性について立法する緊急性を認識していた。この政治的合意は、この問題が真剣に扱われていることを示しており、デジタル環境における個人の権利を保護するテクノロジーの規制におけるリーダーの一つとしての英国の立場を強化するものである。