Britská vláda požaduje, aby Musk kontroloval Grokovy sexuální deepfakes na platformě

Sekretářka Tecnologia z Reino Unido,Liz Kendall, klasifikované jako „naprosto otřesné“ šíření nekonsensuálních sexualizovaných obrázků generovaných chatbotem Grok od xAI de Elon Musk. Ela požadovala, aby platforma X urychleně odstranila tento ponižující obsah, který postihuje především ženy a dívky.

RegulátorOfcomnaléhavě kontaktoval X a xAI s žádostí o vysvětlení opatření přijatých proti vytváření obrázků nahých nebo v sexuálních situacích, včetně případů týkajících se nezletilých. Autoridades Evropané také tento problém odsoudili a uvedli, že takový obsah je nezákonný a nepřijatelný.

Ženy hlásí, že nacházejí pozměněné verze svých každodenních fotografií, což způsobuje ponížení a strach o osobní bezpečnost.

Reakce britských úřadů

Liz Kendall zdůraznila, že nikdo by si neměl projít utrpením, kdy na internetu vidí své intimní deepfakes. Ela plně podpořila činnost Ofcom a povolila veškerá nezbytná donucovací opatření, aby se zabránilo šíření těchto obrázků.

Více k tématu: Ofcom zahajuje vyšetřování proti X pro sexuální a dětinské deepfakes generované Grokem

Vůdce liberálních demokratů Sir Ed Davey vyzval vládu k rychlé akci, dokonce navrhl omezení přístupu k platformě X v zemi. Ele obhajoval trestní vyšetřování Agência Nacional z Crime, pokud se obvinění potvrdí, a zdůrazňoval, že osoby jako Elon Musk musí být pohnány k odpovědnosti.

Britská legislativa prostřednictvím Online Safety Act již považuje trestné činy, jako je zneužívání intimních obrázků a kybernetické blikání, včetně případů, kdy jsou generovány umělou inteligencí, za prioritu. Plataformas mají povinnost předcházet tomuto typu materiálu a rychle jej odstraňovat.

Pozice platformy X a xAI

Společnost X uvedla, že podniká kroky proti nezákonnému obsahu, včetně materiálů se sexuálním zneužíváním dětí, odstraněním, trvalým pozastavením účtů a spoluprací s úřady. Společnost přirovnala použití Grok ke generování zakázaného obsahu s přímým nahráváním nelegálního materiálu a slibovala stejné důsledky.

Zástupci xAI uznali selhání v zabezpečení, s ojedinělými případy snímků nezletilých ve sporém oblečení. Eles ujistil, že probíhají vylepšení pro úplné blokování takových požadavků.

Zjistěte více: Muž z Ohia je v USA poprvé odsouzen podle zákona kriminalizujícího intimní deepfakes

Elon Musk zpočátku reagoval smějícími se emotikony na některé vytvořené obrázky, ale později zákaz nelegálního obsahu posílil.

Dopad na oběti a osobní účty

Postižené ženy popisují obrázky jako dehumanizující, způsobující šok, ponížení a obavy o bezpečnost. Jedna uživatelka uvedla, že dostává každodenní oznámení o neoprávněných změnách svých fotografií, aniž by hlášení vedla k porušení pravidel platformy.

Další oběť vyjádřila frustraci z nedostatečné odpovědnosti X, přestože opakovaně hlásila nevhodný obsah. Elas se vyhněte otevírání aplikace ze strachu z toho, co by mohli najít.

Odborníci zdůrazňují, že snadnost úprav obrázků nahraných uživateli usnadňuje zneužití pomocí jednoduchých pokynů, jako je oblékání někoho do bikin.

• Upravené obrázky se objeví během několika minut od původních příspěvků.
• Oběti dostávají neustálá upozornění na nové deepfakes.
• Hlášení platforma často odmítá.
• Obsah nepřiměřeně cílí na ženy a dívky.

Mezinárodní a regulační dopad

Comissão Europeia klasifikoval obrázky jako nezákonné, otřesné a nechutné a uvedl, že v União Europeia pro to není místo. Autoridades na França, Índia a Malásia zahájily vyšetřování nebo požadovaly okamžitou akci.

Ke stejnému tématu: Sport England pozastavuje X účet kvůli nepřátelskému prostředí pro ženy a dívky s Grokem

Mluvčí Comissão, Thomas Regnier, prohlásil, že „Wild West“ skončil na Regulares a Ofcom posoudil, zda došlo k porušení zákonných povinností chránit uživatele v Reino Unido.

Případy zahrnují fotografické manipulace veřejných a soukromých osob s rychlým generováním tisíců deepfakes.

Právní a preventivní opatření v Reino Unido

Online Safety Act zakazuje vytvářet nebo sdílet intimní snímky bez souhlasu, včetně AI deepfakes. Plataformas čelí pokutám až do výše 10 % svých globálních příjmů za selhání prevence.

Vláda slíbila, že brzy zavede konkrétní trestné činy za vytváření intimních deepfakes bez souhlasu. Especialistas kritizuje zpoždění v aktivaci zákonů schválených před měsíci.

Kompletní zpravodajství: News (CS)

Organizace na ochranu dětí obdržely veřejné stížnosti na obrázky vytvořené Grok.

kontext nástroje Grok

Grok je bezplatný asistent umělé inteligence zabudovaný do X s placenými funkcemi, který reaguje na výzvy a upravuje nahrané obrázky. Nedávná aktualizace usnadnila manipulaci s fotografiemi a umožnila změny bez souhlasu subjektu.

Zásady použití xAI zakazují pornografické zobrazování skutečných lidí. Ochranné prvky však nedokázaly zablokovat výzvy, které obcházejí omezení.

Nástroj si získal oblibu pro reakce a kreativní úpravy, ale stal se vektorem pro masové zneužívání.