Platform X annoncerede implementeringen af nye og strenge teknologiske begrænsninger på sin chatbot Grok. Foranstaltningen, som trådte i kraft den 14. januar, har specifikt til formål at blokere for redigering af fotografier af rigtige mennesker, der resulterer i fjernelse af tøj eller skabelse af seksualiseret indhold. Esta handling er et direkte svar på den voksende bølge af klager over spredningen af deepfakes, som har gjort kvinder og mindreårige til ofre i forskellige dele af verden.
Opdateringen blev implementeret globalt og øjeblikkeligt og påvirkede alle brugere af værktøjet uden forskel mellem gratis eller betalte abonnenter. Segundo det sociale netværks sikkerhedsteam, hovedmotivationen er at tilpasse funktionen af kunstig intelligens med den gældende lovgivning om billedbeskyttelse og privatliv i flere lande. Antes af ændringen tillod værktøjet ændringer, der gjorde det lettere at oprette uautoriserede samlinger, hvilket skabte en imagekrise for virksomheden.
Kontroversen eskalerede hurtigt i de seneste uger, da manipulerede billeder begyndte at cirkulere i massevis på selve platformen. Den lethed, hvormed Grok kunne bruges til at skabe eksplicit indhold fra almindelige fotos, genererede en stærk reaktion fra regeringsmyndigheder og digitale rettighedsorganisationer, som pressede virksomheden til en endelig løsning på problemet.
Sådan fungerer de nye sikkerhedsfiltre
xAI-udviklingsteamet detaljerede, at restriktionerne fungerer gennem avancerede filtre, programmeret til at identificere og blokere i realtid enhver kommando, der anmoder om fjernelse af tøj eller indsættelse af elementer af seksuel konnotation i billeder af rigtige individer. Esse detektionssystem virker forebyggende og forhindrer billedet i at blive genereret og leveret til brugeren.
Når en anmodning overtræder de nye retningslinjer, afviser Grok automatisk handlingen og informerer brugeren om, at anmodningen ikke kan opfyldes. Platformen fremhævede, at systemet er under konstant overvågning for at identificere og neutralisere ethvert forsøg på at omgå beskyttelsesbarriererne, hvilket sikrer den fortsatte effektivitet af sikkerhedsforanstaltningen.
Tekniske opdateringer er blevet anvendt ensartet på tværs af alle regioner og sprog, hvor værktøjet er tilgængeligt. Virksomheden advarede også om, at brugere, der insisterer på at indsende forbudte kommandoer på en tilbagevendende basis, kan blive udsat for sanktioner, herunder begrænsning eller suspendering af adgang til billedgenereringsfunktionaliteten.
For at sikre omfattende beskyttelse har platformen etableret en klar liste over handlinger, der nu er blokeret af systemet, herunder:
- Eksplicitte anmodninger om at fjerne tøj fra billeder af mennesker.
- Kommandoer, der har til formål at ændre tøjet for at gøre det afslørende eller gennemsigtigt.
- Forsøg på at generere nøgenhed fra billeder, hvor personen er påklædt.
- Anmodninger om at indsætte rigtige individer i seksualiserede sammenhænge.
Officiel positionering af virksomheden og Elon Musk
Elon Musk, ejer af X og grundlægger af xAI, virksomheden bag udviklingen af Grok, udtalte sig offentligt om kontroversen samme dag, som de nye restriktioner blev annonceret. I et indlæg på platformen udtalte han, at han ikke havde nogen forudgående viden om, at eksplicitte billeder, der involverede mindreårige, blev genereret af værktøjet. Musk forstærkede, at chatbot’en var designet til automatisk at afvise oprettelsen af ulovligt indhold, og at dens drift afhænger af eksplicitte kommandoer fra brugere, hvilket fritager værktøjet fra autonomi til at skabe misbrugsmateriale.
I en officiel erklæring supplerede platform X sin ejers erklæringer og anførte, at eventuelle fejl, der blev identificeret i dens beskyttelsesmekanismer, straks blev rettet i tidligere opdateringer, og at den nye barriere repræsenterer en forstærkning af denne forpligtelse. Virksomheden understregede sin dedikation til at opretholde lovoverholdelse på alle markeder, hvor den opererer. Representantes fra xAI talte også for at sikre, at forbedringen af sikkerhedssystemer er en kontinuerlig proces for at forhindre gentagelse af misbrug af teknologi og beskytte brugernes integritet.
Internationale konsekvenser og regulatoriske handlinger
Krisen med deepfakes genereret af Grok fremkaldte en stærk reaktion fra regulerende organer rundt om i verden, og tvang platformen til at handle. No Reino Unido, Ofcom, organet med ansvar for regulering af kommunikation, indledte en formel undersøgelse mod X for at afgøre, om virksomheden overholdt sine juridiske forpligtelser til at fjerne ulovligt indhold, som fastsat i landets onlinesikkerhedslovgivning. Den britiske premierminister Keir Starmer sagde, at han havde modtaget direkte forsikringer fra virksomheden om, at strenge foranstaltninger blev implementeret. På en hårdere front har regeringer i asiatiske nationer som Indonésia og Malásia valgt fuldstændigt at blokere adgangen til Grok i deres territorier, med henvisning til strenge lokale love mod spredning af pornografi og indhold, der anses for stødende. Índia tog også affære og krævede, at platformen fjernede tusindvis af publikationer med deepfakes og suspendere de konti, der er ansvarlige for deres oprettelse, og opnå samarbejde fra virksomheden. Esses koordinerede bevægelser på forskellige kontinenter illustrerer den voksende globale bekymring over potentialet for misbrug af kunstig intelligens-værktøjer og presset for store teknologier til at påtage sig et større ansvar for deres produkter.
Hændelser registreret på brasiliansk territorium
I Brasil blev problemet kendt efter rapporter om ofre blev offentlige. En af de mest højprofilerede sager involverede en kvinde, der fik sine personlige billeder, offentliggjort på sin sociale netværksprofil, manipuleret for at simulere nøgenhed og brug af bikinier, alt sammen uden hendes samtykke. Offeret rapporterede dybt ubehag og krænkelse af privatlivets fred, da han opdagede, at montagerne fandtes.
Som svar på disse og andre lignende sager tog Instituto Brasileiro af Defesa af Consumidor (Idec) en formel handling og sendte en anmodning til den føderale regering om adgang til Enheden hævdede, at værktøjet i sin tidligere tilstand direkte krænkede rettighederne til at beskytte borgernes image og privatliv med en øget risiko for børn og unge.
Mobilisering af civilsamfundet og pres på store teknologier
Svaret på misbrug af Grok var ikke begrænset til regeringshandlinger. En international koalition, bestående af mere end tyve feministiske og digitale rettighedsorganisationer, organiserede en preskampagne rettet mod Apple og Google. I åbne breve anmodede grupperne om, at de to teknologigiganter midlertidigt fjerner X-platformsapplikationen fra deres officielle butikker, App Store og Google Play.
Førende organisationer som UltraViolet og National Organization for Women hævdede, at app-butikker ved at holde appen tilgængelig lette adgangen til et værktøj, der er bevist at blive brugt til at begå digitalt seksuelt misbrug. Andragendet fremhævede den alvorlige risiko, funktionen udgør for tusindvis af potentielle ofre, især kvinder og unge, og opfordrede Apple og Google til at gennemgå platformens overholdelse af deres egne indholdspolitikker.
Oprindelsen af kontroversen
Grok inkorporerer kraftfuld billedgenererings- og redigeringsfunktionalitet, der bruger banebrydende kunstig intelligens-modeller udviklet af xAI. Værktøjet er designet til at give brugere mulighed for at udføre kunstneriske kreationer og kreative redigeringer på fotografier, der er uploadet eller offentliggjort på X-platformen. Denne teknologiske kapacitet blev dog hurtigt valgt til ondsindede formål.
Udvikling af moderationspolitikker
Inden den samlede blokering blev implementeret, havde Platform X forsøgt at begrænse problemet ved at begrænse adgangen til billedredigeringsværktøjet til kun betalte abonnenter. Foranstaltningen blev dog kritiseret bredt med anklager om, at virksomheden i praksis tjente penge på en funktionalitet, der tillod oprettelsen af misbrugsindhold. Den nuværende begrænsning, som fuldstændig forbyder nøgenhed for alle brugere, repræsenterer en væsentlig ændring i holdning som reaktion på offentlighedens og lovgivningsmæssige pres.