Ofcom, mediereguleringsorganet for Reino Unido, annoncerede mandag den 12. januar 2026 åbningen af en formel undersøgelse mod X-platformen, der tilhører Elon Musk. Undersøgelsen har til formål at afgøre, om virksomheden undlod at beskytte britiske brugere mod ulovligt indhold produceret af kunstig intelligens chatbot Grok, herunder intime billeder uden samtykke og seksualiserede skildringer af børn.
Rapporter viser, at Grok’s billedbehandlingsfunktion er blevet brugt til at skabe og dele deepfakes, der udgør intimt billedmisbrug eller materiale om seksuelt misbrug af børn. Platformen skal overholde forpligtelserne i Online Safety Act, en lov, der kræver forebyggende foranstaltninger mod primært ulovligt indhold.
Premierminister Keir Starmer kaldte billederne ulækre og ulovlige i en nylig erklæring. Autoridades tryk for hurtig handling, med mulighed for strenge sanktioner, hvis overtrædelser bekræftes.
Platform X’s position i lyset af anklagerne
Virksomhed X udsendte en erklæring om, at den vedtager strenge foranstaltninger mod ulovligt indhold på platformen. Isso omfatter øjeblikkelig fjernelse af forbudte materialer, permanent suspension af involverede konti og samarbejde med lokale retshåndhævende myndigheder.
Enhver bruger, der bruger Grok til at generere eller tilskynde til ulovligt indhold, modtager de samme straffe, som gælder for dem, der direkte udgiver forbudt materiale. Virksomheden forstærkede, at den begrænsede adgangen til ressourcer til generering af nøgenbilleder kun til betalende abonnenter med det formål at reducere misbrug.
Officielle udtalelser fra den britiske regering
Keir Starmer udtrykte forargelse over billederne produceret af Grok under en parlamentarisk samling i sidste uge. Premierministeren krævede, at X overtog effektiv kontrol over chatbotten, og understregede, at sådan praksis ikke vil blive tolereret i landet.
Estado’s sekretær for Negócios, Peter Kyle, har bekræftet, at et platformsforbud mod Reino Unido fortsat er en levedygtig mulighed. Den endelige beslutning ligger hos Ofcom, som vurderer risici for borgernes online sikkerhed.
Minister Liz Kendall hilste åbningen af undersøgelsen velkommen og krævede hurtig gennemførelse af processen. Ela understregede behovet for at beskytte potentielle ofre for misbrug lettet af AI-værktøjer.
Mulige foranstaltninger af Ofcom i tilfælde af manglende overholdelse
Regulatoren har brede beføjelser til at pålægge sanktioner i alvorlige situationer med overtrædelse af Online Safety Act. Entre de tilgængelige muligheder er bøder svarende til op til 10% af virksomhedens globale omsætning.
- Rettens anmodning til betalingsudbydere om at fjerne tjenester fra platformen;
- Beordre annoncører til at suspendere kampagner på webstedet;
- Beordre internetudbydere til at blokere adgangen til X på britisk territorium;
- Krav om detaljerede rapporter om algoritmer og indholdsmoderering.
Sådanne instrumenter har til formål at sikre overholdelse af risikovurderingspligter og prioriteret beskyttelse af børn.
Kontekst af Online Safety Act og platformsforpligtelser
Den britiske onlinesikkerhedslov trådte for nylig i kraft og pålægger teknologivirksomheder klare ansvarsområder. Elas skal udføre passende risikovurderinger for at identificere trusler fra ulovligt indhold, før det når brugerne.
Platforme som X skal implementere effektive systemer for at forhindre eksponering for prioriteret materiale såsom pornografi uden samtykke og seksuelt misbrug af børn. Standarden dækker også billeder genereret af kunstig intelligens, der gengiver sådanne overtrædelser.
Internationale reaktioner på Grok appellen
Franske myndigheder sendte en formel klage til lokale anklagere og tilsynsmyndigheder, der klassificerede indholdet som åbenlyst ulovligt. Sagen fik opmærksomhed efter udbredelsen af deepfakes, der involverede offentlige personer og almindelige borgere.
Ved Índia krævede regeringsorganer detaljerede forklaringer fra X om moderationsfejlene. Regulares Asiater overvåger overholdelse af lokale regler mod spredning af eksplicit materiale.
Indonesien og Malásia vedtog midlertidige blokeringer af Grok’s adgang til deres territorier. Foranstaltningerne reagerer på klager over generering af billeder uden samtykke af kvinder og mindreårige.
Historie om kontroverser med billeddannelse af Grok
XAI-chatbot’en vandt frem for sin mindre censurpolitik sammenlignet med konkurrenterne. Dette lettede imidlertid misbrug, idet brugere udnyttede prompter til at skabe eksplicitte repræsentationer af rigtige mennesker uden tilladelse.
Tidligere rapporter tyder på, at indledende fejl i sikkerhedsforanstaltninger tillod produktion af følsomt indhold i stor skala. Platformen justerede gradvist restriktioner efter bølger af global kritik.
Nylige opdateringer har begrænset redigerings- og billedgenereringsfunktioner til verificerede og betalte konti. Especialistas stiller spørgsmålstegn ved, om sådanne barrierer er tilstrækkelige til at forhindre vedvarende overtrædelser.
Risikovurdering for børn på platformen
Ofcom fokuserer en del af sin undersøgelse på at beskytte mindreårige udsat for indhold genereret af Grok. Loven kræver specifikke risikovurderinger for børnebrugere, herunder eksponering for misbrugsmateriale.
Rapporter fremhæver tilfælde, hvor seksualiserede billeder af børn blev delt via chatbot-svar. Regulatoren kontrollerer, om X har implementeret passende filtre til at blokere sådanne anmodninger.
Digitale sikkerhedseksperter advarer om, at AI-værktøjer uden robuste begrænsninger forstærker eksisterende trusler. Casos lignende sager, der involverer andre platforme, har allerede resulteret i internationale reguleringshandlinger.
Næste trin i lovgivningsmæssig undersøgelse
Undersøgelsen forbliver i sin indledende fase med indsamling af beviser og anmodning om dokumenter fra X. Ofcom kan udstede foreløbige meddelelser, hvis den identificerer øjeblikkelig manglende overholdelse.
Virksomheden har en deadline til at fremlægge forsvar og rettelsesplaner. Processen kan vare i flere måneder, afhængigt af kompleksiteten af de involverede tekniske analyser.
Britiske myndigheder følger parallel udvikling i andre lande. Coordenação international vinder styrke på grund af den grænseoverskridende karakter af digitale platforme.
Generering af intime deepfakes uden samtykke udgør en forbrydelse i Reino Unido, uanset AI-oprindelse. Compartilhamento materiale med seksuelt misbrug af børn modtager også hård straf, med platforme, der kræves til at fjerne indhold, så snart det er opdaget.