Ofcom, mediereguleringsorganet til Reino Unido, kunngjorde mandag 12. januar 2026 åpningen av en formell etterforskning mot X-plattformen, som tilhører Elon Musk. Etterforskningen tar sikte på å finne ut om selskapet ikke klarte å beskytte britiske brukere mot ulovlig innhold produsert av kunstig intelligens chatbot Grok, inkludert intime bilder uten samtykke og seksualiserte skildringer av barn.
Rapporter indikerer at Groks bildebehandlingsfunksjon har blitt brukt til å lage og dele dype forfalskninger som utgjør intimt bildemisbruk eller materiale om seksuelle overgrep mot barn. Plattformen må overholde forpliktelsene i Online Safety Act, en lov som krever forebyggende tiltak mot primært ulovlig innhold.
Statsminister Keir Starmer kalte bildene ekle og ulovlige i en nylig uttalelse. Autoridades trykker for rask handling, med mulighet for strenge sanksjoner dersom brudd bekreftes.
Plattform Xs posisjon i lys av anklagene
Selskap X ga en uttalelse om at de vedtar strenge tiltak mot ulovlig innhold på plattformen. Isso inkluderer umiddelbar fjerning av forbudt materiale, permanent suspensjon av involverte kontoer og samarbeid med lokale rettshåndhevelsesmyndigheter.
Enhver bruker som bruker Grok for å generere eller oppmuntre til ulovlig innhold, får de samme straffene som de som publiserer forbudt materiale direkte. Selskapet forsterket at det begrenset tilgangen til ressurser for generering av nakenbilder kun til betalende abonnenter, med sikte på å redusere misbruk.
Offisielle uttalelser fra den britiske regjeringen
Keir Starmer uttrykte harme over bildene produsert av Grok under en parlamentarisk sesjon forrige uke. Statsministeren krevde at X overtok effektiv kontroll over chatboten, og understreket at slik praksis ikke vil bli tolerert i landet.
Estados sekretær for Negócios, Peter Kyle, har bekreftet at et plattformforbud mot Reino Unido fortsatt er et levedyktig alternativ. Den endelige avgjørelsen ligger hos Ofcom, som vurderer risikoer for innbyggernes nettsikkerhet.
Minister Liz Kendall ønsket åpningen av etterforskningen velkommen og krevde hurtighet i å fullføre prosessen. Ela understreket behovet for å beskytte potensielle ofre for overgrep tilrettelagt av AI-verktøy.
Mulige tiltak av Ofcom ved manglende overholdelse
Regulatoren har vide fullmakter til å ilegge sanksjoner i alvorlige situasjoner med brudd på Online Safety Act. Entre de tilgjengelige alternativene er bøter tilsvarende opptil 10 % av selskapets globale inntekter.
- Rettsanmodning for betalingsleverandører om å fjerne tjenester fra plattformen;
- Beordre annonsører til å suspendere kampanjer på nettstedet;
- Beordre internettleverandører til å blokkere tilgang til X på britisk territorium;
- Krav om detaljerte rapporter om algoritmer og innholdsmoderering.
Slike virkemidler tar sikte på å sikre overholdelse av risikovurderingsplikter og prioritert beskyttelse for barn.
Kontekst av Online Safety Act og plattformforpliktelser
Den britiske nettsikkerhetsloven trådte nylig i kraft og pålegger teknologiselskaper klare ansvarsområder. Elas må utføre passende risikovurderinger for å identifisere trusler fra ulovlig innhold før det når brukere.
Plattformer som X trenger å implementere effektive systemer for å forhindre eksponering for prioritert materiale som pornografi uten samtykke og seksuelle overgrep mot barn. Standarden dekker også bilder generert av kunstig intelligens som gjengir slike brudd.
Internasjonale reaksjoner på Grok appellen
Franske myndigheter sendte en formell klage til lokale påtalemyndigheter og regulatorer, og klassifiserte innholdet som åpenbart ulovlig. Saken fikk oppmerksomhet etter sirkulasjonen av deepfakes som involverte offentlige personer og vanlige borgere.
Ved Índia krevde statlige organer detaljerte forklaringer fra X om moderasjonssviktene. Regulares Asiater overvåker overholdelse av lokale forskrifter mot spredning av eksplisitt materiale.
Indonesia og Malásia vedtok midlertidige blokkeringer av Groks tilgang til deres territorier. Tiltakene reagerer på klager på generering av bilder uten samtykke av kvinner og mindreårige.
Historie om kontroverser med bildebehandling av Grok
XAI-chatboten ble fremtredende for sin mindre sensurpolitikk sammenlignet med konkurrenter. Dette muliggjorde imidlertid misbruk, med brukere som utnyttet forespørsler for å lage eksplisitte representasjoner av ekte mennesker uten autorisasjon.
Tidligere rapporter indikerer at innledende feil i sikkerhetstiltak tillot produksjon av sensitivt innhold i stor skala. Plattformen justerte gradvis restriksjoner etter bølger av global kritikk.
Nylige oppdateringer har begrenset redigerings- og bildegenereringsfunksjoner til bekreftede og betalte kontoer. Especialistas stiller spørsmål ved om slike barrierer er tilstrekkelige for å forhindre vedvarende brudd.
Risikovurdering for barn på plattformen
Ofcom fokuserer deler av sin undersøkelse på å beskytte mindreårige som er utsatt for innhold generert av Grok. Loven krever spesifikke risikovurderinger for barnebrukere, inkludert eksponering for overgrepsmateriale.
Rapporter fremhever tilfeller der seksualiserte bilder av barn ble delt via chatbot-svar. Regulatoren sjekker om X har implementert passende filtre for å blokkere slike forespørsler.
Digitale sikkerhetseksperter advarer om at AI-verktøy uten robuste begrensninger forsterker eksisterende trusler. Casos lignende saker som involverer andre plattformer har allerede resultert i internasjonale regulatoriske handlinger.
Neste trinn i regulatorisk undersøkelse
Etterforskningen forblir i sin innledende fase, med innsamling av bevis og forespørsel om dokumenter fra X. Ofcom kan utstede foreløpige meldinger hvis den identifiserer umiddelbar manglende overholdelse.
Selskapet har en frist for å legge frem forsvars- og rettingsplaner. Prosessen kan vare i flere måneder, avhengig av kompleksiteten til de involverte tekniske analysene.
Britiske myndigheter følger parallell utvikling i andre land. Coordenação internasjonal blir styrket gitt digitale plattformers grenseoverskridende natur.
Generering av intime deepfakes uten samtykke utgjør en forbrytelse i Reino Unido, uavhengig av AI-opprinnelse. Compartilhamento av materiale om seksuelle overgrep mot barn får også streng straff, med plattformer som kreves for å fjerne innhold så snart det oppdages.
