Platform X har bekreftet implementeringen av nye teknologiske barrierer i sin chatbot Grok, designet spesielt for å forhindre redigering av fotografier av ekte mennesker med det formål å fjerne eller endre klærne deres. Tiltaket, som ble kunngjort 14. januar 2026, er et direkte svar på den økende bølgen av klager om opprettelse og spredning av seksualiserte deepfakes, som rammet både voksne og mindreårige.
Beslutningen var motivert av misbruk av verktøyet for kunstig intelligens, som tillot ondsinnede brukere å generere montasjer uten samtykke med nakenhet eller antydende klær. Restriksjonene ble brukt umiddelbart og globalt, og påvirket alle brukere av det sosiale nettverket, uavhengig av deres type abonnement.
Kontroversen eskalerte de siste ukene etter sirkulasjonen av flere manipulerte bilder, og genererte sterke reaksjoner fra myndigheter og organisasjoner som forsvarer digitale rettigheter i flere land. Selskapet fremhevet at oppdateringen tar sikte på å tilpasse verktøyets drift med gjeldende lovgivning og beskytte integriteten til enkeltpersoner på plattformen.
Før oppdateringen ga bilderedigeringsfunksjonen innebygd i Grok stor frihet, som ble utnyttet til å lage skadelig innhold. Den nye policyen representerer et forsøk fra selskapet for å begrense misbruk og gjenopprette sikkerheten i det digitale miljøet det administrerer.
Hvordan de nye sikkerhetsfiltrene fungerer
X-sikkerhetsteamet detaljert at det nye beskyttelseslaget opererer gjennom avanserte filtre, programmert til å identifisere og blokkere i sanntid enhver kommando som ber om fjerning av klær eller innsetting av elementer av seksuell konnotasjon i bilder av mennesker. Systemet er designet for å analysere intensjonen bak brukernes forespørsler før noen bilder genereres, og automatisk avslå forespørsler som bryter med de nye retningslinjene. Selskapet opplyste at overvåking er kontinuerlig for å identifisere og nøytralisere eventuelle forsøk på å omgå sikkerhetsbarrierer. Além blokkerer operasjonen, kan brukere som insisterer på å sende inn forbudte kommandoer møte sanksjoner, for eksempel midlertidig eller permanent begrensning av tilgangen til verktøyet for kunstig intelligens. Oppdateringen ble distribuert globalt for å sikre at de samme beskyttelsesreglene brukes på alle språk og regioner der plattformen opererer, noe som forsterker en enhetlig sikkerhetsstandard.
Den offisielle posisjoneringen av selskapet og Elon Musk
Elon Musk, eier av X og grunnlegger av xAI, selskapet som er ansvarlig for å utvikle Grok, snakket offentlig om kontroversen. Ele uttalte at han ikke hadde noen forkunnskaper om verktøyets generering av eksplisitte bilder som involverer mindreårige, og fremhevet at chatboten bare utfører direkte kommandoer fra brukere, og har mekanismer for automatisk å nekte å lage innhold som anses som ulovlig. Musk understreket selskapets forpliktelse til å bekjempe misbruk av teknologi.
I en offisiell uttalelse kompletterte X-plattformen uttalelsene, og sa at spesifikke feil identifisert i tidligere beskyttelsesbarrierer allerede var korrigert i tidligere oppdateringer. Selskapet gjentok sin forpliktelse til lovlig overholdelse på tvers av alle markeder og fremhevet at kontinuerlige forbedringer blir implementert av xAI-teamet for å forhindre gjentakelse av hendelser. Prioriteten, ifølge notatet, er å garantere et trygt miljø uten å ofre teknologisk innovasjon.
Undersøkelser og blokader rundt om i verden
I Reino Unido startet kommunikasjonsreguleringsorganet, Ofcom, en formell etterforskning mot
I Brasil ba Instituto Brasileiro av Defesa av Consumidor (Idec) formelt regjeringen om å midlertidig suspendere tilgangen til Grok. Enheten hevdet at verktøyet representerte et direkte brudd på bilde- og personvernrettigheter, spesielt for barn og ungdom.
I en mer drastisk handling bestemte regjeringene til Indonésia og Malásia seg på å fullstendig blokkere tilgangen til Grok i deres territorier. Avgjørelsen var basert på strenge lokale lover mot spredning av pornografi og innhold som ble ansett som støtende.
Mobiliseringen av det organiserte sivile samfunn
En internasjonal koalisjon, som består av mer enn 20 feministiske og digitale rettighetsorganisasjoner, har forsterket presset på teknologigigantene.
Enhetene sendte åpne brev til Apple og Google, og ba om midlertidig fjerning av applikasjon X fra deres respektive applikasjonslagre.
Hovedargumentet som ble presentert var at ved å holde applikasjonen tilgjengelig, ville bedrifter lette tilgangen til et verktøy som brukes til å begå digitale seksuelle overgrep.
Blant underskriverne av brevene var fremtredende grupper, som UltraViolet og National Organization for Women, som advarte om den overhengende risikoen for tusenvis av potensielle ofre.
Kilde til problemet i bildeverktøyet
Groks redigeringsfunksjonalitet ble utviklet av xAI for å muliggjøre kreative visuelle kreasjoner fra tekstkommandoer. Imidlertid ble dens evne til å endre bilder publisert på plattformen raskt utnyttet til ondsinnede formål.
Uavhengig forskning utført før implementeringen av blokken avslørte et betydelig volum av forespørsler om å generere nakenhet eller sette inn minimalt med klær i ekte bilder, noe som avslører systemets sårbarhet for misbruk.
Utviklingen av inneslutningstiltak
Tidligere hadde plattformen forsøkt å begrense problemet ved å begrense tilgangen til bilderedigering til kun betalte abonnenter. Tiltaket ble mye kritisert, da det ble tolket som en måte å tjene penger på en funksjonalitet som ga klare risikoer for brukernes sikkerhet. Den nåværende begrensningen, som fullstendig forbyr denne typen redigering for alle, representerer en strategiendring som er mer i tråd med sikkerhetskravene.
Juridisk kontekst og plattformansvar
X bekreftet sin nulltoleranse mot materiale om seksuelle overgrep mot barn, og sikret umiddelbar fjerning av innhold og permanente forbud mot krenkende kontoer. Selskapet samarbeider også aktivt med rettshåndhevende myndigheter i etterforskning knyttet til digital kriminalitet.
Mens hovedansvaret for misbruk av verktøyet ligger hos brukerne som utsteder de forbudte kommandoene, anerkjenner plattformen sin plikt til å implementere robuste sikkerhetstiltak for å forhindre at teknologien blir brukt til å forårsake skade, balansere innovasjon og brukerbeskyttelse.
