ఆఫ్కామ్, UK మీడియా రెగ్యులేటరీ బాడీ, ఈ సోమవారం, జనవరి 12, 2026న, ఎలోన్ మస్క్కి చెందిన X ప్లాట్ఫారమ్పై అధికారిక విచారణను ప్రారంభిస్తున్నట్లు ప్రకటించింది. ఏకాభిప్రాయం లేని సన్నిహిత చిత్రాలు మరియు పిల్లల లైంగిక చిత్రణలతో సహా గ్రోక్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చాట్బాట్ రూపొందించిన చట్టవిరుద్ధమైన కంటెంట్ నుండి బ్రిటిష్ వినియోగదారులను రక్షించడంలో కంపెనీ విఫలమైందో లేదో నిర్ధారించడం దర్యాప్తు లక్ష్యం.
సన్నిహిత ఇమేజ్ దుర్వినియోగం లేదా పిల్లల లైంగిక వేధింపుల మెటీరియల్గా ఉండే డీప్ఫేక్లను రూపొందించడానికి మరియు భాగస్వామ్యం చేయడానికి గ్రోక్ యొక్క ఇమేజ్ జనరేషన్ ఫీచర్ ఉపయోగించబడిందని నివేదికలు సూచిస్తున్నాయి. ప్లాట్ఫారమ్ తప్పనిసరిగా ఆన్లైన్ సేఫ్టీ యాక్ట్లో నిర్దేశించిన బాధ్యతలకు కట్టుబడి ఉండాలి, ప్రాథమికంగా చట్టవిరుద్ధమైన కంటెంట్కు వ్యతిరేకంగా నివారణ చర్యలు అవసరమయ్యే చట్టం.
ప్రధాన మంత్రి కైర్ స్టార్మర్ ఇటీవలి ప్రకటనలో చిత్రాలను అసహ్యంగా మరియు చట్టవిరుద్ధంగా పేర్కొన్నారు. నిబంధనలు ఉల్లంఘిస్తే కఠిన ఆంక్షలు విధించే అవకాశం ఉండటంతో సత్వర చర్యలు తీసుకోవాలని అధికారులు ఒత్తిడి చేస్తున్నారు.
ఆరోపణల వెలుగులో ప్లాట్ఫారమ్ X యొక్క స్థానం
ప్లాట్ఫారమ్లోని చట్టవిరుద్ధమైన కంటెంట్పై కఠిన చర్యలు తీసుకుంటామని కంపెనీ X ఒక ప్రకటన విడుదల చేసింది. నిషేధిత మెటీరియల్లను తక్షణమే తీసివేయడం, ప్రమేయం ఉన్న ఖాతాలను శాశ్వతంగా నిలిపివేయడం మరియు స్థానిక చట్టాన్ని అమలు చేసే అధికారులతో సహకరించడం వంటివి ఇందులో ఉన్నాయి.
చట్టవిరుద్ధమైన కంటెంట్ను రూపొందించడానికి లేదా ప్రోత్సహించడానికి Grokని ఉపయోగించే ఏ వినియోగదారు అయినా నిషేధిత విషయాలను నేరుగా ప్రచురించే వారికి వర్తించే అదే జరిమానాలను అందుకుంటారు. దుర్వినియోగాన్ని తగ్గించే లక్ష్యంతో, చెల్లింపు చందాదారులకు మాత్రమే నగ్న చిత్రాల ఉత్పత్తి వనరులకు యాక్సెస్ను పరిమితం చేసినట్లు కంపెనీ బలపరిచింది.
బ్రిటిష్ ప్రభుత్వం నుండి అధికారిక ప్రకటనలు
గత వారం జరిగిన పార్లమెంటరీ సెషన్లో గ్రోక్ రూపొందించిన చిత్రాలపై కీర్ స్టార్మర్ ఆగ్రహం వ్యక్తం చేశారు. చాట్బాట్పై X సమర్థవంతమైన నియంత్రణను చేపట్టాలని ప్రధాన మంత్రి డిమాండ్ చేశారు, దేశంలో ఇటువంటి పద్ధతులను సహించబోమని హైలైట్ చేశారు.
UKలో ప్లాట్ఫారమ్పై నిషేధం ఆచరణీయమైన ఎంపికగా మిగిలి ఉందని బిజినెస్ స్టేట్ సెక్రటరీ పీటర్ కైల్ ధృవీకరించారు. పౌరుల ఆన్లైన్ భద్రతకు సంబంధించిన నష్టాలను అంచనా వేసే ఆఫ్కామ్పై తుది నిర్ణయం ఉంటుంది.
మంత్రి లిజ్ కెండాల్ దర్యాప్తు ప్రారంభించడాన్ని స్వాగతించారు మరియు ప్రక్రియను పూర్తి చేయడంలో వేగవంతం చేయాలని పిలుపునిచ్చారు. AI సాధనాల ద్వారా దుర్వినియోగం నుండి సంభావ్య బాధితులను రక్షించాల్సిన అవసరాన్ని ఆమె నొక్కి చెప్పారు.
పాటించని పక్షంలో Ofcom ద్వారా సాధ్యమయ్యే చర్యలు
ఆన్లైన్ భద్రతా చట్టాన్ని ఉల్లంఘించే తీవ్రమైన పరిస్థితుల్లో ఆంక్షలు విధించేందుకు రెగ్యులేటర్కు విస్తృత అధికారాలు ఉన్నాయి. అందుబాటులో ఉన్న ఎంపికలలో కంపెనీ ప్రపంచ ఆదాయంలో 10% వరకు జరిమానాలు ఉన్నాయి.
- ప్లాట్ఫారమ్ నుండి సేవలను తీసివేయమని చెల్లింపు ప్రొవైడర్ల కోసం కోర్టు అభ్యర్థన;
- వెబ్సైట్లో ప్రచారాలను నిలిపివేయమని ప్రకటనకర్తలను ఆదేశించండి;
- బ్రిటీష్ భూభాగంలో Xకి యాక్సెస్ను బ్లాక్ చేయమని ఇంటర్నెట్ ప్రొవైడర్లను ఆదేశించడం;
- అల్గారిథమ్లు మరియు కంటెంట్ నియంత్రణపై వివరణాత్మక నివేదికల అవసరం.
ఇటువంటి సాధనాలు రిస్క్ అసెస్మెంట్ డ్యూటీలు మరియు పిల్లలకు ప్రాధాన్యతా రక్షణకు అనుగుణంగా ఉండేలా చూడాలని లక్ష్యంగా పెట్టుకున్నాయి.
ఆన్లైన్ భద్రతా చట్టం మరియు ప్లాట్ఫారమ్ బాధ్యతల సందర్భం
బ్రిటిష్ ఆన్లైన్ భద్రతా చట్టం ఇటీవల అమలులోకి వచ్చింది మరియు సాంకేతిక సంస్థలపై స్పష్టమైన బాధ్యతలను విధిస్తుంది. చట్టవిరుద్ధమైన కంటెంట్ వినియోగదారులకు చేరే ముందు దాని నుండి వచ్చే బెదిరింపులను గుర్తించడానికి వారు తగిన ప్రమాద అంచనాలను తప్పనిసరిగా నిర్వహించాలి.
X వంటి ప్లాట్ఫారమ్లు ఏకాభిప్రాయం లేని అశ్లీలత మరియు పిల్లల లైంగిక వేధింపుల వంటి ప్రాధాన్యతా అంశాలకు గురికాకుండా నిరోధించడానికి సమర్థవంతమైన వ్యవస్థలను అమలు చేయాలి. అటువంటి ఉల్లంఘనలను పునరుత్పత్తి చేసే కృత్రిమ మేధస్సు ద్వారా రూపొందించబడిన చిత్రాలను కూడా ప్రమాణం కవర్ చేస్తుంది.
గ్రోక్ యొక్క లక్షణానికి అంతర్జాతీయ ప్రతిచర్యలు
ఫ్రెంచ్ అధికారులు స్థానిక ప్రాసిక్యూటర్లు మరియు రెగ్యులేటర్లకు అధికారిక ఫిర్యాదును ఫార్వార్డ్ చేశారు, కంటెంట్ను స్పష్టంగా చట్టవిరుద్ధంగా వర్గీకరించారు. ప్రజాప్రతినిధులు మరియు సాధారణ పౌరులతో కూడిన డీప్ఫేక్ల ప్రసరణ తర్వాత ఈ కేసు దృష్టిని ఆకర్షించింది.
భారతదేశంలో, ప్రభుత్వ సంస్థలు మోడరేషన్ వైఫల్యాల గురించి X నుండి వివరణాత్మక వివరణలను కోరాయి. ఆసియా రెగ్యులర్లు స్పష్టమైన విషయాలను వ్యాప్తి చేయకుండా స్థానిక నిబంధనలను పాటించడాన్ని పర్యవేక్షిస్తారు.
ఇండోనేషియా మరియు మలేషియా తమ భూభాగాల్లోకి గ్రోక్ యాక్సెస్పై తాత్కాలిక బ్లాక్లను స్వీకరించాయి. మహిళలు మరియు మైనర్ల ఏకాభిప్రాయం లేని చిత్రాల తరం గురించి ఫిర్యాదులకు చర్యలు ప్రతిస్పందిస్తాయి.
గ్రోక్ ద్వారా చిత్ర నిర్మాణంతో వివాదాల చరిత్ర
పోటీదారులతో పోల్చితే xAI చాట్బాట్ తక్కువ సెన్సార్షిప్ విధానానికి ప్రాముఖ్యతను సంతరించుకుంది. అయినప్పటికీ, ఇది దుర్వినియోగాన్ని సులభతరం చేసింది, వినియోగదారులు అధికారం లేకుండా నిజమైన వ్యక్తుల యొక్క స్పష్టమైన ప్రాతినిధ్యాలను సృష్టించడానికి ప్రాంప్ట్లను ఉపయోగించుకుంటారు.
మునుపటి నివేదికలు భద్రతా చర్యలలో ప్రారంభ వైఫల్యాలు పెద్ద ఎత్తున సున్నితమైన కంటెంట్ను ఉత్పత్తి చేయడానికి అనుమతించాయని సూచిస్తున్నాయి. ప్రపంచవ్యాప్త విమర్శల తరంగాలను అనుసరించి ప్లాట్ఫారమ్ క్రమంగా పరిమితులను సర్దుబాటు చేసింది.
ఇటీవలి అప్డేట్లు ధృవీకరించబడిన మరియు చెల్లింపు ఖాతాలకు పరిమిత సవరణ మరియు ఇమేజ్ జనరేషన్ ఫంక్షన్లను కలిగి ఉన్నాయి. నిరంతర ఉల్లంఘనలను నివారించడానికి ఇటువంటి అడ్డంకులు సరిపోతాయా అని నిపుణులు ప్రశ్నిస్తున్నారు.
ప్లాట్ఫారమ్పై పిల్లలకు ప్రమాద అంచనా
గ్రోక్ రూపొందించిన కంటెంట్కు గురైన మైనర్లను రక్షించడంపై ఆఫ్కామ్ పరిశోధనలో కొంత భాగాన్ని కేంద్రీకరిస్తుంది. చైల్డ్ యూజర్ల కోసం చట్టానికి నిర్దిష్ట రిస్క్ అసెస్మెంట్లు అవసరం, అలాగే దుర్వినియోగమైన విషయాలను బహిర్గతం చేయడం.
చాట్బాట్ ప్రతిస్పందనల ద్వారా పిల్లల లైంగిక చిత్రాలను షేర్ చేసిన సందర్భాలను నివేదికలు హైలైట్ చేస్తాయి. అటువంటి అభ్యర్థనలను నిరోధించడానికి X తగిన ఫిల్టర్లను అమలు చేసిందో లేదో నియంత్రకం తనిఖీ చేస్తుంది.
బలమైన పరిమితులు లేని AI సాధనాలు ఇప్పటికే ఉన్న బెదిరింపులను పెంచుతాయని డిజిటల్ భద్రతా నిపుణులు హెచ్చరిస్తున్నారు. ఇతర ప్లాట్ఫారమ్లకు సంబంధించిన ఇలాంటి కేసులు ఇప్పటికే అంతర్జాతీయ నియంత్రణ చర్యలకు దారితీశాయి.
నియంత్రణ పరిశోధనలో తదుపరి దశలు
X నుండి సాక్ష్యాధారాల సేకరణ మరియు పత్రాల కోసం అభ్యర్థనలతో విచారణ ప్రారంభ దశలోనే ఉంది. Ofcom తక్షణం పాటించని విషయాన్ని గుర్తిస్తే ప్రాథమిక నోటిఫికేషన్లను జారీ చేయవచ్చు.
రక్షణ మరియు దిద్దుబాటు ప్రణాళికలను సమర్పించడానికి కంపెనీకి గడువు ఉంది. సాంకేతిక విశ్లేషణల సంక్లిష్టతను బట్టి ఈ ప్రక్రియ నెలల తరబడి కొనసాగుతుంది.
బ్రిటిష్ అధికారులు ఇతర దేశాలలో సమాంతర పరిణామాలను అనుసరిస్తున్నారు. డిజిటల్ ప్లాట్ఫారమ్ల సరిహద్దు స్వభావాన్ని బట్టి అంతర్జాతీయ సమన్వయం బలాన్ని పొందుతుంది.
AI మూలంతో సంబంధం లేకుండా యునైటెడ్ కింగ్డమ్లో ఏకాభిప్రాయం లేని సన్నిహిత డీప్ఫేక్ల తరం నేరంగా పరిగణించబడుతుంది. పిల్లలపై లైంగిక వేధింపుల మెటీరియల్ను షేర్ చేయడం కూడా కఠినమైన శిక్షను పొందుతుంది, కంటెంట్ గుర్తించిన వెంటనే ప్లాట్ఫారమ్లను తీసివేయడం అవసరం.