உண்மையான புகைப்படங்களில் நிர்வாணத்துடன் டீப்ஃபேக்குகளை உருவாக்குவதைத் தடுக்க பிளாட்ஃபார்ம் எக்ஸ் க்ரோக் சாட்போட்டைத் தடுக்கிறது

பிளாட்ஃபார்ம் எக்ஸ் அதன் க்ரோக் சாட்போட்டில் புதிய மற்றும் கடுமையான தொழில்நுட்பக் கட்டுப்பாடுகளை செயல்படுத்துவதாக அறிவித்தது. ஜனவரி 14 முதல் நடைமுறைக்கு வந்த இந்த நடவடிக்கை, குறிப்பாக ஆடைகளை அகற்றுவது அல்லது பாலியல் உள்ளடக்கத்தை உருவாக்குவது போன்ற உண்மையான நபர்களின் புகைப்படங்களைத் திருத்துவதைத் தடுப்பதை நோக்கமாகக் கொண்டுள்ளது. உலகின் பல்வேறு பகுதிகளில் உள்ள பெண்கள் மற்றும் சிறார்களை பலிவாங்கிய டீப்ஃபேக்குகளின் பெருக்கம் பற்றிய புகார்களின் அலைக்கு இந்த நடவடிக்கை நேரடியான பிரதிபலிப்பாகும்.

இலவசம் அல்லது கட்டணச் சந்தாதாரர்கள் என்ற வேறுபாடு இல்லாமல், கருவியின் அனைத்துப் பயனர்களையும் பாதிக்கும் வகையில், உலகளவில் மற்றும் உடனடியாக மேம்படுத்தல் செயல்படுத்தப்பட்டது. சமூக வலைப்பின்னலின் பாதுகாப்புக் குழுவின் கூற்றுப்படி, பல நாடுகளில் நடைமுறையில் உள்ள படப் பாதுகாப்பு மற்றும் தனியுரிமைச் சட்டத்துடன் செயற்கை நுண்ணறிவின் செயல்பாட்டை சீரமைப்பதே முக்கிய உந்துதல். மாற்றத்திற்கு முன், கருவி மாற்றங்களை அனுமதித்தது, இது அங்கீகரிக்கப்படாத கூட்டங்களை உருவாக்க உதவுகிறது, இது நிறுவனத்திற்கு ஒரு பட நெருக்கடியை உருவாக்கியது.

சமீப வாரங்களில், பிளாட்ஃபார்மிற்குள்ளேயே கையாளப்பட்ட படங்கள் பெருமளவில் பரவத் தொடங்கியபோது, ​​சர்ச்சை விரைவாக அதிகரித்தது. சாதாரண புகைப்படங்களிலிருந்து வெளிப்படையான உள்ளடக்கத்தை உருவாக்க க்ரோக்கைப் பயன்படுத்தியதன் மூலம், அரசாங்க அதிகாரிகள் மற்றும் டிஜிட்டல் உரிமைகள் அமைப்புகளிடமிருந்து வலுவான எதிர்வினை ஏற்பட்டது, அவர்கள் பிரச்சினைக்கு உறுதியான தீர்வுக்காக நிறுவனத்திற்கு அழுத்தம் கொடுத்தனர்.

புதிய பாதுகாப்பு வடிப்பான்கள் எவ்வாறு செயல்படுகின்றன

xAI டெவலப்மென்ட் குழு விவரித்தது, மேம்பட்ட வடிப்பான்கள் மூலம் கட்டுப்பாடுகள் செயல்படுகின்றன, நிகழ்நேரத்தில் ஆடைகளை அகற்ற அல்லது உண்மையான நபர்களின் படங்களில் பாலியல் அர்த்தத்தின் கூறுகளைச் செருகக் கோரும் எந்தவொரு கட்டளையையும் கண்டறிந்து தடுக்க திட்டமிடப்பட்டுள்ளது. இந்த கண்டறிதல் அமைப்பு, படத்தை உருவாக்கி பயனருக்கு வழங்குவதைத் தடுக்கிறது.

ஒரு கோரிக்கை புதிய வழிகாட்டுதல்களை மீறும் போது, ​​Grok தானாகவே செயல்பாட்டை மறுத்து, கோரிக்கையை நிறைவேற்ற முடியாது என்று பயனருக்குத் தெரிவிக்கிறது. பாதுகாப்புத் தடைகளைத் தவிர்ப்பதற்கான எந்தவொரு முயற்சியையும் கண்டறிந்து நடுநிலையாக்க, பாதுகாப்பு நடவடிக்கையின் தொடர்ச்சியான செயல்திறனை உறுதிசெய்ய, அமைப்பு நிலையான கண்காணிப்பில் உள்ளது என்பதை தளம் எடுத்துக்காட்டுகிறது.

கருவி கிடைக்கும் அனைத்துப் பகுதிகளிலும் மொழிகளிலும் தொழில்நுட்பப் புதுப்பிப்புகள் ஒரே மாதிரியாகப் பயன்படுத்தப்பட்டுள்ளன. தடைசெய்யப்பட்ட கட்டளைகளை தொடர்ச்சியாகச் சமர்ப்பிக்க வலியுறுத்தும் பயனர்கள், பட உருவாக்கச் செயல்பாட்டிற்கான அணுகலைக் கட்டுப்படுத்துதல் அல்லது இடைநிறுத்துதல் உள்ளிட்ட தடைகளை எதிர்கொள்ள நேரிடும் என்றும் நிறுவனம் எச்சரித்தது.

பாதுகாப்பின் விரிவான தன்மையை உறுதி செய்வதற்காக, இயங்குதளமானது இப்போது அமைப்பால் தடுக்கப்பட்ட செயல்களின் தெளிவான பட்டியலை நிறுவியுள்ளது, அவற்றுள்:

• நபர்களின் படங்களிலிருந்து ஆடைகளை அகற்றுவதற்கான வெளிப்படையான கோரிக்கைகள்.
• ஆடைகளை வெளிப்படுத்தும் அல்லது வெளிப்படையானதாக மாற்றுவதை நோக்கமாகக் கொண்ட கட்டளைகள்.
• நபர் ஆடை அணிந்திருக்கும் படங்களில் இருந்து நிர்வாணத்தை உருவாக்கும் முயற்சிகள்.
• பாலியல் சூழல்களில் உண்மையான நபர்களைச் செருகுவதற்கான கோரிக்கைகள்.

நிறுவனத்தின் அதிகாரப்பூர்வ நிலைப்பாடு மற்றும் எலோன் மஸ்க்

X இன் உரிமையாளரும் xAI இன் நிறுவனருமான எலோன் மஸ்க், Grok இன் வளர்ச்சியின் பின்னணியில் உள்ள நிறுவனம், புதிய கட்டுப்பாடுகள் அறிவிக்கப்பட்ட அதே நாளில் சர்ச்சையைப் பற்றி பகிரங்கமாகப் பேசினார். மேடையில் ஒரு இடுகையில், கருவி மூலம் சிறார்களை உள்ளடக்கிய வெளிப்படையான படங்கள் உருவாக்கப்படுகின்றன என்பது தனக்கு முன் தெரியாது என்று கூறினார். எந்தவொரு சட்டவிரோத உள்ளடக்கத்தையும் உருவாக்குவதைத் தானாகவே மறுக்கும் வகையில் சாட்போட் வடிவமைக்கப்பட்டுள்ளது என்றும், அதன் செயல்பாடு பயனர்கள் வழங்கும் வெளிப்படையான கட்டளைகளைப் பொறுத்தது என்றும், முறைகேடான பொருட்களை உருவாக்குவதில் கருவிக்கு சுயாட்சியிலிருந்து விலக்கு அளிக்கப்படுகிறது என்றும் மஸ்க் வலியுறுத்தினார்.

அதிகாரப்பூர்வ அறிக்கையில், இயங்குதளம் X அதன் உரிமையாளரின் அறிக்கைகளை முழுமையாக்கியது, அதன் பாதுகாப்பு வழிமுறைகளில் அடையாளம் காணப்பட்ட குறைபாடுகள் முந்தைய புதுப்பிப்புகளில் உடனடியாக சரி செய்யப்பட்டதாகவும், புதிய தடையானது இந்த உறுதிப்பாட்டின் வலுவூட்டலைப் பிரதிபலிக்கிறது என்றும் கூறியது. நிறுவனம் செயல்படும் அனைத்து சந்தைகளிலும் சட்ட இணக்கத்தை பராமரிப்பதில் அதன் அர்ப்பணிப்பை வலியுறுத்தியது. xAI இன் பிரதிநிதிகளும் பேசினர், தொழில்நுட்பத்தை தவறாகப் பயன்படுத்துவதைத் தடுக்கவும், பயனர்களின் நேர்மையைப் பாதுகாக்கவும் பாதுகாப்பு அமைப்புகளை மேம்படுத்துவது ஒரு தொடர்ச்சியான செயல்முறையாகும்.

சர்வதேச விளைவுகள் மற்றும் ஒழுங்குமுறை நடவடிக்கைகள்

க்ரோக் உருவாக்கிய டீப்ஃபேக்குகளின் நெருக்கடி உலகெங்கிலும் உள்ள ஒழுங்குமுறை அமைப்புகளிடமிருந்து வலுவான எதிர்வினையைத் தூண்டியது, மேடையில் செயல்பட கட்டாயப்படுத்தியது. யுனைடெட் கிங்டமில், தகவல்தொடர்புகளை ஒழுங்குபடுத்தும் பொறுப்பான ஆஃப்காம், நாட்டின் ஆன்லைன் பாதுகாப்பு சட்டத்தில் வழங்கப்பட்டுள்ளபடி, சட்டவிரோத உள்ளடக்கத்தை அகற்றுவதற்கான அதன் சட்டப்பூர்வ கடமைகளுக்கு நிறுவனம் இணங்குகிறதா என்பதை தீர்மானிக்க X க்கு எதிராக முறையான விசாரணையைத் தொடங்கியது. பிரிட்டிஷ் பிரதம மந்திரி கெய்ர் ஸ்டார்மர், கடுமையான நடவடிக்கைகள் செயல்படுத்தப்பட்டு வருவதாக நிறுவனத்திடமிருந்து நேரடி உத்தரவாதம் கிடைத்ததாகக் கூறினார். இந்தோனேஷியா மற்றும் மலேசியா போன்ற ஆசிய நாடுகளில் உள்ள அரசாங்கங்கள், ஆபாசப் படங்கள் மற்றும் உள்ளடக்கத்தைப் பரப்புவதற்கு எதிரான கடுமையான உள்ளூர் சட்டங்களை மேற்கோள் காட்டி, க்ரோக்கிற்கான அணுகலை முற்றிலும் தடுக்கின்றன. டீப்ஃபேக்குகளுடன் கூடிய ஆயிரக்கணக்கான வெளியீடுகளை தளம் அகற்ற வேண்டும் என்றும், அவற்றை உருவாக்குவதற்கு காரணமான கணக்குகளை இடைநிறுத்த வேண்டும் என்றும், நிறுவனத்திடம் இருந்து ஒத்துழைப்பைப் பெற வேண்டும் என்றும் இந்தியாவும் கோரியது. பல்வேறு கண்டங்களில் உள்ள இந்த ஒருங்கிணைந்த இயக்கங்கள், செயற்கை நுண்ணறிவு கருவிகளின் துஷ்பிரயோகத்தின் சாத்தியக்கூறுகள் மற்றும் பெரிய தொழில்நுட்பங்கள் தங்கள் தயாரிப்புகளுக்கு அதிக பொறுப்பை ஏற்க வேண்டிய அழுத்தம் பற்றிய உலகளாவிய கவலையை விளக்குகின்றன.

பிரேசில் பிரதேசத்தில் பதிவு செய்யப்பட்ட சம்பவங்கள்

பிரேசிலில், பாதிக்கப்பட்டவர்களின் அறிக்கைகள் பகிரங்கமாக வந்த பிறகு, பிரச்சனை பிரபலமடைந்தது. சமூக வலைப்பின்னல் சுயவிவரத்தில் வெளியிடப்பட்ட ஒரு பெண் தனது தனிப்பட்ட புகைப்படங்களை வைத்திருந்தது, நிர்வாணம் மற்றும் பிகினிகளைப் பயன்படுத்துதல் போன்றவற்றை அவரது அனுமதியின்றி கையாள்வது தொடர்பான வழக்குகளில் ஒன்று. பாதிக்கப்பட்டவர் மான்டேஜ்கள் இருப்பதைக் கண்டறியும்போது ஆழ்ந்த அசௌகரியம் மற்றும் தனியுரிமை மீறலைப் புகாரளித்தார்.

இந்த மற்றும் பிற இதுபோன்ற நிகழ்வுகளுக்கு பதிலளிக்கும் விதமாக, பிரேசிலிய நுகர்வோர் பாதுகாப்பு நிறுவனம் (ஐடெக்) முறையான நடவடிக்கையை மேற்கொண்டது, க்ரோக்கிற்கான அணுகலை நாட்டில் தற்காலிகமாக நிறுத்தி வைக்க மத்திய அரசுக்கு கோரிக்கையை அனுப்பியது. கருவி, அதன் முந்தைய நிலையில், குழந்தைகள் மற்றும் இளம்பருவத்தினருக்கு அதிக ஆபத்துடன், குடிமக்களின் உருவம் மற்றும் தனியுரிமையைப் பாதுகாப்பதற்கான உரிமைகளை நேரடியாக மீறுகிறது என்று நிறுவனம் வாதிட்டது.

சிவில் சமூகத்தை அணிதிரட்டுதல் மற்றும் பெரிய தொழில்நுட்பங்கள் மீதான அழுத்தம்

க்ரோக்கின் தவறான பயன்பாட்டிற்கான பதில் அரசாங்க நடவடிக்கைக்கு மட்டுப்படுத்தப்படவில்லை. இருபதுக்கும் மேற்பட்ட பெண்ணிய மற்றும் டிஜிட்டல் உரிமைகள் அமைப்புகளால் உருவாக்கப்பட்ட ஒரு சர்வதேச கூட்டணி, ஆப்பிள் மற்றும் கூகுளை இலக்காகக் கொண்டு ஒரு அழுத்த பிரச்சாரத்தை ஏற்பாடு செய்தது. திறந்த கடிதங்களில், குழுக்கள் இரண்டு தொழில்நுட்ப ஜாம்பவான்களும் தங்கள் அதிகாரப்பூர்வ ஸ்டோர்களான ஆப் ஸ்டோர் மற்றும் கூகுள் ப்ளே ஆகியவற்றிலிருந்து பிளாட்ஃபார்ம் எக்ஸ் பயன்பாட்டை தற்காலிகமாக அகற்றுமாறு கோரினர்.

அல்ட்ரா வயலட் மற்றும் பெண்களுக்கான தேசிய அமைப்பு போன்ற முக்கிய நிறுவனங்கள், இந்த செயலியை வைத்திருப்பதன் மூலம், டிஜிட்டல் பாலியல் துஷ்பிரயோகம் செய்ய பயன்படுத்தப்படும் ஒரு கருவியை அணுகுவதற்கு ஆப் ஸ்டோர்கள் உதவுகின்றன என்று வாதிட்டனர். ஆயிரக்கணக்கான பாதிக்கப்பட்டவர்களுக்கு, குறிப்பாக பெண்கள் மற்றும் இளைஞர்களுக்கு இந்த அம்சம் ஏற்படுத்தியிருக்கும் தீவிர ஆபத்தை மனு எடுத்துக்காட்டுகிறது, மேலும் ஆப்பிள் மற்றும் கூகிள் தங்கள் சொந்த உள்ளடக்கக் கொள்கைகளுடன் இயங்குதளத்தின் இணக்கத்தை மதிப்பாய்வு செய்யுமாறு வலியுறுத்தியது.

சர்ச்சையின் தோற்றம்

XAI ஆல் உருவாக்கப்பட்ட அதிநவீன செயற்கை நுண்ணறிவு மாதிரிகளைப் பயன்படுத்தும் சக்திவாய்ந்த பட உருவாக்கம் மற்றும் எடிட்டிங் செயல்பாட்டை க்ரோக் ஒருங்கிணைக்கிறது. X இயங்குதளத்தில் பதிவேற்றப்பட்ட அல்லது வெளியிடப்பட்ட புகைப்படங்களில் கலைப் படைப்புகள் மற்றும் படைப்புத் திருத்தங்களைச் செய்ய பயனர்களை அனுமதிக்கும் வகையில் இந்தக் கருவி வடிவமைக்கப்பட்டுள்ளது. இருப்பினும், இந்த தொழில்நுட்ப திறன் தீங்கிழைக்கும் நோக்கங்களுக்காக விரைவாக இணைக்கப்பட்டது.

மிதமான கொள்கைகளின் பரிணாமம்

மொத்தத் தொகுதியைச் செயல்படுத்துவதற்கு முன், பிளாட்ஃபார்ம் X, பணம் செலுத்திய சந்தாதாரர்களுக்கு மட்டுமே பட எடிட்டிங் கருவிக்கான அணுகலைக் கட்டுப்படுத்துவதன் மூலம் சிக்கலைக் கட்டுப்படுத்த முயற்சித்தது. எவ்வாறாயினும், இந்த நடவடிக்கை பரவலாக விமர்சிக்கப்பட்டது, நிறுவனம், நடைமுறையில், தவறான உள்ளடக்கத்தை உருவாக்க அனுமதிக்கும் ஒரு செயல்பாட்டை பணமாக்குகிறது என்ற குற்றச்சாட்டுகளுடன். அனைத்து பயனர்களுக்கும் நிர்வாணத்தை முற்றிலுமாக தடை செய்யும் தற்போதைய கட்டுப்பாடு, பொது மற்றும் ஒழுங்குமுறை அழுத்தத்திற்கு பதிலளிக்கும் வகையில் நிலைப்பாட்டில் குறிப்பிடத்தக்க மாற்றத்தைக் குறிக்கிறது.