Ang pinakamalaking video platform sa mundo ay nag-anunsyo ng pagpapalawak ng teknolohiya sa pagtukoy ng pagkakapareho ng mukha nito sa isang bagong pangkat ng mga user. Mula ngayon, ang mga opisyal ng gobyerno, mga kandidato para sa pampublikong opisina at mga propesyonal sa pamamahayag ay sasali sa isang pilot program na nakatuon sa paglaban sa paglaganap ng nilalamang nabuo ng artificial intelligence. Awtomatikong tinutukoy ng system ang mga audiovisual na materyal na nagpaparami ng hitsura ng mga tao nang walang paunang pahintulot. Ang panukalang-batas ay naglalayong garantiya ang integridad ng pagkakakilanlan ng mga indibidwal na direktang nagtatrabaho sa civic debate at sa saklaw ng mga katotohanan ng pandaigdigang kaugnayan.
Paano gumagana ang synthetic na pagsubaybay sa larawan
Gumagana ang tool gamit ang isang software architecture batay sa kilalang sistema ng proteksyon ng copyright ng platform. Ang makina ay nagsasagawa ng pare-pareho at awtomatikong pag-scan sa lahat ng mga bagong pag-upload ng video sa mga server. Ang imprastraktura ay nagpoproseso ng mga terabyte ng data araw-araw, na nangangailangan ng napakalaking kapangyarihan sa pag-compute upang ihambing ang mga mukha sa mga fraction ng isang segundo. Tinitiyak ng tuluy-tuloy na pagsubaybay ng Este na ang synthetic na media ay naharang sa mga unang sandali pagkatapos ng pag-upload, na lubhang binabawasan ang potensyal para sa maling impormasyon na mag-viral.
Sa sandaling matukoy ng algorithm ang isang facial match sa isa sa mga miyembrong nakarehistro sa programa, isang agarang alerto ang nabuo. Direktang natatanggap ng na-verify na user ang notification sa kanilang control panel upang simulan ang proseso ng pagsusuri sa kahina-hinalang materyal. Nag-aalok ang control panel ng mga detalyadong sukatan sa abot ng video, na nagpapahintulot sa biktima na masuri ang kalubhaan ng sitwasyon bago makipag-ugnayan sa team ng suporta ng kumpanya.
Mahigpit na pamantayan para sa pagpasok sa pilot program
Ang pag-access sa bagong functionality ay nangyayari nang mahigpit sa pamamagitan ng mga direktang imbitasyon na ipinadala ng pangangasiwa ng platform. Ang mga piling indibidwal ay dapat dumaan sa isang multi-step na proseso ng pag-verify ng pagkakakilanlan upang matiyak ang seguridad ng system at maiwasan ang panloob na panloloko.
Ang unang hakbang ay nangangailangan ng pagsusumite ng isang opisyal na dokumento ng pagkakakilanlan ng larawan na ibinigay ng isang kinikilalang awtoridad ng pamahalaan. Pinipigilan ng pamamaraan ng Este ang mga malisyosong aktor na subukang irehistro ang mukha ng mga ikatlong partido upang manipulahin ang tool sa pagmo-moderate sa kanilang pabor.
Bilang karagdagan sa pormal na dokumentasyon, kinakailangan ng system ang pag-record ng isang maikling video sa format na self-portrait. Ang Este audiovisual file ay nagsisilbing pangunahing biometric database na gagamitin ng algorithm sa cross-reference na impormasyon sa mga bagong araw-araw na pag-upload na ginawa ng milyun-milyong channel.
Proseso ng pagsusuri ng video at mga alituntunin sa pag-alis
Ang pagtuklas ng pagkakatulad ng mukha ay hindi nagreresulta sa awtomatikong pagtanggal ng iniulat na nilalaman. Nagtatag ang platform ng workflow na nangangailangan ng interbensyon ng tao mula sa apektadong indibidwal upang masuri ang katangian ng materyal na na-publish at matiyak ang katumpakan ng pagmo-moderate.
Ang mga kalahok sa programa ay nag-a-access ng isang nakalaang tab sa studio ng paggawa, kung saan tinitingnan nila ang isang detalyadong listahan ng lahat ng mga tugma na natagpuan. Mula sa interface na ito, maaari nilang panoorin ang video nang buo at magpasya kung ang publikasyon ay lumalabag sa mga alituntunin sa privacy o bumubuo ng isang kaso ng malisyosong pagpapanggap.
Kung matukoy ng user ang isang paglabag, gagawin nilang pormal ang isang kahilingan sa pag-alis na ipinapasa sa pangkat ng pagmo-moderate ng tao ng kumpanya. Sinusuri ng mga reviewer ang buong konteksto ng trabaho bago gumawa ng tiyak na desisyon tungkol sa pagtanggal ng materyal mula sa mga server.
Pinapanatili ng system ang content na napapabilang sa mga kategorya ng parody, satire o lehitimong pampulitika na pagpuna. Ang layunin ng kumpanya ay balansehin ang proteksyon ng personal na imahe sa pagpapanatili ng kalayaan sa pagpapahayag at malusog na pampublikong debate sa loob ng digital na kapaligiran.
Ebolusyon ng teknolohiya sa mga senaryo ng elektoral
Ang pagkaapurahan sa pagpapatupad ng mga mekanismo ng pagtatanggol laban sa sintetikong media ay lumago nang husto sa pagpapahusay ng mga tool sa pagbuo ng video. Ang kakayahang lumikha ng hyperrealistic na mga representasyon ng mga pampublikong pigura ay nag-aangat ng mga makabuluhang alalahanin tungkol sa integridad ng mga demokratikong proseso. Ang manipuladong Vídeos ay may potensyal na baguhin nang husto ang pananaw ng mga botante sa mga pahayag, panukala o aksyon ng mga awtoridad sa mga mahahalagang sandali sa mga kampanyang pampulitika.
Ang pandaigdigang kalendaryo ng halalan ay nagpapatindi sa pangangailangan para sa mabilis at tumpak na mga pagtugon sa teknolohiya. Ang mga miyembro ng press ng Profissionais ay naging madalas ding target ng mga kampanyang disinformation, gamit ang kanilang mga larawan na ginagamit upang mag-endorso ng mga maling ulat o magsulong ng pandaraya sa pananalapi. Ang pagpapalawak ng sistema ng pagsubaybay ay nag-aalok ng karagdagang layer ng seguridad para sa mga mamamahayag upang mapanatiling buo ang kredibilidad ng kanilang mga media outlet sa harap ng pagkalat ng mga falsification.
Mga teknikal na limitasyon at pag-unlad ng mga bagong function
Sa kabila ng makabuluhang pag-unlad sa visual na pagkakakilanlan, ang kasalukuyang bersyon ng tool ay nagpapakita ng mga paghihigpit sa pagpapatakbo na hinahangad na malampasan ng team ng engineering sa mga update sa hinaharap. Ang saklaw ng pagtuklas ay limitado lamang sa pagmamapa ng mga tampok ng mukha, na nag-iiwan ng puwang kaugnay sa pag-clone ng boses. Ang pagmamanipula ng audio ay naging isa sa pinakakaraniwan at mahirap na subaybayan ang mga taktika sa paglikha ng sintetikong media. Kinumpirma ng kumpanya na nagtatrabaho na ito sa pagbuo ng mga algorithm na may kakayahang pag-aralan ang mga sound spectrum upang makilala ang mga artipisyal na nabuong boses. Ang patuloy na feedback mula sa mga kalahok sa unang bahagi ng pilot program ay magbibigay ng data na kailangan upang sanayin at pinuhin ang mga bagong neural network na ito, na tinitiyak na ang mga alerto sa hinaharap ay sumasaklaw sa paningin at tunog nang walang putol at sabay-sabay, na nagsasara ng agwat laban sa mga kumplikadong pamemeke.
Unti-unting pagpapalawak at regulasyon ng digital na sektor
Ang kasalukuyang inisyatiba ay kumakatawan lamang sa isang bahagi lamang ng pangmatagalang diskarte para sa pagmo-moderate ng content na binuo ng machine. Plano ng platform na gawing demokrasya ang pag-access sa tool, na nagpapahintulot sa sinumang opisyal ng gobyerno o mamamahayag na humiling ng pagsama sa sistema ng pagsubaybay sa malapit na hinaharap, pagpapalawak ng network ng proteksyon.
Responsibilidad ng korporasyon sa panahon ng sintetikong impormasyon
Ang digital ecosystem ay nangangailangan ng patuloy na mga adaptasyon dahil sa bilis ng teknolohikal na pagbabago. Ang paggawa ng isang proactive defense mechanism ay naglilipat ng bahagi ng kapangyarihan ng pagmo-moderate sa mismong mga tao na nasa panganib na masira ang kanilang mga larawan. Ang Esta na desentralisadong diskarte ay nagpapabilis sa oras ng pagtugon sa pagitan ng paglalathala ng mapanlinlang na materyal at sa pag-alis nito sa network, na nagpapagaan ng pinsala sa reputasyon ng mga sangkot.
Sinusubaybayan ng mga eksperto sa cybersecurity ang pagiging epektibo ng modelong ito ng pakikipagtulungan sa pagitan ng platform at mga na-verify na user. Inuulit ng kumpanya na ang teknolohiya ng pagkilala ay nagsisilbing pandagdag sa mga panuntunang ipinapatupad na, gaya ng kinakailangan para sa mga transparent na label sa mga video na ginawa ng mga algorithm. Ang debate tungkol sa pangangailangan para sa partikular na pederal na batas para sa hindi awtorisadong paggamit ng mga larawan ng tao ay patuloy na nagkakaroon ng momentum sa mga parlyamento sa buong mundo.
Kasaysayan ng pagsubok sa mga producer ng nilalaman
Ang pagpapalawak sa mga civic leader at reporter ay darating ilang buwan pagkatapos ng unang yugto ng pagsubok, na limitado sa mga miyembro ng monetization program ng platform. Sa paunang yugtong ito, na-calibrate ang teknolohiya gamit ang mga mukha ng mga tagalikha ng nilalaman na may milyun-milyong tagasunod.
Ang data na nakolekta sa unang hakbang ay nagsiwalat ng mga kawili-wiling pattern tungkol sa paggamit ng mga larawan ng third-party. Ang karamihan sa mga pag-detect ay itinuro ang mga video ng tagahanga, pagkilala, o hindi nakakapinsalang pag-edit na hindi lumalabag sa mga patakaran sa katanggap-tanggap na paggamit ng komunidad ng user.
Nakatulong ang machine learning na ito sa pagbabawas ng false positive rate sa detection system. Ang paglipat sa focus mula sa mga influencer ng entertainment tungo sa mga pampulitika at pamamahayag na mga numero ay nangangailangan ng fine-tuning ang algorithm upang mahawakan ang mas sopistikado at naka-target na mga kampanya ng smear.