YouTube annoncerede denne tirsdag (10) udvidelsen af sit lighedsdetektionsværktøj til en pilotgruppe bestående af embedsmænd, politiske kandidater og journalister. Teknologien identificerer videoer genereret af kunstig intelligens, der gengiver ansigtsudseendet på mennesker uden tilladelse. Initiativet søger at beskytte identiteten hos dem, der aktivt deltager i offentlig debat og dækning af spørgsmål af national og international relevans.
Virksomheden fremhæver, at foranstaltningen reagerer på stigningen i tilfælde af billedmanipulation af AI. Figuras offentlige virksomheder står over for større risiko for efterligning i valgperioder og i følsom rapportering. Med adgang kontrolleret af invitation bekræfter deltagerne deres identitet og begynder at overvåge indhold, der bruger deres ansigtslighed.
Værktøjet fungerer på samme måde som Content ID, der allerede er konsolideret til beskyttelse af ophavsret. Ela scanner automatisk nye uploads til platformen. Quando finder et match, giver den verificerede YouTube-bruger Studio besked om gennemgang og eventuel anmodning om fjernelse.
Udvidelse for at beskytte borgerlige ledere
Nyheden kommer fire måneder efter den første lancering af lighedsdetektion for skabere af Programa af Parcerias. I den første fase blev teknologien testet med pengeskabende indholdsproducenter. Agora, er fokus flyttet til at beskytte dem i fremtrædende positioner i den offentlige diskurs og pressen.
YouTube siger, at risikoen for deepfakes er særlig høj for politikere og journalister. Platformen begyndte udviklingen i samarbejde med talentbureauer og gennemførte tests med vidtfavnende skabere. De fleste af de indledende opdagelser pegede på indhold, der var harmløst eller endda gunstigt for de involverede.
Krav til deltagelse i pilotprojektet
Interesserede modtager en direkte invitation fra virksomheden. Eles skal sende et officielt dokument med foto udstedt af regeringen. Det er obligatorisk at optage og indsende en kort selfie-video til verifikation. Após-godkendelse, få adgang til en specifik fane på YouTube-panelet Studio. Værktøjet giver dig mulighed for at gennemgå og anmode om fjernelse af opdagede videoer.
Teknisk funktion af ansigtsdetektion
Teknologien prioriterer ansigtsanalyse i de sendte videoer. Systemet dækker ikke stemmedetektion på dette indledende stadium. YouTube planlægger at evaluere medtagelsen af lyd i fremtidige opdateringer. Underretninger kommer hurtigt, efter at mistænkeligt indhold er uploadet.
Deltagerne analyserer hver case, der er anført i studiet. Eles afgør, om materialet overtræder retningslinjerne for privatliv eller personefterligning. Platformen evaluerer konteksten, før enhver fjernelse godkendes. Conteúdos af parodi, satire eller politisk kritik er normalt bevaret.
Relevans i valg- og journalistisk sammenhæng
Deepfakes er blevet fremtrædende med den hurtige udvikling af AI-videogenereringsværktøjer. Manipuleret Vídeos kan ændre opfattelser af udtalelser eller handlinger fra myndigheder. Udvidelsen falder sammen med midtvejsvalgskalenderen i Estados Unidos, hvor ægtheden af oplysningerne får større vægt.
Eksperter overvåger væksten i sager, der involverer offentlige personer. YouTube forstærker, at det nye værktøj supplerer eksisterende foranstaltninger, såsom obligatorisk mærkning af indhold genereret af AI. Virksomheden forsvarer oprettelsen af føderal lovgivning, der regulerer brugen af sit eget image i syntetiske medier.
Begrænsninger og fremtidige trin af værktøjet
Registrering sker i realtid, mens nye videoer behandles. Det eksklusive fokus på ansigtslighed begrænser det nuværende omfang. YouTube indsamler feedback fra pilotdeltagere for at forfine algoritmen. Platformen har til formål at udvide adgangen til enhver embedsmand, kandidat eller journalist, der udtrykker interesse.
Anmodninger om fjernelse følger generelle fællesskabsregler. Nem alle detekterede tilfælde resulterer i sletning af indhold. Virksomheden fastholder, at beslutninger tager højde for den potentielle effekt og den fulde kontekst af videoen.
Fremskridt inden for moderering af syntetisk indhold
Initiativet repræsenterer et vigtigt skridt i bekæmpelsen af misbrug af kunstig intelligens. Offentlige Figuras får en proaktiv mekanisme til at overvåge deres image på platformen. YouTube understreger sit engagement i at bevare den offentlige debats ægthed.
Virksomheden fortsætter med at investere i teknologier for at sikre mod manipulation. Udvidelsen til journalister og politikere søger at balancere innovation med ansvarlighed med måde. Programmet bør udvikle sig baseret på aktuelle testresultater.
