Het huidige technologische scenario vereist onmiddellijke reacties van wereldleiders, en de bescherming van kinderen in de digitale omgeving stond centraal tijdens de eerste Global Dialogue on Artificial Intelligence Governance. De door de Verenigde Naties gepromootte bijeenkomst, gehouden in de Zwitserse stad Genève, bracht technologie-experts, wetgevers en regeringsvertegenwoordigers samen. Het belangrijkste doel van deze ongekende top was om een gedetailleerd overzicht te geven van de snelle vooruitgang van generatieve algoritmen en om beveiligingsparameters vast te stellen voor de meest kwetsbare gebruikers van het netwerk.
De urgentie om dit onderwerp te bespreken is niet toevallig ontstaan, maar als een directe reactie op een massale mobilisatie van het mondiale maatschappelijk middenveld. Meer dan honderd niet-gouvernementele organisaties en mensenrechtenorganisaties hebben hun krachten gebundeld om te eisen dat technologiegiganten de zelfregulering opgeven en juridisch verantwoordelijk worden voor hun producten. Dit drukblok stelt dat bedrijfsverantwoordelijkheid de enige haalbare manier is om ervoor te zorgen dat nieuwe computersystemen geen onherstelbare schade toebrengen aan de cognitieve en sociale ontwikkeling van minderjarigen.
De discrepantie tussen de vooruitgang van algoritmen en de mondiale wetgeving
António Guterres, hoofd diplomatie bij de VN, gebruikte zijn openingstoespraak om een zorgwekkende diagnose te schetsen over de huidige technologische race. De secretaris-generaal wees erop dat de snelheid van de ontwikkeling van geautomatiseerde tools een regelgevende afgrond heeft gecreëerd, waardoor wetgevers, overheden en zelfs software-ingenieurs zelf geen controle meer hebben over hun creaties. Volgens de internationale leider worden we geconfronteerd met een kracht die in staat is de financiële markten te herstructureren, de richting van de mondiale werkgelegenheid te dicteren, zich te bemoeien met democratische verkiezingsprocessen en de nationale veiligheidsregels te herschrijven in een tempo dat voor de menselijke geest onmogelijk te assimileren is.
Om een scenario van digitale chaos te voorkomen verdedigde de Portugese diplomaat de urgentie van een mondiaal pact dat de regels voor het gebruik en de ontwikkeling van deze platforms op alle continenten standaardiseert. De visie die door de VN-leiding wordt gepresenteerd verwerpt het idee dat regelgeving de vooruitgang verstikt, met het argument dat echte technologische innovatie hand in hand moet gaan met het behoud van fundamentele rechten. In een van zijn krachtigste uitspraken tijdens het panel verklaarde hij dat elke technologie die tot doel heeft transformerende macht over de samenleving uit te oefenen noodzakelijkerwijs onderworpen moet zijn aan rigoureuze mechanismen van bestuur en publiek toezicht.
De discussies op het Zwitserse forum kregen technische steun dankzij de presentatie van een historisch document aan de wetenschappelijke gemeenschap. Dit is de eerste grote mondiale en volledig onbevooroordeelde mapping van de impact van intelligente automatisering, zorgvuldig voorbereid door een commissie bestaande uit veertig vooraanstaande onderzoekers. Deze groep notabelen, die met de institutionele steun van de Verenigde Naties werkt, heeft maanden besteed aan het verzamelen van empirische gegevens over hoe neurale netwerken menselijk gedrag vormgeven en wat de werkelijke risico’s zijn van grootschalige adoptie ervan zonder de noodzakelijke veiligheidsmaatregelen.
De kwetsbaarheid van kinderen en adolescenten voor neurale netwerken
Het punt van de grootste spanning tijdens de bijeenkomst betrof de vroege en onbeschermde blootstelling van nieuwe generaties aan conversatierobots en aanbevelingsalgoritmen. Het hoofd van de mondiale diplomatie uitte zijn diepe bezorgdheid over het feit dat toepassingen op basis van machinaal leren al ingebed zijn in schoolroutines, op entertainmentplatforms en in de intieme gesprekken van jongeren. Het grote gevaar schuilt in het feit dat deze instrumenten op de consumentenmarkt zijn geïntroduceerd en in het dagelijks leven van miljoenen gezinnen zijn geïntegreerd, lang voordat ze rigoureuze audits hebben ondergaan die hun volledige veiligheid voor kinderen en jongeren hebben bewezen.
- Vereisen dat technologiebedrijven externe en onafhankelijke audits uitvoeren voordat ze een product lanceren dat op kinderen en jongeren is gericht;
- Implementeer absolute en niet-onderhandelbare filters die het genereren, verspreiden of opslaan van visuele inhoud die minderjarigen seksualiseert, voorkomen;
- Intelligentiemechanismen ontwikkelen die tekenen van psychische problemen tijdens de interactie met de machine kunnen identificeren, waardoor het gebruik onmiddellijk kan worden stopgezet;
- Breng een bindend internationaal verdrag tot stand dat de digitale beschermingswetten voor nieuwe generaties in alle lidstaten verenigt.
Om de ernst en urgentie van de situatie te illustreren presenteren de autoriteiten verzamelde historische gegevens over de adoptie van disruptieve technologieën in de afgelopen decennia. Terwijl het World Wide Web anderhalf decennium van voortdurende uitbreiding nodig had om de eerste miljard gebruikers met elkaar te verbinden, verpulverden moderne systemen voor natuurlijke taalverwerking die mijlpaal in slechts vierentwintig maanden. Deze penetratiegraad, absoluut ongekend in de geschiedenis van de mensheid, gecombineerd met het vermogen van algoritmen om gesimuleerde emotionele banden met jonge mensen te creëren, creëert een vruchtbare voedingsbodem voor misbruik. Het scenario wordt zelfs nog complexer vanwege het technologische monopolie, omdat de controle over deze geavanceerde instrumenten beperkt is tot een handvol miljardenbedrijven en een zeer klein aantal wereldmachten.
Internationale druk vereist een verandering in de houding van technologiegiganten
De diplomatieke belegering van het gebrek aan regulering won aan gewicht vlak voor de officiële opening van de plenaire zittingen in Zwitserland. Een consortium bestaande uit meer dan honderd prestigieuze instellingen, met de actieve deelname van Amnesty International en de organisatie Save the Children, publiceerde een manifest waarin concrete en onmiddellijke actie werd geëist. De coördinatie van deze mondiale beweging was de verantwoordelijkheid van de 5Rights Foundation, een entiteit die zich toelegt op digitale rechten en die een duidelijke stelling verdedigt: de last van het garanderen van een veilige virtuele omgeving moet volledig worden overgedragen naar de financiële balansen van technologiebedrijven, waardoor de onrealistische last wordt verlicht die momenteel op de schouders van ouders en opvoeders rust.
Het document dat aan de wereldleiders wordt overhandigd, stelt een pakket van bestraffende en preventieve maatregelen voor dat belooft het bedrijfsmodel van Silicon Valley radicaal te veranderen. Een van de belangrijkste eisen van de coalitie is de verplichting om vóór elke commerciële lancering rigoureuze stresstests uit te voeren, waarbij extreme risicoscenario’s worden gesimuleerd. Bovendien eist de groep de toepassing van strenge boetes die evenredig zijn aan de mondiale inkomsten van bedrijven die de veiligheid van kinderen verwaarlozen. Een ander punt van het manifest waarover niet kan worden onderhandeld, is het totale en definitieve verbod op het verzamelen, opslaan en te gelde maken van foto’s, stemopnames en biometrische gegevens van personen onder de achttien jaar voor het trainen van nieuwe computermodellen.
De uitvoerend directeur van de 5Rights Foundation, Leanda Barrington-Leach, profiteerde van de zichtbaarheid van het evenement om stem te geven aan de zorgen van de slachtoffers van deze juridische leemte. De activist wees erop dat de hedendaagse jeugd de gevaren van de digitale omgeving al perfect begrijpt en een duidelijke diagnose heeft van de tekortkomingen van het systeem. Volgens de deskundige willen de nieuwe generaties de wetenschappelijke ontwikkeling niet vertragen of het gebruik van innovatieve instrumenten verbieden, maar vinden zij het huidige industriemodel onaanvaardbaar, dat er de voorkeur aan geeft gebrekkige producten op de markt te brengen om pas te proberen de psychologische en sociale schade te herstellen nadat de tragedies zich al hebben voorgedaan.
De volgende stappen van de diplomatie om de wanordelijke opmars te stoppen
Het einde van de onderhandelingsrondes in Genève markeert niet het einde van het werk, maar eerder het begin van een intensief diplomatiek programma voor de komende maanden. De internationale gemeenschap wacht met grote verwachting op de publicatie van een nog diepgaander en gedetailleerder wetenschappelijk dossier, waarvan de officiële publicatie gepland staat voor de kalender van volgend jaar. Dit materiaal zal dienen als theoretische basis voor een nieuwe en beslissende mondiale top, die de discussies zal overbrengen naar het hoofdkwartier van de Verenigde Naties, in New York City. Het uiteindelijke doel van deze marathon van bijeenkomsten is om voor eens en voor altijd een internationale bestuursarchitectuur te consolideren die wendbaar genoeg is om gelijke tred te houden met de innovaties van technologielaboratoria, en ervoor te zorgen dat de digitale toekomst een veilige ontwikkelingsruimte is voor de mondiale jeugd.
