Verdachte van het plannen van de dood van zijn zoon met ChatGPT wordt gearresteerd; juristen analyseren de implicaties van kunstmatige intelligentie
Een 36-jarige man werd in Espírito Santo gearresteerd op verdenking van het bedenken van een plan om zijn eigen 8-jarige zoon te vermoorden. Het doel zou zijn om te voorkomen dat hij alimentatie aan zijn ex-partner moet betalen. Het onderzoek begon nadat OpenAI, de maker van ChatGPT, gebruikersberichten had gedetecteerd waarin het criminele plan werd beschreven en de gegevens aan de Amerikaanse autoriteiten hadden gerapporteerd.
De FBI heeft de informatie op haar beurt doorgestuurd naar het Braziliaanse ministerie van Justitie, dat deze doorstuurde naar de civiele politie van Espírito Santo. Het arrestatiebevel werd op 19 juni uitgevaardigd in het landelijk gebied van São Gabriel da Palha, gelegen in het noordwesten van de staat. De civiele politie meldde dat de verdachte in interacties met kunstmatige intelligentie melding maakte van zijn voornemen om een schutter in te huren, en verwees naar wapens, touwen en giftige stoffen. Hij zou naar verluidt ook de wens hebben geuit om aanvallen uit te voeren op instellingen zoals scholen, kerken en openbare lichamen.
De persoon werd preventief gearresteerd en gefouilleerd, terwijl het politieonderzoek nog gaande was.
De aflevering brengt verschillende complexe juridische kwesties aan het licht, zoals het vertrouwelijke karakter van gesprekken met kunstmatige intelligentie, de mogelijkheid om deze als juridisch bewijsmateriaal te gebruiken en of alleen al het plannen van een misdrijf kan leiden tot strafrechtelijke aansprakelijkheid.
Om licht te werpen op deze en andere aspecten, luisterde de portal naar de specialist in digitaal recht, Luiz Augusto Filizzola D’Urso, en de strafrechtadvocaat Maíra Beauchamp Salomi.
Juridische beoordeling van het plannen van een misdrijf en strafrechtelijke aansprakelijkheid
Criminoloog Maíra Salomi verduidelijkt dat de simpele planning van een strafbaar feit in de regel geen strafrechtelijke aansprakelijkheid met zich meebrengt.
Er wordt gedetailleerd beschreven dat het proces van een misdrijf, bekend als *iter criminis*, is verdeeld in vier fasen: overweging, voorbereidende handelingen, uitvoering en voltooiing van het misdrijf.
De advocaat legt uit dat cogitatie, die bestaat uit de mentale idealisering van het misdrijf, niet van belang is voor het strafrecht. Vervolgens komen voorbereidende acties, zoals het verwerven van gereedschap, het analyseren van de locatie of het formuleren van de beste manier om de handeling te plegen. Deze gedragingen zijn in de regel ook niet strafbaar, behalve wanneer er een specifieke wettelijke bepaling bestaat.
Van strafrechtelijke toerekening is pas sprake als de agent deze fase overstijgt en het in de wet beschreven strafbare gedrag begint te vertonen.
In het specifieke geval van een moord begint de verantwoordelijkheid bijvoorbeeld op het moment dat het werkwoord ‘doden’ wordt uitgevoerd, en gaat verder dan de eenvoudige planning of voorbereiding van de dood van het slachtoffer.
Om deze reden stelt de crimineel dat louter het plannen van een misdrijf zelden relevantie zal hebben in de criminele sfeer. Zij wijst er tevens op dat het Wetboek van Strafrecht bepaalt dat de aanpassing, vastberadenheid, uitlokking en hulp aan een misdrijf alleen strafbaar zijn als het misdrijf tenminste de fase van poging tot poging bereikt.
D’Urso benadrukt echter dat dit in dit specifieke geval een van de cruciale kwesties zal zijn die door de rechterlijke macht moeten worden onderzocht.
Het zal volgens de deskundige aan de rechter zijn om te bepalen of de interacties met kunstmatige intelligentie op het terrein van voorbereidende handelingen zijn gebleven of dat ze al het begin van de uitvoering van het misdrijf vertegenwoordigden, een scenario waarin strafrechtelijke aansprakelijkheid zou kunnen ontstaan.
De validiteit van gesprekken met kunstmatige intelligentie als bewijs in processen
Maíra Salomi stelt dat gesprekken met kunstmatige intelligentie-instrumenten inderdaad als bewijsmateriaal kunnen worden gebruikt, zolang wordt voldaan aan de criteria voor toelaatbaarheid, authenticiteit en betrouwbaarheid die inherent zijn aan digitaal bewijsmateriaal.
De advocaat benadrukt dat gesprekken, net als elk type elektronisch bewijsmateriaal, vatbaar zijn voor manipulatie of bewerking, waardoor het essentieel is om de keten van bewaking te behouden.
Ook zal het nodig zijn om de herkomst van het bewijsmateriaal, de authenticiteit van de berichten, wie de tool daadwerkelijk gebruikte op het moment van de gesprekken en of al het materiaal rechtmatig is verkregen, te verifiëren.
Leia Também
Messi bereikt 19 doelpunten op FIFA World Cups met een geweldige vrije trap voor Argentinië in de wedstrijd met Jordan
Cristiano Ronaldo schittert buiten het veld op het WK 2026 met zijn zakenimperium en gezinsluxe
Op 41-jarige leeftijd bevestigt Cristiano Ronaldo zijn historische erfenis en bereidt hij zich voor om te schitteren op het WK 2026
Als deze interacties worden geproduceerd en gevalideerd onder toezicht van tegenspraakprocedures, kunnen ze zelfs een strafrechtelijke veroordeling ondersteunen.
De crimineel benadrukt echter dat er nog een belangrijke uitdaging overblijft: het bewijzen van de ware intentie van de gebruiker bij interactie met kunstmatige intelligentie in die dialogen.
D’Urso voegt eraan toe dat gesprekken met kunstmatige intelligentie repercussies kunnen hebben die verder reiken dan de criminele sfeer.
Volgens de analyse van de deskundige kan de inhoud, zelfs als de inhoud niet voldoende is om een misdrijf te vormen, andere rechterlijke beslissingen ondersteunen, zoals kinderbeschermingsmaatregelen, inclusief voogdijkwesties, telkens wanneer de rechterlijke macht een concreet risico identificeert dat uit de gesprekken blijkt.
ChatGPT-rechten om interacties met autoriteiten te delen
Volgens D’Urso kan OpenAI inderdaad gesprekken van gebruikers delen met autoriteiten, zolang dergelijke acties voldoen aan de voorwaarden die zijn vastgelegd in de gebruiksvoorwaarden van het platform.
De advocaat legt uit dat ChatGPT de privacy van gesprekken met derden waarborgt, maar ook specifieke omstandigheden voorziet waarin OpenAI toegang kan krijgen tot deze content. Deze voorwaarden omvatten de verbetering van modellen voor kunstmatige intelligentie en situaties die een risico vormen voor het leven of de fysieke integriteit van een persoon.
In deze scenario’s, zo stelt hij, heeft het bedrijf het voorrecht om de informatie door te geven aan de bevoegde instanties om een juridisch bezit dat als superieur wordt beschouwd veilig te stellen: het leven.
OpenAI’s verplichting om de zaak aan de autoriteiten te melden
Volgens D’Urso bestond er voor OpenAI geen wettelijke verplichting om de zaak aan de autoriteiten te melden.
Hij legt uit dat er in de huidige Braziliaanse wetgeving geen regel bestaat die bedrijven die kunstmatige intelligentie ontwikkelen de verplichting oplegt om autoriteiten te waarschuwen wanneer zij risico’s voor het leven of de gezondheid van hun gebruikers of derden identificeren.
Deze beslissing is daarom afhankelijk van het interne beleid van elk bedrijf, volgens de gebruiksvoorwaarden.
Met betrekking tot OpenAI verduidelijkt de advocaat dat het bedrijf ervoor heeft gekozen deze mogelijkheid contractueel op te nemen, een keuze die hij passend acht gezien de ernst van de situaties die zich kunnen voordoen.
Analyse van de impact van het STF-scriptie op de verantwoordelijkheid van digitale platforms in AI
Een ander discussiepunt dat door de zaak naar voren is gekomen betreft de recente stelling van het Federale Hooggerechtshof, waarin de omstandigheden zijn uitgebreid waarin aanbieders van internetapplicaties verantwoordelijk kunnen worden gehouden voor illegale inhoud die door derden is gepubliceerd, waardoor de bescherming die voorheen werd geboden door artikel 19 van de Marco Civil da Internet flexibeler werd.
D’Urso benadrukt echter dat dit begrip momenteel niet direct van toepassing is op conversationele kunstmatige intelligentie, zoals ChatGPT.
Dit is te wijten aan het feit dat het besluit van de STF is opgesteld op basis van platforms die door gebruikers gemaakte inhoud hosten en verspreiden onder andere gebruikers, een dynamiek die verschilt van generatieve AI-tools.
De deskundige is echter van mening dat deze realiteit in de toekomst kan veranderen. Naarmate kunstmatige intelligentie haar functionaliteiten uitbreidt en rollen begint aan te nemen die meer lijken op die van traditionele digitale platforms, kunnen debatten over wettelijke aansprakelijkheid op internet zich in feite ook over dit soort diensten uitstrekken.
