Un homme de 36 ans a été arrêté à Espírito Santo, soupçonné d’avoir projeté d’assassiner son propre fils de 8 ans. L’objectif serait d’éviter de verser une pension alimentaire à son ex-conjoint. Les enquêtes ont commencé après qu’OpenAI, créateur de ChatGPT, ait détecté des messages d’utilisateurs détaillant le stratagème criminel et signalé les données aux autorités américaines.
Le FBI a, à son tour, transmis l’information au ministère brésilien de la Justice, qui l’a transmise à la police civile d’Espírito Santo. Le mandat d’arrêt a été signifié le 19 juin, dans la zone rurale de São Gabriel da Palha, située au nord-ouest de l’État. La police civile a rapporté que, lors d’interactions avec l’intelligence artificielle, le suspect a mentionné son intention d’embaucher un tireur et a fait référence à des armes, des cordes et des substances toxiques. Il aurait également exprimé le désir de mener des attaques contre des institutions telles que des écoles, des églises et des organismes publics.
L’individu a fait l’objet d’une arrestation préventive et d’une perquisition et saisie, l’enquête policière étant toujours en cours.
L’épisode met en lumière plusieurs questions juridiques complexes, telles que le caractère confidentiel des conversations avec l’intelligence artificielle, la possibilité de les utiliser comme preuve juridique et la question de savoir si la simple planification d’un crime peut entraîner une responsabilité pénale.
Pour faire la lumière sur ces aspects et d’autres, le portail a entendu le spécialiste en droit numérique, Luiz Augusto Filizzola D’Urso, et l’avocate pénaliste Maíra Beauchamp Salomi.
Évaluation juridique sur la planification d’un crime et la responsabilité pénale
La criminaliste Maíra Salomi précise qu’en règle générale, la simple planification d’un acte criminel n’engendre pas de responsabilité pénale.
Il détaille que le processus d’un crime, connu sous le nom de *iter criminis*, est divisé en quatre étapes : l’examen, les actes préparatoires, l’exécution et la consommation du crime.
L’avocat explique que la cogitation, qui consiste en l’idéalisation mentale du crime, n’intéresse pas le droit pénal. Viennent ensuite les actions préparatoires, comme acquérir des outils, analyser le lieu ou formuler la meilleure manière de commettre l’acte. En règle générale, ces comportements ne sont pas non plus passibles de sanctions, sauf disposition légale spécifique.
L’imputation criminelle n’a lieu que lorsque l’agent dépasse cette phase et commence à adopter le comportement criminel décrit dans la loi.
Dans le cas précis d’un homicide par exemple, la responsabilité commence au moment où le verbe « tuer » est exécuté, dépassant la simple planification ou préparation de la mort de la victime.
C’est pour cette raison que le criminaliste affirme que la simple planification d’un crime aura rarement de l’importance dans le domaine criminel. Elle souligne également que le Code pénal établit que l’organisation, la détermination, l’instigation et la complicité d’un délit ne sont punissables que si le délit atteint au moins la phase de tentative.
Cependant, D’Urso souligne que, dans ce cas précis, ce sera l’une des questions cruciales à examiner par le pouvoir judiciaire.
Selon l’expert, il appartiendra au juge de déterminer si les interactions avec l’intelligence artificielle restaient du domaine des actes préparatoires ou si elles représentaient déjà le début de l’exécution du crime, scénario dans lequel la responsabilité pénale pourrait être engagée.
La validité des conversations avec l’intelligence artificielle comme preuve dans les processus
Maíra Salomi affirme que les conversations avec des outils d’intelligence artificielle peuvent effectivement être utilisées comme preuve, à condition que les critères d’admissibilité, d’authenticité et de fiabilité inhérents aux preuves numériques soient remplis.
L’avocat souligne que, comme tout type de preuve électronique, les conversations sont susceptibles d’être manipulées ou modifiées, ce qui rend indispensable la préservation de la chaîne de traçabilité.
Il faudra également vérifier l’origine des preuves, l’authenticité des messages, qui utilisait réellement l’outil au moment des conversations et si tout le matériel a été obtenu légalement.
Si elles sont produites et validées dans le cadre d’une procédure contradictoire, ces interactions peuvent même étayer une condamnation pénale.
Le criminaliste souligne cependant qu’un défi important demeure : prouver la véritable intention de l’utilisateur lorsqu’il interagit avec l’intelligence artificielle dans ces dialogues.
D’Urso ajoute que les conversations avec l’intelligence artificielle peuvent avoir des répercussions qui dépassent la sphère criminelle.
Selon l’analyse de l’expert, même si le contenu n’est pas suffisant pour constituer un délit, il peut soutenir d’autres décisions judiciaires, telles que des mesures de protection de l’enfance, y compris des questions de garde, chaque fois que le pouvoir judiciaire identifie un risque concret démontré par les conversations.
Droits ChatGPT pour partager des interactions avec les autorités
Selon D’Urso, OpenAI peut en effet partager les conversations des utilisateurs avec les autorités, à condition que ces actions respectent les conditions établies dans les conditions d’utilisation de la plateforme.
L’avocat explique que ChatGPT garantit la confidentialité des conversations devant des tiers, mais prévoit également des circonstances particulières dans lesquelles OpenAI peut avoir accès à ce contenu. Ces conditions incluent l’amélioration des modèles d’intelligence artificielle et des situations qui présentent un risque pour la vie ou l’intégrité physique de toute personne.
Dans ces scénarios, affirme-t-il, l’entreprise a la prérogative de transmettre l’information aux organismes compétents pour sauvegarder un bien juridique considéré comme supérieur : la vie.
L’obligation d’OpenAI de signaler le cas aux autorités
Selon D’Urso, il n’y avait aucune obligation légale pour OpenAI de signaler le cas aux autorités.
Il explique que, dans la législation brésilienne actuelle, aucune règle n’impose aux entreprises développant l’intelligence artificielle l’obligation d’alerter les autorités lorsqu’elles identifient des risques pour la vie ou la santé de leurs utilisateurs ou de tiers.
Cette décision relève donc de la politique interne de chaque entreprise, selon ses conditions d’utilisation.
Concernant OpenAI, l’avocat précise que l’entreprise a choisi d’inclure contractuellement cette possibilité, un choix qu’il juge approprié compte tenu de la gravité des situations qui peuvent survenir.
Analyse de l’impact de la thèse STF sur la responsabilité des plateformes numériques dans les IA
Un autre point de discussion généré par l’affaire concerne la thèse récente établie par le Tribunal fédéral, qui élargit les circonstances dans lesquelles les fournisseurs d’applications Internet peuvent être tenus responsables de contenus illicites publiés par des tiers, rendant plus flexible la protection précédemment offerte par l’article 19 du Marco Civil da Internet.
Cependant, D’Urso souligne que cette compréhension ne s’applique pas directement à l’intelligence artificielle conversationnelle, telle que ChatGPT.
Cela est dû au fait que la décision du STF a été élaborée sur la base de plateformes qui hébergent et diffusent des contenus créés par les utilisateurs vers d’autres utilisateurs, une dynamique qui se distingue des outils d’IA générative.
L’expert estime cependant que cette réalité pourrait changer à l’avenir. À mesure que l’intelligence artificielle élargit ses fonctionnalités et commence à assumer des rôles plus proches de ceux des plateformes numériques traditionnelles, les débats sur la responsabilité civile sur Internet pourraient en fait également englober ce type de services.