Ein 36-jähriger Mann wurde in Espírito Santo unter dem Verdacht festgenommen, einen Plan zur Ermordung seines eigenen 8-jährigen Sohnes ausgeheckt zu haben. Ziel wäre es, Unterhaltszahlungen an seinen Ex-Partner zu vermeiden. Die Ermittlungen begannen, nachdem OpenAI, der Erfinder von ChatGPT, Benutzernachrichten entdeckte, in denen das kriminelle Schema detailliert beschrieben wurde, und die Daten den amerikanischen Behörden gemeldet hatte.
Das FBI wiederum leitete die Informationen an das brasilianische Justizministerium weiter, das sie an die Zivilpolizei von Espírito Santo weiterleitete. Der Haftbefehl wurde am 19. Juni in der ländlichen Gegend von São Gabriel da Palha im Nordwesten des Bundesstaates zugestellt. Die Zivilpolizei berichtete, dass der Verdächtige bei Interaktionen mit künstlicher Intelligenz seine Absicht erwähnte, einen Schützen anzuheuern, und dabei auf Waffen, Seile und giftige Substanzen verwies. Berichten zufolge äußerte er auch den Wunsch, Angriffe auf Institutionen wie Schulen, Kirchen und öffentliche Einrichtungen zu verüben.
Die Person wurde vorsorglich festgenommen, durchsucht und beschlagnahmt, die polizeilichen Ermittlungen laufen noch.
Die Folge bringt mehrere komplexe rechtliche Fragen ans Licht, etwa die Vertraulichkeit von Gesprächen mit künstlicher Intelligenz, die Möglichkeit, sie als rechtliche Beweise zu verwenden und ob die bloße Planung einer Straftat zu einer strafrechtlichen Verantwortlichkeit führen kann.
Um diese und andere Aspekte zu beleuchten, hörte das Portal den Spezialisten für digitales Recht, Luiz Augusto Filizzola D’Urso, und die Strafverteidigerin Maíra Beauchamp Salomi.
Rechtliche Beurteilung der Planung einer Straftat und der strafrechtlichen Verantwortlichkeit
Die Kriminalistin Maíra Salomi stellt klar, dass die bloße Planung einer Straftat grundsätzlich keine strafrechtliche Verantwortlichkeit auslöst.
Darin wird dargelegt, dass der Prozess einer Straftat, bekannt als „iter criminis“, in vier Phasen unterteilt ist: Überlegung, vorbereitende Handlungen, Ausführung und Vollendung der Straftat.
Der Anwalt erklärt, dass das Nachdenken, das in der gedanklichen Idealisierung des Verbrechens bestehe, für das Strafrecht nicht von Interesse sei. Als nächstes folgen vorbereitende Maßnahmen wie die Beschaffung von Werkzeugen, die Analyse des Standorts oder die Formulierung der besten Art und Weise, die Tat zu begehen. Auch diese Verhaltensweisen sind in der Regel nicht strafbar, es sei denn, es liegt eine besondere gesetzliche Regelung vor.
Eine strafrechtliche Anschuldigung liegt erst dann vor, wenn der Täter über diese Phase hinausgeht und beginnt, das im Gesetz beschriebene kriminelle Verhalten zu begehen.
Im konkreten Fall eines Tötungsdelikts beginnt die Verantwortlichkeit beispielsweise in dem Moment, in dem das Verb „töten“ ausgeführt wird, und geht über die bloße Planung oder Vorbereitung des Todes des Opfers hinaus.
Aus diesem Grund stellt der Kriminalist fest, dass die bloße Planung einer Straftat im kriminellen Bereich selten Relevanz haben wird. Sie weist außerdem darauf hin, dass das Strafgesetzbuch festlegt, dass die Vorbereitung, die Anstiftung, die Anstiftung und die Beihilfe zu einer Straftat nur dann strafbar sind, wenn die Straftat zumindest die Versuchsphase erreicht.
D’Urso betont jedoch, dass dies in diesem speziellen Fall eine der entscheidenden Fragen sein wird, die von der Justiz geprüft werden müssen.
Ob die Interaktionen mit künstlicher Intelligenz im Bereich der Vorbereitungshandlungen verblieben seien oder ob sie bereits den Beginn der Strafvollstreckung darstellten und eine strafrechtliche Verantwortlichkeit entstehen könnten, sei Sache des Richters, so der Experte.
Die Gültigkeit von Gesprächen mit künstlicher Intelligenz als Beweismittel in Prozessen
Maíra Salomi stellt fest, dass Gespräche mit Tools der künstlichen Intelligenz tatsächlich als Beweismittel verwendet werden können, solange die Zulässigkeits-, Authentizitäts- und Verlässlichkeitskriterien digitaler Beweise erfüllt sind.
Der Anwalt betont, dass Gespräche, wie jede Art elektronischer Beweismittel, anfällig für Manipulationen oder Bearbeitungen seien, weshalb es unerlässlich sei, die Beweiskette zu wahren.
Es wird außerdem erforderlich sein, die Herkunft der Beweise, die Authentizität der Nachrichten, die Person, die das Tool zum Zeitpunkt der Gespräche tatsächlich verwendet hat, und ob das gesamte Material rechtmäßig erlangt wurde, zu überprüfen.
Wenn diese Interaktionen unter der Kontrolle eines kontradiktorischen Verfahrens erstellt und validiert werden, können sie sogar eine strafrechtliche Verurteilung unterstützen.
Der Kriminalist betont jedoch, dass eine große Herausforderung weiterhin besteht: die wahre Absicht des Benutzers nachzuweisen, wenn er in diesen Dialogen mit künstlicher Intelligenz interagiert.
D’Urso fügt hinzu, dass Gespräche mit künstlicher Intelligenz Auswirkungen haben können, die über den kriminellen Bereich hinausgehen.
Selbst wenn der Inhalt nicht ausreicht, um eine Straftat zu begründen, kann er nach Einschätzung des Sachverständigen andere gerichtliche Entscheidungen unterstützen, etwa Maßnahmen zum Schutz von Kindern, einschließlich Sorgerechtsfragen, wenn die Justiz in den Gesprächen ein konkretes Risiko feststellt.
ChatGPT-Rechte zum Teilen von Interaktionen mit Behörden
Laut D’Urso kann OpenAI tatsächlich Gespräche von Benutzern mit Behörden teilen, sofern diese Aktionen den in den Nutzungsbedingungen der Plattform festgelegten Bedingungen entsprechen.
Der Anwalt erklärt, dass ChatGPT die Vertraulichkeit von Gesprächen vor Dritten gewährleistet, aber auch bestimmte Umstände vorsieht, unter denen OpenAI Zugriff auf diese Inhalte haben könnte. Zu diesen Bedingungen gehören die Verbesserung von Modellen der künstlichen Intelligenz und Situationen, die eine Gefahr für das Leben oder die körperliche Unversehrtheit einer Person darstellen.
In diesen Fällen, so führt er aus, habe das Unternehmen das Vorrecht, die Informationen an die zuständigen Stellen weiterzuleiten, um ein als höher angesehenes Rechtsgut zu schützen: das Leben.
Die Verpflichtung von OpenAI, den Fall den Behörden zu melden
Nach Einschätzung von D’Urso bestand für OpenAI keine rechtliche Verpflichtung, den Fall den Behörden zu melden.
Er erklärt, dass es in der aktuellen brasilianischen Gesetzgebung keine Regelung gibt, die Unternehmen, die künstliche Intelligenz entwickeln, die Verpflichtung auferlegt, die Behörden zu alarmieren, wenn sie Risiken für das Leben oder die Gesundheit ihrer Benutzer oder Dritter erkennen.
Diese Entscheidung unterliegt daher den internen Richtlinien jedes Unternehmens gemäß seinen Nutzungsbedingungen.
In Bezug auf OpenAI stellt der Anwalt klar, dass sich das Unternehmen dafür entschieden hat, diese Möglichkeit vertraglich festzulegen, eine Entscheidung, die er angesichts der Schwere der möglicherweise auftretenden Situationen für angemessen hält.
Analyse der Auswirkungen der STF-These auf die Verantwortung digitaler Plattformen in KIs
Ein weiterer durch den Fall ausgelöster Diskussionspunkt betrifft die jüngste These des Bundesgerichtshofs, die die Voraussetzungen, unter denen Anbieter von Internetanwendungen für von Dritten veröffentlichte rechtswidrige Inhalte haftbar gemacht werden können, erweitert und den bisher durch Artikel 19 des Marco Civil da Internet gebotenen Schutz flexibler gestaltet hat.
D’Urso betont jedoch, dass dieses Verständnis derzeit nicht direkt auf konversationale künstliche Intelligenz wie ChatGPT anwendbar ist.
Dies ist auf die Tatsache zurückzuführen, dass die STF-Entscheidung auf der Grundlage von Plattformen getroffen wurde, die von Benutzern erstellte Inhalte hosten und an andere Benutzer weitergeben, eine Dynamik, die sich von generativen KI-Tools unterscheidet.
Der Experte geht jedoch davon aus, dass sich diese Realität in Zukunft ändern könnte. Da künstliche Intelligenz ihre Funktionalitäten erweitert und zunehmend Rollen übernimmt, die denen traditioneller digitaler Plattformen ähneln, könnten Debatten über die zivilrechtliche Haftung im Internet tatsächlich auch diese Art von Diensten umfassen.