ChatGPTで息子の死を計画した容疑者が逮捕される。法学者は人工知能の影響を分析する
エスピリトサント州で、36歳の男が自身の8歳の息子の殺害計画を立てた疑いで逮捕された。目的は元パートナーへの慰謝料支払いを回避することだろう。 ChatGPTの作成者であるOpenAIが犯罪計画の詳細を記したユーザーメッセージを検出し、そのデータをアメリカ当局に報告したことから捜査が始まった。
次に、FBI はその情報をブラジル法務省に転送し、ブラジル法務省はそれをエスピリトサント民事警察に転送した。逮捕状は6月19日に州北西部に位置するサンガブリエル・ダ・パーリャの田園地帯で執行された。民事警察の報告によると、容疑者は人工知能とのやりとりの中で、銃撃犯を雇う意向を示し、武器、ロープ、有毒物質についても言及したという。彼はまた、学校、教会、公共団体などの機関に対する攻撃を実行したいという願望も表明したと伝えられている。
この人物は予防逮捕と捜索、押収の対象となり、警察の捜査は現在も続いている。
このエピソードは、人工知能との会話の機密性、それらを法的証拠として使用する可能性、単なる犯罪計画が刑事責任につながるかどうかなど、いくつかの複雑な法的問題を浮き彫りにしている。
これらおよびその他の側面に光を当てるために、ポータルはデジタル法の専門家であるルイス・アウグスト・フィリッツォーラ・ドゥルソ氏と刑事弁護士のマイラ・ボーシャン・サロミ氏に話を聞いた。
犯罪計画と刑事責任に関する法的評価
犯罪学者マイラ・サロミは、一般原則として、単純な犯罪計画では刑事責任は生じないと明言しています。
この報告書では、「イター犯罪」として知られる犯罪のプロセスが、検討、準備行為、実行、犯罪の完了という 4 つの段階に分かれていることが詳しく説明されています。
弁護士は、犯罪を精神的に理想化することから成る捏造は刑法にとって重要ではないと説明する。次に、ツールの入手、場所の分析、行為を行うための最適な方法の策定などの準備作業が行われます。これらの行為も、法律に特別の定めがある場合を除き、原則として処罰の対象となりません。
刑事責任の転嫁は、エージェントがこの段階を超えて、法律に記載されている犯罪行為を実行し始めた場合にのみ発生します。
たとえば、殺人という特定のケースでは、被害者の死に対する単純な計画や準備を超えて、「殺す」という動詞が実行された瞬間から責任が始まります。
このため、犯罪学者は、単なる犯罪計画が犯罪の領域に関連することはほとんどないと述べています。彼女はまた、刑法は、犯罪の調整、決定、教唆、幇助は、犯罪が少なくとも未遂段階に達した場合にのみ処罰されると規定していると指摘した。
しかし、ドゥルソ氏は、この特定の事件では、これが司法府によって検討されるべき重要な問題の一つになるだろうと強調している。
専門家によると、人工知能とのやりとりが準備行為の分野にとどまったのか、それとも刑事責任が生じる可能性がある犯罪実行の開始をすでに示していたのかを判断するのは裁判官次第だという。
プロセスにおける証拠としての人工知能との会話の妥当性
マイラ・サロミ氏は、デジタル証拠に固有の許容性、信頼性、信頼性の基準が満たされている限り、人工知能ツールとの会話は実際に証拠として使用できると述べています。
弁護士は、あらゆる種類の電子証拠と同様に、会話は操作や編集の影響を受けやすいため、保管過程の維持が不可欠であると強調しています。
また、証拠の出所、メッセージの信頼性、会話時に誰が実際にツールを使用していたか、すべての資料が合法的に入手されたかどうかを検証する必要もあります。
Leia Também
敵対的な訴訟手続きの精査の下で作成および検証された場合、これらの相互作用は有罪判決を裏付ける可能性さえあります。
しかし、この犯罪者は、対話の中で人工知能と対話する際のユーザーの真の意図を証明するという重大な課題が残っていることを強調している。
ダルソ氏は、人工知能との会話は犯罪の領域を超えた影響を与える可能性があると付け加えた。
専門家の分析では、たとえその内容が犯罪を構成するのに十分でなくても、司法当局が会話によって示された具体的なリスクを特定した場合には、親権問題を含む児童保護措置など、他の司法判断を裏付ける可能性があるという。
ChatGPT 当局とのやり取りを共有する権利
D’Urso 氏によると、OpenAI は、そのようなアクションがプラットフォームの利用規約で定められた条件に準拠している限り、実際にユーザーの会話を当局と共有することができます。
同弁護士は、ChatGPTは第三者の前で会話のプライバシーを確保しているが、OpenAIがこのコンテンツにアクセスできる特定の状況も予測していると説明した。これらの状況には、人工知能モデルの改善や、人の生命や身体の健全性を脅かす状況が含まれます。
こうしたシナリオでは、企業は、より優れていると考えられる法的資産である生命を保護するために、情報を所管機関に転送する特権を有する、と同氏は述べている。
当局に事件を報告するOpenAIの義務
D’Urso氏の評価では、OpenAIにはこの件を当局に報告する法的義務はなかった。
同氏は、現在のブラジルの法律には、人工知能を開発する企業に対し、ユーザーや第三者の生命や健康に対するリスクを特定した場合に当局に警告する義務を課す規則はないと説明する。
したがって、この決定は、利用規約に従って、各企業の内部ポリシーに委ねられます。
OpenAIに関して、弁護士は、同社がこの可能性を契約上に含めることを選択したことを明らかにしており、発生する可能性のある状況の深刻さを考慮すると、これは適切な選択であると考えている。
AI におけるデジタル プラットフォームの責任に対する STF 論文の影響の分析
この訴訟によって生じたもう 1 つの論点には、連邦最高裁判所によって確立された最近の学説が関係しています。この学説は、インターネット アプリケーション プロバイダーが第三者によって公開された違法なコンテンツに対して責任を負うことができる状況を拡大し、インターネットマルコ民事法第 19 条によって以前に提供されていた保護をより柔軟なものにしました。
ただし、D’Urso 氏は、この理解は現時点では ChatGPT などの会話型人工知能には直接当てはまらないことを強調します。
これは、STF の決定が、ユーザーが作成したコンテンツをホストして他のユーザーに配布するプラットフォームに基づいて作成されたという事実によるものであり、その仕組みは生成型 AI ツールとは異なります。
しかし、専門家は、この現実は将来的に変わる可能性があると評価しています。人工知能がその機能を拡張し、従来のデジタル プラットフォームの役割に似た役割を担うようになるにつれて、インターネット上の民事責任に関する議論には、実際にこの種のサービスも含まれる可能性があります。
