Seorang pria berusia 36 tahun ditangkap di Espírito Santo karena dicurigai merencanakan pembunuhan terhadap putranya sendiri yang berusia 8 tahun. Tujuannya adalah untuk menghindari pembayaran tunjangan kepada mantan pasangannya. Investigasi dimulai setelah OpenAI, pencipta ChatGPT, mendeteksi pesan pengguna yang merinci skema kriminal dan melaporkan data tersebut ke pihak berwenang Amerika.
FBI kemudian meneruskan informasi tersebut ke Kementerian Kehakiman Brasil, yang meneruskannya ke Polisi Sipil Espírito Santo. Surat perintah penangkapan dikeluarkan pada tanggal 19 Juni, di daerah pedesaan São Gabriel da Palha, yang terletak di barat laut negara bagian tersebut. Polisi Sipil melaporkan bahwa, dalam interaksi dengan kecerdasan buatan, tersangka menyebutkan niatnya untuk menyewa seorang pria bersenjata, dan menyebutkan senjata, tali, dan zat beracun. Dia juga dilaporkan menyatakan keinginannya untuk melakukan serangan terhadap institusi seperti sekolah, gereja, dan badan publik.
Individu tersebut menjadi sasaran penangkapan preventif, penggeledahan, dan penyitaan, dan penyelidikan polisi masih berlangsung.
Episode ini menyoroti beberapa masalah hukum yang kompleks, seperti sifat rahasia percakapan dengan kecerdasan buatan, kemungkinan menggunakannya sebagai bukti hukum, dan apakah perencanaan kejahatan saja dapat mengarah pada pertanggungjawaban pidana.
Untuk menjelaskan aspek ini dan aspek lainnya, portal ini mendengarkan pendapat pakar Hukum Digital, Luiz Augusto Filizzola D’Urso, dan pengacara kriminal Maíra Beauchamp Salomi.
Penilaian hukum terhadap perencanaan tindak pidana dan pertanggungjawaban pidana
Kriminalis Maíra Salomi menjelaskan bahwa, sebagai aturan umum, perencanaan sederhana suatu tindak pidana tidak menimbulkan pertanggungjawaban pidana.
Dirinci bahwa proses suatu kejahatan yang disebut *iter criminis* dibagi menjadi empat tahap: pertimbangan, tindakan persiapan, pelaksanaan, dan penyempurnaan kejahatan.
Pengacara menjelaskan bahwa perenungan, yang terdiri dari idealisasi mental kejahatan, tidak menarik bagi Hukum Pidana. Berikutnya adalah tindakan persiapan, seperti memperoleh alat, menganalisis lokasi atau merumuskan cara terbaik untuk melakukan tindakan tersebut. Perbuatan ini, pada umumnya, juga tidak dikenakan hukuman, kecuali jika terdapat ketentuan hukum tertentu.
Imputasi pidana hanya terjadi ketika agen melampaui tahap ini dan mulai melakukan tindak pidana yang dijelaskan dalam undang-undang.
Dalam kasus khusus pembunuhan, misalnya, akuntabilitas dimulai pada saat kata kerja “membunuh” dieksekusi, lebih dari sekadar perencanaan atau persiapan kematian korban.
Oleh karena itu, kaum kriminalis menyatakan bahwa perencanaan suatu kejahatan belaka jarang mempunyai relevansi dalam bidang pidana. Ia juga menunjukkan bahwa KUHP menetapkan bahwa penyesuaian, penetapan, penghasutan dan bantuan suatu kejahatan hanya dapat dihukum jika kejahatan tersebut setidaknya mencapai tahap percobaan.
Namun, D’Urso menggarisbawahi bahwa, dalam kasus khusus ini, hal ini akan menjadi salah satu persoalan krusial yang harus diperiksa oleh Kejaksaan.
Menurut ahli, terserah kepada hakim untuk menentukan apakah interaksi dengan kecerdasan buatan masih dalam lingkup tindakan persiapan atau apakah interaksi tersebut sudah mewakili awal pelaksanaan kejahatan, sebuah skenario yang dapat menimbulkan pertanggungjawaban pidana.
Validitas percakapan dengan kecerdasan buatan sebagai bukti dalam proses
Maíra Salomi menyatakan bahwa percakapan dengan alat kecerdasan buatan memang dapat digunakan sebagai bukti, asalkan kriteria penerimaan, keaslian, dan keandalan yang melekat pada bukti digital terpenuhi.
Pengacara menekankan bahwa, seperti semua jenis bukti elektronik, percakapan rentan terhadap manipulasi atau penyuntingan, sehingga penting untuk menjaga lacak balak.
Penting juga untuk memverifikasi asal muasal bukti, keaslian pesan, siapa sebenarnya yang menggunakan alat tersebut pada saat percakapan dan apakah semua materi diperoleh secara sah.
Jika dihasilkan dan divalidasi di bawah pengawasan proses yang bersifat permusuhan, interaksi ini berpotensi mendukung hukuman pidana.
Namun, para kriminalis menekankan bahwa tantangan besar masih ada: membuktikan niat sebenarnya pengguna saat berinteraksi dengan kecerdasan buatan dalam dialog tersebut.
D’Urso menambahkan bahwa percakapan dengan kecerdasan buatan dapat menimbulkan dampak yang melampaui lingkup kriminal.
Dalam analisis ahli, meskipun konten tersebut tidak cukup untuk dianggap sebagai kejahatan, hal tersebut dapat mendukung keputusan pengadilan lainnya, seperti tindakan perlindungan anak, termasuk masalah hak asuh, kapan pun Pengadilan mengidentifikasi risiko nyata yang ditunjukkan dalam percakapan tersebut.
Hak ChatGPT untuk berbagi interaksi dengan pihak berwenang
Menurut D’Urso, OpenAI memang bisa berbagi percakapan pengguna dengan pihak berwenang, selama tindakan tersebut mematuhi ketentuan yang ditetapkan dalam ketentuan penggunaan platform.
Pengacara menjelaskan bahwa ChatGPT memastikan privasi percakapan dengan pihak ketiga, tetapi juga memperkirakan keadaan tertentu di mana OpenAI dapat memiliki akses ke konten ini. Kondisi tersebut mencakup peningkatan model kecerdasan buatan dan situasi yang menimbulkan risiko terhadap kehidupan atau integritas fisik seseorang.
Dalam skenario ini, katanya, perusahaan mempunyai hak prerogatif untuk meneruskan informasi tersebut kepada badan yang berwenang untuk menjaga aset sah yang dianggap lebih unggul: nyawa.
Kewajiban OpenAI untuk melaporkan kasus tersebut kepada pihak yang berwajib
Dalam penilaian D’Urso, tidak ada kewajiban hukum bagi OpenAI untuk melaporkan kasus tersebut kepada pihak berwajib.
Dia menjelaskan bahwa, dalam undang-undang Brasil saat ini, tidak ada aturan yang mewajibkan perusahaan yang mengembangkan kecerdasan buatan untuk memperingatkan pihak berwenang ketika mengidentifikasi risiko terhadap kehidupan atau kesehatan penggunanya atau pihak ketiga.
Oleh karena itu, keputusan ini bergantung pada kebijakan internal masing-masing perusahaan, sesuai dengan ketentuan penggunaannya.
Berkenaan dengan OpenAI, pengacara mengklarifikasi bahwa perusahaan memilih untuk memasukkan kemungkinan ini secara kontrak, sebuah pilihan yang dianggap tepat mengingat keseriusan situasi yang mungkin timbul.
Analisis dampak tesis STF terhadap tanggung jawab platform digital di AI
Pokok diskusi lain yang dihasilkan oleh kasus ini adalah tesis terbaru yang dibuat oleh Mahkamah Agung Federal, yang memperluas kondisi di mana penyedia aplikasi internet dapat dimintai pertanggungjawaban atas konten terlarang yang diterbitkan oleh pihak ketiga, sehingga membuat perlindungan yang sebelumnya diberikan oleh pasal 19 Marco Civil da Internet menjadi lebih fleksibel.
Namun, D’Urso menekankan bahwa pemahaman tersebut saat ini tidak berlaku langsung pada kecerdasan buatan percakapan, seperti ChatGPT.
Hal ini disebabkan oleh fakta bahwa keputusan STF dibuat berdasarkan platform yang menampung dan menyebarkan konten yang dibuat oleh pengguna ke pengguna lain, sebuah dinamika yang berbeda dari alat AI generatif.
Namun para ahli menilai kenyataan ini bisa berubah di masa depan. Ketika kecerdasan buatan memperluas fungsinya dan mulai mengambil peran yang lebih mirip dengan platform digital tradisional, perdebatan tentang tanggung jawab perdata di internet mungkin juga mencakup jenis layanan ini.