Model bahasa besar (LLM) seperti ChatGPT, Gemini, dan Claude telah menunjukkan kecenderungan yang ingin tahu dan gigih untuk membuat cerita yang berpusat pada karakter bernama Elias Thorne. Angka ini, yang tampaknya tidak diharapkan, telah melampaui dunia asisten virtual dan kini terwujud dalam buku-buku yang diterbitkan sendiri di Amazon, video di YouTube, dan bahkan di situs berita palsu, sehingga menimbulkan pertanyaan tentang pembentukan dan bias teknologi ini.
Elias Thorne ada di mana-mana dalam narasi kecerdasan buatan
Insinyur perangkat lunak Daniel May adalah salah satu orang pertama yang menyadari keanehan ini pada awal tahun 2026, melihat peningkatan penelusuran untuk “Elias Thorne” di Google Trends, yang bertepatan dengan pertumbuhan istilah seperti “penjaga mercusuar”. Saat menguji berbagai chatbot, May mengamati bahwa ketika diminta menceritakan sebuah kisah, banyak yang meluncurkan narasi dengan tema serupa, yang melibatkan mercusuar, pembuat jam, atau penjelajah. Karakter tersebut muncul dalam berbagai profesi, mulai dari penjaga mercusuar dan pembuat jam hingga pustakawan.
Penelitian akademis mengungkap kemunculan kembali karakter pada robot
Pada bulan Mei, peneliti Cornell University, Sil Hamilton dan David Mimno, menerbitkan studi pracetak berjudul “Elias in the Lighthouse, Again?” Penelitian ini menganalisis 20.000 cerita yang dihasilkan oleh ChatGPT OpenAI, Claude dari Anthropic, dan Gemini dari Google, serta chatbot dari Allen Institute for AI. Survei tersebut mengungkapkan bahwa lebih dari 88% cerita berisi 11 kata yang sama, dengan sedikit variasi antar model.
- Nama yang tepat seperti Elias, Mara dan Elara.
- Pekerjaan tertentu seperti penjaga mercusuar, pembuat jam dan pustakawan.
Asal usul karakter dalam ‘pohon keluarga’ model bahasa
Para peneliti berpendapat bahwa frekuensi tema-tema ini terkait dengan penyelarasan model dan proses keamanan. Menurut Hamilton, perkembangan LLM saat ini membentuk “pohon keluarga”, di mana banyak model saling berhubungan, menggunakan data pelatihan yang disintesis dari model lain. Model pertama ChatGPT, GPT-3.5, dianggap sebagai akar dari pohon ini dan digunakan untuk membuat WildChat, yaitu kumpulan data pelatihan yang kemudian digunakan untuk menghasilkan kumpulan data baru.
WildChat berisi sejuta percakapan nyata dengan ChatGPT, dan 166 di antaranya sudah mencantumkan nama “Elias” dalam gaya narasi yang mengingatkan pada mercusuar. Model berikutnya, yang dilatih dengan WildChat, meniru gaya ini. Para pengembang tanpa sadar melanggengkan “infeksi” ini dengan menggunakan model-model ini untuk membuat kumpulan data baru, bertindak seperti “virus” yang menyebarkan cerita tersebut.
Elias Thorne: dari chatbot hingga dunia disinformasi nyata
Kehadiran Elias Thorne melampaui lingkungan chatbot. Daniel May mencatat nama Elias Thorne sebagai penulis manual pengobatan alternatif, panduan algoritma YouTube, buku tentang mitologi Yunani, dan bahkan novel thriller psikologis di Amazon. “Tidak ada manusia yang menulis semua ini,” kata May, menyoroti bahaya nasihat berbahaya yang bisa muncul dari postingan ini.
Perkembangan buku-buku yang dihasilkan AI di Amazon dalam beberapa tahun terakhir telah mencakup konten yang mengandung informasi yang salah dan kesalahan besar, sehingga menyebabkan masalah bagi pustakawan. Elias juga masuk ke “dunia kumuh” YouTube dan situs berita palsu. Dalam video dengan ilustrasi berkualitas rendah, ia tampil sebagai sersan mayor berusia 83 tahun atau sebagai pria yang ditembak oleh istrinya di cagar alam reptil. Ia sering digambarkan sebagai sosok yang tragis, dianiaya, dan lanjut usia, meskipun nama tersebut juga digunakan dalam cerita manusia yang masuk dalam nominasi kompetisi anak-anak BBC.
Penyelarasan keamanan model AI menjelaskan preferensi terhadap narasi yang ‘aman’
Pertanyaan mengapa LLM tampaknya menggunakan tema mercusuar meskipun memiliki akses ke semua literatur dunia terletak pada upaya pengembang untuk membersihkan dan menyelaraskan keluaran model untuk memastikan keamanan. Hamilton menjelaskan bahwa banyak cerita di WildChat yang tidak “aman untuk bekerja”. Hal ini membuat para peneliti berhipotesis bahwa model, ketika melalui penyelarasan, pada akhirnya lebih memilih sebagian kecil dari cerita “aman” WildChat, seperti hambatan. Bukan karena kisah-kisah Elijah sering terjadi secara absolut, melainkan karena kisah-kisah tersebut secara konsisten “aman”, menjadikannya keluaran standar untuk para model.
Para peneliti berencana untuk mengeksplorasi teori ini dalam penyelidikan masa depan. Menariknya, ada Elias yang mendekati cerita LLM di kehidupan nyata: Elias Allen, pembuat jam abad ke-16 di London, serta ilmuwan gila penjelajah waktu di Dinosaurs Attack! seri kartu. dari tahun 80an, menunjukkan bahwa nama tersebut sudah ada dalam budaya tertentu sebelum era AI generatif.
