Avi Loeb mengecam kecurian integriti saintifik melalui video palsu yang dihasilkan oleh kecerdasan buatan

Ahli astronomi Avi Loeb, profesor di Universidade Harvard, mengecam penciptaan video palsu yang dihasilkan oleh kecerdasan buatan yang menggunakan imejnya untuk menyebarkan maklumat yang salah mengenai topik saintifik. Kandungan Esses, yang dikenal pasti di saluran YouTube, telah dikesan kira-kira dua bulan lalu dan telah memperdaya sebahagian daripada orang ramai, termasuk tokoh awam yang mengagumi hasil kerja penyelidik.

Loeb melaporkan bahawa peminat mengenal pasti pemalsuan dengan butiran seperti jam terhenti di latar belakang dan kenyataan yang bercanggah dengan teks rasmi mereka. Ele mengumumkan penciptaan saluran YouTube rasmi untuk memerangi maklumat salah dan menyeru platform itu untuk mengalih keluar bahan palsu.

Situasi ini menjadi terkenal selepas lawatan oleh pakar ekologi Abby Rockefeller, berumur 82 tahun, ke pejabat Loeb di Cambridge, di Estados Unidos. Ela telah menonton video palsu di mana ahli astronomi itu didakwa mendakwa bahawa objek antara bintang 3I/ATLAS membawa mesej daripada makhluk luar angkasa yang kecewa dengan kemanusiaan.

Kes peribadi yang melibatkan Abby Rockefeller

Abby Rockefeller menghubungi Avi Loeb melalui e-mel selepas mengikuti perbincangan tentang objek 3I/ATLAS, menyatakan kekaguman untuk penyelidikannya tentang kemungkinan asal usul luar angkasa bagi bahan angkasa. Durante lawatan secara peribadi, dia menyebut telah berkongsi video palsu itu dengan kenalan, mempercayai ia adalah sahih, sehingga dia dimaklumkan oleh rakan tentang manipulasi itu.

Episod itu menggegarkan pengunjung, yang mengiktiraf kualiti pemalsuan yang dijana oleh AI. Loeb menyerlahkan bahawa beribu-ribu pengikut menghantar amaran serupa tentang saluran tidak dibenarkan yang menggunakan suara dan imej mereka untuk membincangkan sains dengan cara yang herot.

Video ini telah mengumpulkan tontonan yang ketara, walaupun ia tidak berdasarkan bukti sebenar yang diterbitkan oleh ahli astronomi. Platform YouTube mengalih keluar beberapa saluran selepas aduan, tetapi saluran baharu muncul secara berkala, menurut laporan penyelidik.

Konsep kecurian integriti saintifik

Avi Loeb mentakrifkan penghasilan kandungan palsu oleh AI sebagai pencurian integriti saintifik, setanding dengan pencurian identiti dalam konteks akademik. Sains bergantung pada kebenaran dan bukti yang boleh disahkan, berbanding dengan penipuan yang disengajakan yang menjejaskan kepercayaan orang ramai terhadap penyelidik.

Ahli astronomi membezakan kesilapan manusia yang sah, biasa dalam penyelidikan yang kompleks, daripada pemalsuan yang disengajakan yang mengeksploitasi kredibiliti orang lain. Ele mempunyai lebih daripada seribu artikel yang diterbitkan dan kerjaya selama beberapa dekad dalam Harvard, yang mengukuhkan kuasanya terhadap pengaruh tanpa kelayakan rasmi.

• Penjanaan kenyataan palsu yang dikaitkan dengan pakar;
• Penghakisan pembezaan antara kandungan tulen dan dimanipulasi;
• Peningkatan ketidakpercayaan umum dalam komunikasi saintifik dalam talian.

Pertumbuhan deepfakes dalam penyebaran saintifik

Kes pemalsuan mendalam yang melibatkan saintis telah meningkat dengan kemajuan alat AI yang boleh diakses secara umum. Plataformas video merekodkan percambahan saluran yang meniru suara dan imej pihak berkuasa akademik untuk menarik penonton.

Kajian terbaru menunjukkan bahawa kandungan yang dimanipulasi oleh AI mewakili risiko yang semakin meningkat kepada penyebaran pengetahuan yang boleh dipercayai. Pesquisadores dari kawasan berbeza melaporkan episod yang serupa, walaupun kes Loeb mendapat keterlihatan disebabkan unjuran antarabangsanya.

Ketiadaan peraturan khusus memudahkan penciptaan bahan-bahan ini dengan pantas. Especialistas menyokong pengesahan yang lebih ketat oleh platform digital untuk melindungi reputasi profesional sains.

Langkah-langkah diumumkan oleh Avi Loeb

Profesor itu merancang untuk melancarkan saluran YouTube rasmi dalam beberapa hari akan datang, dengan kandungan disemak secara peribadi untuk memastikan keasliannya. Ele akan mengarahkan pengikut ke sumber yang disahkan, termasuk esei percuma yang diterbitkan secara tetap pada halaman anda di Medium.

Loeb meminta pihak berkuasa platform itu untuk secara sistematik mengalih keluar video palsu yang menggunakan imejnya. Inisiatif ini bertujuan untuk menawarkan alternatif yang boleh dipercayai kepada berjuta-juta pembaca bulanan teks asalnya.

Ahli astronomi tetap optimis tentang penggunaan AI yang bertanggungjawab, menganggap ia sebagai alat yang mampu memberi manfaat kepada manusia apabila digunakan dengan betul. Ele membandingkan kandungan palsu dengan makanan intelektual berkualiti rendah, berbahaya kepada kefahaman awam.

Konteks perbahasan etika yang lebih luas

Perbincangan tentang etika penggunaan AI dalam sains telah mendapat momentum sejak beberapa tahun kebelakangan ini, terutamanya dengan alat generatif yang mampu menghasilkan teks dan imej yang realistik. Universidades dan jurnal akademik mengguna pakai garis panduan untuk pengisytiharan mandatori penggunaan AI dalam penerbitan.

Kes manipulasi imej saintifik yang dihasilkan oleh AI telah menyebabkan penarikan balik artikel dalam jurnal terkenal. Fenomena ini melangkaui video, mencapai pengeluaran kertas dengan data rekaan.

Pakar menunjukkan keperluan pendidikan awam untuk mengenal pasti palsu. Iniciativas sebagai meterai pengesahan pada kandungan tulen muncul sebagai penyelesaian yang mungkin dalam persekitaran digital.

Pengaruh Avi Loeb pada astronomi kontemporari

Avi Loeb mengarahkan jabatan astronomi di Harvard dan mengetuai projek pada objek antara bintang, termasuk analisis bahan yang diperoleh semula dari lautan Pacífico. Hipotesis Suas tentang kemungkinan asal-usul teknologi benda angkasa menjana perdebatan sengit dalam komuniti saintifik.

Pengkaji telah menerbitkan sembilan buku dan mengekalkan komunikasi langsung dengan orang ramai melalui esei harian yang boleh diakses dalam talian. Pendekatan terbuka Essa menyumbang kepada keterlihatannya, tetapi juga menjadikannya sasaran utama untuk pemalsuan.

Kerjanya pada Oumuamua dan objek antara bintang lain merangsang pelaburan dalam carian untuk isyarat luar angkasa. Projetos dan Galileo, yang diselaraskan olehnya, menggunakan peralatan moden untuk pemantauan sistematik langit.

Perspektif untuk peraturan AI

Pihak berkuasa antarabangsa membincangkan rangka kerja undang-undang untuk mengawal pemalsuan dalam, terutamanya dalam konteks yang menjejaskan reputasi profesional. Syarikat digital Plataformas menghadapi tekanan untuk melaksanakan penapis pengesanan manipulasi automatik.

Penyelidik menyokong kerjasama antara syarikat teknologi dan institusi akademik untuk membangunkan alat pengesahan. Mengimbangi inovasi dan melindungi integriti kekal sebagai cabaran utama dalam memajukan AI.

Kes seperti Loeb berfungsi sebagai contoh konkrit untuk menggambarkan risiko sebenar. Pengalaman mengukuhkan kepentingan saluran rasmi sebagai rujukan utama untuk maklumat saintifik yang boleh dipercayai.

Contoh tambahan risiko yang dikenal pasti

Para saintis lain telah melaporkan episod video palsu membincangkan teori tanpa asas dalam penerbitan sebenar mereka. Kemudahan menjana audio dan video sintetik memperluaskan potensi jangkauan maklumat salah.

• Penyebaran pantas di rangkaian sosial tanpa pengesahan;
• Kesukaran dalam penyingkiran lengkap selepas viralisasi;
• Kesan psikologi kepada mangsa penyamaran.

Institusi akademik membimbing guru mengenai perlindungan imej digital. Treinamentos termasuk pengesyoran untuk menanda air kandungan rasmi dan pemantauan platform aktif.

Masa depan komunikasi saintifik digital

Penciptaan saluran yang disahkan muncul sebagai strategi yang berkesan terhadap pemalsuan. Astrônomos dan pakar lain menggunakan kehadiran rasmi pada berbilang platform untuk mengarahkan khalayak ke sumber yang sahih.

Alat AI juga membantu mengesan manipulasi, menawarkan titik balas teknologi kepada masalah yang mereka bantu buat. Pembangunan yang seimbang bergantung pada garis panduan etika yang jelas daripada pencipta.

Kes Avi Loeb menyerlahkan peralihan yang berterusan dalam komunikasi saintifik, di mana keaslian menjadi kriteria penting. Pesquisadores mengekalkan komitmen terhadap ketelusan untuk mengekalkan kredibiliti yang diperoleh selama beberapa dekad.