Ilustrasi kecerdasan buatan (AI) dalam penulisan karya ilmiah (Foto: Earth)
Jakarta, Jurnas.com - Penggunaan kecerdasan buatan (artifisial intelligence/AI) dalam penulisan karya ilmiah kini mulai menimbulkan persoalan serius di dunia akademik. Sejumlah makalah penelitian tingkat atas dilaporkan memuat referensi yang ternyata palsu.
Dikutip dari Earth pada Minggu (25/1), fakta tersebut menimbulkan kekhawatiran baru tentang betapa mudahnya kesalahan referensi lolos dari proses penelaahan sejawat, bahkan dalam forum akademik yang dikenal sangat selektif.
Sebuah pemindaian terbaru terhadap 4.841 makalah yang telah diterima menemukan sedikitnya 100 sitasi palsu yang tersebar di 51 naskah berbeda. Temuan ini berasal dari GPTZero, yang mulai menelusuri daftar referensi setelah mendapati bahwa kesalahan sitasi sering kali bertahan hingga tahap publikasi akhir.
Temuan ini menjadi signifikan karena melibatkan konferensi besar seperti NeurIPS, salah satu ajang paling bergengsi dalam riset kecerdasan buatan dunia. Di lingkungan seperti ini, standar akademik umumnya sangat ketat, sehingga keberadaan referensi fiktif memunculkan pertanyaan tentang efektivitas sistem evaluasi yang ada.
Meski sitasi palsu dapat berujung pada penolakan atau pencabutan makalah, temuan ini menyoroti risiko yang lebih luas. Seiring meluasnya penggunaan alat tulis berbasis AI, kesalahan kecil dalam referensi dapat menyulitkan proses verifikasi dan secara perlahan menggerus kepercayaan terhadap publikasi ilmiah.
Referensi palsu bukan sekadar kesalahan ketik biasa. Sitasi berfungsi sebagai jalur pembuktian yang memungkinkan pembaca menelusuri sumber data dan argumen. Ketika jalur tersebut terputus karena sumbernya tidak pernah ada, keandalan keseluruhan karya ilmiah ikut dipertanyakan.
Dalam penjelasannya, pihak NeurIPS menyebutkan bahwa meskipun sekitar 1,1 persen makalah mengandung satu atau lebih referensi keliru akibat penggunaan model bahasa besar, temuan inti dari makalah tersebut tidak otomatis menjadi tidak valid. Pernyataan ini bertujuan melindungi hasil riset yang sah, namun tetap menambah beban bagi pembaca yang ingin memeriksa klaim secara mandiri.
Kemunculan referensi palsu erat kaitannya dengan cara kerja model bahasa besar atau large language model (LLM). Sistem ini dirancang untuk memprediksi teks yang terdengar paling masuk akal berdasarkan pola bahasa, bukan untuk memverifikasi kebenaran fakta. Akibatnya, AI dapat menyusun judul artikel, nama penulis, jurnal, dan tahun publikasi yang tampak kredibel, padahal sepenuhnya fiktif.
Gaya sitasi akademik yang baku justru memperparah masalah ini. Format yang rapi dan konsisten membuat referensi palsu sulit dibedakan dari sitasi asli, terutama saat pemeriksaan akhir dilakukan dengan cepat. Tanpa pengecekan ke basis data ilmiah, kesalahan semacam ini mudah terlewat.
Masalah referensi juga berkaitan langsung dengan sistem penilaian karier akademik. Sitasi sering dijadikan mata uang reputasi dalam dunia riset, memengaruhi peluang pendanaan, perekrutan, hingga kolaborasi. Ketika sitasi palsu masuk ke dalam ekosistem ini, sinyal akademik menjadi kabur dan berpotensi memberi keuntungan yang tidak semestinya.
Deklarasi San Francisco tentang Penilaian Riset (DORA) sebenarnya telah lama mendorong institusi untuk menilai kualitas karya, bukan sekadar metrik sitasi atau nama jurnal. Namun dalam praktiknya, angka sitasi masih sering dijadikan jalan pintas. Referensi fiktif berisiko memperparah ketergantungan pada indikator yang rapuh ini.
Volume pengajuan makalah yang sangat besar turut memperumit situasi. NeurIPS, misalnya, menerima lebih dari 21 ribu naskah dengan tingkat penerimaan sekitar 24 persen. Beban ini memaksa panitia bergantung pada ribuan penelaah sukarela yang harus membagi waktu antara riset, pengajaran, dan penilaian makalah.
Dalam kondisi seperti itu, daftar referensi kerap hanya diperiksa sekilas. Ketua program konferensi mengakui bahwa keterbatasan waktu membuat mereka tidak selalu dapat meninjau ulang setiap keputusan yang ditandai sebagai kasus khusus. Celah inilah yang memungkinkan kesalahan sitasi masuk ke catatan ilmiah permanen.
Secara teknis, verifikasi referensi sebenarnya dapat dilakukan secara sistematis. Alat pemeriksa sitasi memecah setiap referensi menjadi komponen, menstandarkan ejaan, lalu mencocokkannya dengan basis data bibliografi. Entri yang tidak ditemukan atau hanya mendekati kecocokan akan ditandai untuk ditinjau manual.
Namun, pemeriksaan otomatis tetap memerlukan penilaian manusia. Beberapa sumber lama, buku cetak, atau draf awal yang beredar daring memang tidak selalu tercatat dalam basis data besar. Inilah sebabnya mengapa verifikasi sitasi tidak bisa sepenuhnya diserahkan pada mesin.
Dorongan untuk mereformasi sistem penelaahan sejawat pun semakin menguat. Beberapa akademisi mengusulkan agar penulis dapat menilai kualitas ulasan dan agar penelaah mendapatkan pengakuan formal atas kerja mereka. Mekanisme umpan balik semacam ini diharapkan dapat mengurangi ulasan terburu-buru yang bersifat templat.
Meski demikian, banyak pihak menilai pemeriksaan sitasi otomatis tetap diperlukan agar penelaah dapat memfokuskan perhatian pada metodologi dan hasil riset. Pencegahan kesalahan referensi idealnya dimulai dari penulis, dengan memperlakukan daftar pustaka sebagai bagian inti dari bukti ilmiah.
Penggunaan manajer referensi yang terhubung langsung ke basis data dapat mengurangi kesalahan pengetikan dan inkonsistensi. Jika AI digunakan untuk membantu penulisan, setiap referensi yang dihasilkan seharusnya diverifikasi secara manual melalui mesin pencari atau indeks ilmiah sebelum naskah dikirim.
Penelitian sebelumnya menunjukkan bahwa chatbot dapat menghasilkan daftar referensi yang tampak meyakinkan meski sumbernya tidak ada. Sebuah studi menemukan bahwa lebih dari separuh referensi yang dihasilkan versi awal ChatGPT bersifat fiktif, meski versi terbaru menunjukkan perbaikan signifikan. Namun, kesalahan yang tersisa sering kali mencampur detail nyata dan palsu, sehingga makin sulit dideteksi.
Kesalahan kecil dalam referensi dapat menyebar dengan cepat, terutama ketika makalah disalin, diringkas, atau dijadikan rujukan lanjutan. Dalam ekosistem akademik yang bergerak cepat, kesalahan semacam ini berpotensi menular dari satu publikasi ke publikasi lain.
Google News: http://bit.ly/4omUVRy
Terbaru: https://jurnas.com/redir.php?p=latest
Langganan : https://www.facebook.com/jurnasnews/subscribe/
Youtube: https://www.youtube.com/@jurnastv1825?sub_confirmation=1
referensi palsu AI sitasi ilmiah keliru AI dalam riset ilmiah
