Para ilmuwan merasa ngeri dengan tikus AI aneh dengan organ reproduksi besar dalam artikel tinjauan sejawat

Kengerian dan penghinaan melanda jejaring sosial para ilmuwan pada hari Kamis, ketika beberapa angka sangat buruk yang dihasilkan oleh kecerdasan buatan beredar dari… Artikel yang ditinjau oleh rekan sejawat Baru-baru ini diterbitkan di majalah bergengsi. Angka-angka ini – yang penulis akui dalam teks artikel adalah ciptaan Midgourney – semuanya tidak dapat dijelaskan. Isinya teks yang tidak bisa dipahami, dan yang paling mencolok, salah satunya memuat gambar tikus dengan alat kelamin yang sangat besar dan aneh, serta judul teks “dck”.

Pada hari Kamis, penerbit artikel ulasan, Frontiers, Memposting “Ekspresi Kepedulian” Memperhatikan bahwa dia menyadari kekhawatiran terkait dengan artikel yang diterbitkan. “Penyelidikan sedang berlangsung dan pemberitahuan ini akan diperbarui setelah penyelidikan selesai,” tulis penerbit tersebut.

Artikel yang dimaksud berjudul “Fungsi seluler sel induk spermatogenik dalam kaitannya dengan jalur pensinyalan JAK/STAT,” dan ditulis oleh tiga peneliti di Tiongkok, termasuk penulis koresponden Dingjun Hao dari Rumah Sakit Xi'an Honghui. Hal ini diterbitkan secara online pada hari Selasa di jurnal Frontiers in Cell and Developmental Biology.

Frontiers tidak segera menanggapi permintaan komentar Ars, tetapi kami akan memperbarui postingan ini dengan tanggapan apa pun.

Gambar pertama dalam makalah tersebut, yang berisi seekor tikus, langsung menarik perhatian ketika para ilmuwan mulai membagikannya secara luas dan mengomentarinya di platform media sosial, termasuk Bluesky dan platform yang sebelumnya dikenal sebagai Twitter. Dari kejauhan terlihat jelas gambaran anatominya salah total. Namun jika dilihat lebih dekat, akan terlihat lebih banyak kelemahan, termasuk sebutan “dissilced”, “stem cell”, “iollotte sserotgomar”, dan “dck”. Banyak peneliti yang menyatakan terkejut dan kecewa bahwa gambaran buruk yang dihasilkan oleh kecerdasan buatan dapat menyebar ke masyarakat. – Sistem review dan proses internal apa pun yang ada di jurnal.

Namun kawanan tikus bukanlah satu-satunya masalah. Gambar 2 kurang grafis tetapi sama-sama terdistorsi. Meskipun seharusnya merupakan diagram jalur sinyal yang kompleks, namun justru berantakan. Seorang ahli dalam integritas ilmiah Saya bertanya-tanya apakah dia memberikan penjelasan yang terlalu rumit tentang “cara membuat donat dengan taburan warna-warni”. Seperti gambar pertama, diagramnya penuh dengan teks yang tidak masuk akal dan gambar yang membingungkan. Gambar 3 juga tidak lebih baik, menyajikan kumpulan gambar melingkar kecil yang berisi anotasi yang sangat tidak masuk akal. Gambar tersebut seharusnya memberikan representasi visual tentang bagaimana jalur sinyal dari Gambar 2 mengatur sifat biologis sel induk spermatogenik.

Beberapa peneliti online bertanya-tanya apakah teks tersebut juga dihasilkan oleh kecerdasan buatan. Seorang pengguna mencatat bahwa perangkat lunak pendeteksi AI menentukan bahwa hal itu kemungkinan besar dihasilkan oleh AI; Namun, seperti diberitakan Ars sebelumnya, program semacam itu tidak bisa diandalkan.

Gambar-gambar tersebut, meskipun merupakan contoh yang mengerikan, menyoroti masalah yang berkembang dalam penerbitan ilmiah. Keberhasilan para ilmuwan sangat bergantung pada catatan publikasi mereka, dengan volume publikasi yang tinggi, frekuensi publikasi, dan artikel yang muncul di jurnal terkemuka, semuanya memberikan status yang lebih tinggi kepada ilmuwan. Sistem ini memberikan insentif kepada peneliti yang kurang teliti untuk menerbitkan artikel berkualitas rendah, yang kemungkinan besar dihasilkan dengan bantuan kecerdasan buatan di era chatbot yang didukung AI. Para peneliti khawatir bahwa meningkatnya penggunaan kecerdasan buatan akan membuat penelitian yang dipublikasikan menjadi kurang dapat dipercaya. Oleh karena itu, jurnal penelitian baru-baru ini mengembangkan pedoman baru untuk menulis teks yang dihasilkan AI untuk mencoba mengatasi masalah tersebut. Namun untuk saat ini, seperti yang ditunjukkan dalam artikel Frontiers, jelas terdapat beberapa kesenjangan.