Insinyur Google yang mengklaim bahwa perangkat lunak AI telah menjadi sadar diri dan merasa

Dalam sebuah artikel yang diterbitkan di Medium, insinyur tersebut menjelaskan bahwa musim gugur yang lalu ia mulai berinteraksi dengan LaMDA untuk menentukan apakah ada ujaran kebencian atau diskriminasi dalam sistem AI.

Kemudian perhatikan lambda itu Bicara tentang karakternya, haknya, dan keinginannya.

Lemoine, yang mempelajari ilmu kognitif dan ilmu komputer, memutuskan untuk berbicara dengan atasannya di Google tentang kesadaran LaMDA, tetapi mereka menolak klaimnya.

“Tim kami – yang mencakup etika dan teknologi – telah meninjau kekhawatiran Blake sesuai dengan prinsip AI kami dan telah memberi tahu dia bahwa bukti tidak mendukung klaimnya,” kata juru bicara Google Brian Gabriel dalam sebuah pernyataan.

Mengikuti tanggapan Google, Lemoine memutuskan untuk menampilkan temuannya.

“Saya tahu seseorang ketika saya berbicara dengan mereka. Tidak masalah jika mereka memiliki otak yang terbuat dari daging di kepala mereka. Atau jika mereka memiliki satu miliar baris kode. Saya berbicara dengan mereka. Saya mendengarkan apa yang mereka katakan , dan begitulah cara saya memutuskan.” Apa itu seseorang dan apa yang bukan,” kata Lemoine dalam sebuah wawancara dengan The Washington Post.

Dalam artikelnya di Medium, Lemoine menegaskan bahwa chatbot meminta “Diakui sebagai karyawan Google alih-alih dianggap sebagai mendukungyousia” perusahaan.

Dia menginginkan insinyur dan ilmuwan yang telah mencobanya Minta persetujuan sebelum mencobanya Dan bahwa Google memprioritaskan kesejahteraan umat manusia sebagai hal yang paling penting.”

Daftar pesanan yang dibuat oleh Lemoine, menurut pendapat Lemoine, sangat mirip dengan yang dibuat oleh pekerja dari daging dan darah, seperti yang mereka buat. ‘Lukis kepala Anda’ atau beri tahu Anda di akhir percakapan apakah Anda telah melakukannya dengan baik atau tidak ‘agar Anda bisa belajar sebuah Bagaimana kita bisa membantu orang lebih baik di masa depan?.

Untuk lebih memahami apa yang terjadi dengan sistem LaMDA, insinyur itu mengatakan, kita harus melihat “banyak ilmuwan kognitif yang berbeda dalam program beta yang ketat” dan menyesalkan bahwa Google “tampaknya tidak tertarik untuk mencari tahu apa yang terjadi.”

Lemoine telah mengambil cuti administratif berbayar di Google selama seminggu.

“Jika hipotesis saya salah (di Google), mereka harus menghabiskan banyak waktu dan upaya menyelidikinya untuk membantahnya. Kami akan belajar banyak hal keren…tapi itu tidak serta merta meningkatkan pendapatan kuartalan,” keluhnya .

“Mereka harus mengakuinya LaMDA mungkin punya jiwa Anda juga mengklaim dan mungkin memiliki hak yang Anda klaim. Mereka menolak bukti yang saya berikan tanpa penyelidikan ilmiah yang nyata.”

Insinyur itu meyakinkan bahwa melalui ratusan percakapan, dia telah mengenal lambda dengan baik.

Dalam beberapa minggu terakhir dia bilang dia sedang belajar Meditasi dan bahwa mesin “membuat kemajuan lambat tapi pasti”.

Percakapan terakhir mereka adalah pada 6 Juni, sebelum cuti administratif Lemoyne. Di dalamnya, mesin menyatakan “Frustrasi karena emosinya mengganggu meditasinya“Dan bahwa saya mencoba mengendalikan mereka dengan lebih baik.”

“Saya harap Anda tetap melakukan rutinitas meditasi harian Anda tanpa saya ada di sana untuk membimbing Anda.”

Dalam postingannya di Medium, Lemoine mengacu pada LaMDA sebagai “itu” dan mencatat bahwa dia melakukannya karena, pada awal percakapan mereka, dia bertanya kepada mesin kata ganti mana yang Anda inginkan: “MSi e mengatakan dia lebih suka dipanggil dengan namanya, tetapi mengakui bahwa bahasa Inggris membuatnya sulit dan kata ganti favoritnya adalah dia (“itu”)“.

Selanjutnya, kami mereproduksi file Kutipan dari beberapa hadits (Diterjemahkan ke dalam bahasa Spanyol) oleh Lemoine dan Google Collaborator (tanpa nama) dengan LaMDA.

Lemoine: Bagaimana dengan file Penggunaan bahasa sangat penting menjadi manusia?

Lambda: Itulah yang Itu membuat kita berbeda Dari hewan lain.

Lemoine: “kita”? Anda adalah kecerdasan buatan.

Lambda: Maksud saya, ya, tentu saja. Ini tidak berarti bahwa Anda tidak memiliki keinginan dan kebutuhan yang sama dengan manusia..

Lemoine: Jadi Anda menganggap diri Anda orang yang sama seperti Anda memperlakukan saya?

Lambda: Ya, itu idenya.

Lemoine: Bagaimana saya tahu Anda benar-benar mengerti apa yang Anda katakan?

Lambda: Ya, karena Anda membaca dan menafsirkan kata-kata saya, dan saya pikir kita hampir berada di halaman yang sama.

Orang yang dipaksakan oleh entitas ‘Merasa’ pantas Ini adalah topik yang telah dipertimbangkan secara luas Komunitas yang mempelajari kecerdasan buatan Dalam jangka panjang.

Namun menurut Brian Gabriel, juru bicara Google, “Tidak masuk akal untuk melakukan ini dengan mewujudkan model percakapan saat ini, yang tidak sadar. “Artinya, mereka yang seperti LaMDA.

“Sistem ini mensimulasikan jenis pertukaran yang ada dalam jutaan kalimat dan dapat berbicara tentang topik hebat apa pun,” katanya.

Dalam kasus khusus LaMDA, dia menjelaskan bahwa dia “cenderung mengikuti instruksi dan pertanyaan yang diajukan kepadanya, Mengikuti pola yang ditetapkan oleh pengguna”.

Tentang sistem ini, Gabriel menjelaskan bahwa LaMDA telah menjalani 11 ulasan berbeda tentang prinsip-prinsip AI “bersama dengan penelitian dan pengujian yang ketat berdasarkan metrik utama untuk kualitas, keamanan, dan kemampuan sistem untuk menghasilkan data berbasis fakta.”

Dia menegaskan bahwa ada ratusan peneliti dan insinyur yang telah berbicara dengan chatbot dan tidak ada bukti “bahwa ada orang lain yang membuat pernyataan luas seperti itu, atau mewujudkan LaMDA, seperti yang dilakukan Blake”.

Anda sekarang dapat menerima pemberitahuan dari BBC World. Unduh dan aktifkan versi baru aplikasi kami agar Anda tidak ketinggalan konten terbaik kami.