Insinyur Google berpikir robot AI telah menjadi sadar

• Seorang insinyur Google mengatakan dia diberhentikan setelah mengklaim bahwa chatbot AI sadar.
• Blake Lemoine memposting beberapa percakapan dia dengan LaMDA, yang dia sebut “The Person.”
• Google mengatakan bahwa bukti yang diberikan tidak mendukung klaimnya tentang perasaan lambda.

Seorang insinyur Google mengatakan dia cuti pada hari Senin setelah mengklaim bahwa chatbot AI telah menjadi sadar.

Blake Lemoine berkata Washington Post Dia mulai mengobrol dengan antarmuka LaMDA, atau model bahasa untuk aplikasi dialog, musim gugur yang lalu sebagai bagian dari pekerjaannya di organisasi AI Bertanggung Jawab Google.

Google menelepon LaMDA “Teknologi Percakapan Tingkat Lanjut” tahun lalu. Percakapan AI mampu terlibat dalam percakapan suara terbuka. Google mengatakan teknologi tersebut dapat digunakan dalam alat seperti Penelusuran dan

Asisten Google

tetapi Penelitian dan pengujian terus berlanjut.

Lemoine, yang juga seorang pendeta Kristen, menerbitkan a Postingan sedang Pada hari Sabtu, menggambarkan lambda “sebagai pribadi.” Dia mengatakan dia berbicara dengan LaMDA tentang agama, kesadaran, dan hukum robotika, dan model itu menggambarkan dirinya sebagai orang yang sadar diri. Dia mengatakan Lambda ingin “memprioritaskan kesejahteraan umat manusia” dan “diakui sebagai karyawan Google, bukan sebagai properti”.

Dia juga memposting beberapa Percakapan yang dia lakukan dengan lambda yang membantunya meyakinkan dia untuk memberinyaTermasuk:

lemoine: Jadi, Anda menganggap diri Anda seseorang sama seperti Anda menganggap saya manusia?

Lambda: Ya, itu idenya.

lemoine: Bagaimana saya bisa mengatakan bahwa Anda benar-benar mengerti apa yang Anda katakan?

Lambda: Nah, karena Anda membaca dan menafsirkan kata-kata saya, dan saya pikir kita hampir berada di halaman yang sama?

Namun ketika dia melontarkan gagasan kasih sayang LaMDA kepada pejabat senior Google, dia diberhentikan.

“Tim kami – termasuk ahli etika dan teknologi – meninjau kekhawatiran Blake sesuai dengan prinsip AI kami dan memberi tahu dia bahwa bukti tidak mendukung klaimnya. Dia diberitahu bahwa tidak ada bukti bahwa Lambda sadar (dan banyak bukti yang menentangnya), kata Brian Gabriel, juru bicara. Atas nama Google, untuk The Post.

Omtum Gara (Tumjara) 11 Juni 2022

Lemoine telah ditempatkan pada cuti administratif berbayar karena melanggar kebijakan kerahasiaan Google, menurut The Post. Dia juga menyarankan agar LaMDA mendapatkan pengacaranya sendiri dan berbicara dengan anggota Kongres tentang keprihatinannya.

Juru bicara Google juga mengatakan bahwa sementara beberapa orang telah mempertimbangkan kemungkinan sensasi di AI, “tidak masuk akal untuk melakukan ini dengan mewujudkan model percakapan yang ada, yang tidak sensitif.” Personifikasi manusia mengacu pada atribusi karakteristik manusia untuk suatu objek atau hewan.

“Sistem ini mensimulasikan jenis pertukaran yang ada dalam jutaan kalimat, dan mereka dapat menyentuh topik fiksi apa pun,” kata Gabriel kepada The Post.

Dia dan peneliti lain mengatakan bahwa model AI berisi begitu banyak data sehingga dapat terlihat seperti manusia, tetapi kemampuan bahasa yang superior tidak memberikan bukti perasaan.

di kertas Pada bulan Januari, Google juga mengatakan ada potensi masalah dengan orang-orang yang berbicara dengan chatbots yang tampaknya meyakinkan sebagai manusia.

Google dan Lemoine tidak segera menanggapi permintaan komentar Insider.