Panik kerana chatbots bercakap antara satu sama lain dalam bahasa mereka sendiri? Ini adalah kebenaran

Pada hari Isnin, keseronokan dunia teknologi mencapai kemuncaknya apabila Facebook mengumumkan bahawa ia akan meninggalkan chatbots selepas mereka mencipta bahasa mereka sendiri.

Beberapa akhbar menyebut program ini sebagai "menakutkan." Beberapa wartawan juga membayangkan bahawa Facebook sendiri telah kehabisan idea sebelum beberapa AI yang sangat pintar "bercakap". Akhbar British Sun menuntut untuk mengetahui "Adakah mesin mengambil alih?". Saluran televisyen Australia Seven News juga memanggil ini sebagai "kecemasan AI". Dan jawapannya ialah: tidak.

Ini hanyalah dua chatbot yang bertukar maklumat antara satu sama lain. Melihat kepada coretan kod dalam "perbualan" mereka, sukar untuk melihat bahasa apa yang mereka pertuturkan, apatah lagi mengembangkan bahasa itu sendiri.

Perbualan pertukaran maklumat Chatbot

Akhbar yang meletup dan ketakutan terhadap AI selepas kejadian ini mungkin berpunca daripada projek Facebook. Penyelidik di gergasi rangkaian sosial ini cuba mengajar dua chatbots menggunakan perbualan untuk bercakap antara satu sama lain. Matlamatnya adalah untuk mengajar bot cara merancang dan berkomunikasi dengan lebih berkesan.

Apabila mereka bercakap kosong, tiada AI yang terhempas atau terbunuh. Sebaliknya, kami mencari ralat perisian dan membetulkannya supaya bot boleh bercakap lebih seperti manusia, dan penyelidik boleh membentangkan hasil penyelidikan mereka.

"Kerja ini sangat menarik," kata Zachary Lipton, penolong profesor Pembelajaran Mesin di Carnegie Mellon University, kepada The Register . Tetapi ini adalah model statik, seperti apa yang Google gunakan untuk bermain permainan papan atau telefon anda gunakan untuk meramalkan perkataan yang akan anda tulis. Mereka tidak mempunyai keupayaan kognitif yang lebih tinggi daripada semangkuk mi atau sepasang kasut."

Bolehkah chatbots benar-benar bercakap antara satu sama lain dalam bahasa baharu?

Bot yang boleh bercakap bukanlah fenomena baru atau misteri. Penyelidik di OpenAI mendapati bahawa mereka boleh bercakap melalui sesuatu seperti kod Morse apabila dipaksa untuk berkomunikasi dan bekerjasama.

Ryan Lowe, seorang pelajar PhD di McGill University dan pelajar PhD di OpenAI, berkata bahawa ini adalah "fenomena yang sangat normal" dan "tiada apa yang perlu dibimbangkan."

"Setiap kali terdapat persekitaran berbilang bot, ia lebih berkesan apabila mereka bercakap antara satu sama lain," katanya, "Tugas mereka sangat terhad dan bahasa yang mereka gunakan mencerminkannya, ia sangat mudah dan tidak pernah menyerupai bahasa sebenar. . Bahasa mempunyai sistem sintaks dan tatabahasa tertentu. Jika ia tidak diajar secara eksplisit, apa yang dihasilkannya tidak boleh menyerupai bahasa.”

Semut bertukar menjadi gajah

Khabar angin dan maklumat yang dibesar-besarkan tentang AI sering muncul. Beralih ke medan AI dan mengatakan produk anda menggunakan Pembelajaran Mesin boleh membawa masuk banyak wang. Ini bukan hanya masalah bagi wartawan yang pakar dalam mencari berita sensasi, gergasi teknologi juga sangat alah dan sering menggunakan perkataan seperti "imaginasi", "intuisi", "reason" dalam catatan blog mereka.

"Orang lain yang bertanggungjawab untuk ini ialah jabatan penyelidikan syarikat besar, dengan penuh semangat melaksanakan projek pecah tanah yang difikirkan oleh ramai saintis tidak dapat direalisasikan selama bertahun-tahun," kata Lipton.

Facebook baru-baru ini menyiarkan iklan pengambilan untuk jawatan editor AI untuk membantu "membangun dan melaksanakan strategi dan kempen yang memfokuskan pada peningkatan AI mereka". Syarikat seperti Amazon, Microsoft, OpenAI, Google Brain dan DeepMind semuanya mengeluarkan artikel yang menggariskan perkembangan terkini dalam AI.

“Penulis mungkin bijak dan berniat baik,” kata Lipton, “tetapi ada masalah di sini. Apa yang mereka lakukan, walaupun rasanya seperti kewartawanan, tidak, ia tidak cuba untuk membawa objektiviti dan tidak mempunyai pandangan yang ragu-ragu atau analisis mendalam."