Gunakan AI sendiri untuk mengesan berita palsu yang dicipta oleh AI

Baru-baru ini, penyelidik di Universiti Harvard dan makmal AI-MIT Watson MIT mencipta alat GLTR (Bilik Ujian Model Bahasa Giant - Bilik Ujian Model Bahasa Gergasi) untuk mengesan bias maklumat dibuat daripada AI, menggunakan kecerdasan buatan itu sendiri.

Alat GLTR memahami dengan jelas cara AI berfungsi dan kemudian menganalisis kandungan maklumat. Alat ini mengesan berita palsu yang dicipta oleh teknologi AI dengan menyerlahkan sekeping teks. Pembaca boleh mengikuti keupayaan analisis GLTP dalam ilustrasi di bawah. Dengan perkataan yang diserlahkan dalam warna hijau, ia adalah yang paling boleh diramal, merah dan kuning kurang boleh diramal, dan ungu adalah yang paling tidak boleh diramal.

Para saintis bergantung pada warna dalam setiap bahagian teks dan analisis untuk menilai ketulenan maklumat, sama ada ia dicipta oleh algoritma atau tidak. Teks yang diserlahkan dalam warna merah, ungu dan kuning akan kurang berkemungkinan dihasilkan oleh AI kerana penggunaan banyak perkataan yang sukar. Jika teks diliputi dengan banyak warna biru, ini bermakna terdapat banyak perkataan biasa dan berkemungkinan dicipta oleh bot. Alat ini membantu meningkatkan kadar pengesanan teks palsu sebanyak kira-kira 72%.

Pada asasnya, ayat yang ditulis oleh penjana teks AI mungkin betul dari segi tatabahasa, tetapi pastinya akan mempunyai masalah semantik, atau dalam banyak kes malah tiada makna sebenar. sebarang sebab.

Pada masa ini, penggunaan AI dan model penjanaan bahasa luar tabii untuk mencipta berita palsu dan menyebarkan maklumat palsu semakin menjadi-jadi, membawa kepada akibat yang serius kepada masyarakat. Teks palsu ini kadangkala sangat rumit, menjadikannya sukar bagi pembaca untuk menyedari bahawa ia ditulis oleh mesin dan bukannya manusia. Sementara itu, alat GLTR dilengkapi dengan keupayaan untuk membezakan dengan tepat jenis teks palsu di atas, bertindak sebagai alat AI "musuh semulajadi" yang berkesan. Itu juga merupakan idea teras penyelidik dalam projek GLTR ini.

Inisiatif yang serupa dengan GLTR harus dipromosikan dan digunakan secara meluas dalam amalan tidak lama lagi. Mereka berharga bukan sahaja dalam mengesan teks palsu, tetapi juga memainkan peranan yang sangat berkesan dalam mengenal pasti bot Twitter, yang sering digunakan untuk mengganggu pilihan raya di Amerika Syarikat dan banyak negara lain.keluarga lain.

Menggunakan AI sendiri untuk mengesan AI ialah langkah "musuh semulajadi" yang berkesan

Sebelum GLTR dilahirkan, terdapat alat pengecaman berasaskan AI yang digunakan secara meluas dan agak berkesan yang dipanggil Botometer. Pada asasnya, Botometer menggunakan teknik pembelajaran mesin untuk menentukan sama ada mana-mana akaun dikendalikan oleh manusia atau algoritma perisian. Alat ini mampu mengenal pasti akaun bot dan akaun palsu yang tidak dikendalikan oleh manusia dengan ketepatan sehingga 95%.

Sekali lagi, keperluan untuk mencipta sistem AI-manusia kolaboratif untuk menyelesaikan masalah teknologi/sosial yang biasa ditunjukkan dan ditekankan. Ini adalah tugas yang sukar, tetapi sangat mendesak untuk manusia dalam era digital dan kecerdasan buatan semasa.

Lihat lagi:

• Kecerdasan buatan sudah boleh menulis keseluruhan artikel daripada hanya beberapa maklumat
• AI telah mencipta wajah yang kelihatan seperti orang sebenar, kereta palsu, rumah dan juga haiwan
• Kecerdasan buatan mempelajari cara mencipta satu lagi kecerdasan buatan, menggantikan manusia pada masa hadapan
• 6 langkah untuk mula belajar pengaturcaraan kecerdasan buatan (AI).