Pakar McAfee menerangkan bagaimana deepfake dan AI melanggar dinding keselamatan siber

"Seratus perkataan yang didengar tidak layak untuk dilihat", peribahasa ini mungkin tidak lagi tepat apabila bercakap tentang keselamatan siber dalam menghadapi "ancaman" daripada deepfake pada masa hadapan, anda tidak akan dapat mempercayai apa-apa lagi. Saya melihatnya dengan mata saya sendiri!

Mengimbas kembali konsep itu, deepfake ialah program yang menggunakan kecerdasan buatan , membenarkan pengguna menukar wajah seseorang dalam video dengan wajah orang lain. Malah, ia membantu pengguna mencipta kandungan palsu dengan memasukkan wajah orang terkenal ke dalam video untuk tujuan fitnah atau keuntungan haram. Itulah juga sebab mengapa deepfake telah menjadi ancaman utama kepada syarikat hiburan, selebriti, dan lebih-lebih lagi, keselamatan siber.

• Google dan DeepMind menggunakan AI untuk meramalkan pengeluaran ladang angin

Steve Grobman, ketua pegawai teknologi di syarikat keselamatan siber McAfee, dan Celeste Fralick, salah seorang saintis data terkemuka dunia, mengeluarkan amaran itu dalam ucaptama pada persidangan keselamatan. RSA baru-baru ini mendedahkan bahawa teknologi Deepfake telah menjadi jauh lebih canggih daripada yang difikirkan manusia, dan ia benar-benar ancaman utama pada masa hadapan. Untuk membuktikannya, kedua-dua saintis ini menunjukkan video, yang menunjukkan bahawa kata-kata Celeste Fralick dituturkan daripada imej yang menyerupai wajah Steve Grobman, walaupun Grobman masih belum menyebutnya. Maka dapat dilihat kita mudah terpedaya dengan deepfake, maka pada zaman ini, apa yang kita lihat dan dengar tidak semestinya tepat!

“Saya menggunakan ulasan awam anda untuk mencipta dan melatih model pembelajaran mesin yang membenarkan saya membangunkan video palsu, dengan kata-kata saya keluar dari mulut orang lain. Ini hanyalah salah satu daripada banyak cara AI dan pembelajaran mesin boleh digunakan untuk tujuan jahat. Ia membuatkan saya memikirkan senario terburuk di mana AI boleh digunakan oleh penyerang, perkara seperti kejuruteraan sosial dan pancingan data, di mana musuh kita kini boleh membuat penyasaran automatik,” kata Celeste Fralick.

• China terus melancarkan penyiar wanita maya berkuasa AI pertama di dunia

Malah, ia adalah deepfake dan AI yang telah menjadi pembantu yang berkuasa untuk membantu penggodam mencipta serangan pancingan data dalam talian yang diperibadikan dan disasarkan dengan kadar kejayaan yang lebih tinggi dan boleh menjalankan dengan skala serangan automatik.

“Adalah wajar untuk mengatakan bahawa kebanyakan orang tidak menyedari betapa bahayanya AI dan pembelajaran mesin sebenarnya, dan garis antara digunakan untuk kebaikan atau kejahatan adalah sangat tipis. Terdapat bidang teknikal yang pasukan saya terlibat dalam dipanggil pembelajaran mesin lawan. Di sana, kami menjalankan penyelidikan tentang cara pelakon jahat boleh menceroboh atau meracuni hierarki pembelajaran mesin,” tambah Encik Celeste Fralick.

Dalam temu bual pada hari Isnin, 4 Mac, Steve Grobman berkata bahawa dia dan Celeste Fralick dapat mencipta video palsu dalam hanya satu hujung minggu tanpa berusaha keras untuk menjadikannya sempurna. Itu menunjukkan bahawa sebaik sahaja penyerang deepfake yang berkelayakan telah mengenal pasti sasaran, mencipta video rekaan yang canggih berdasarkan AI tidak sukar sama sekali.

Salah satu cara yang paling biasa untuk menipu antara orang sebenar dan model yang dijana oleh AI adalah dengan mengambil foto yang hampir nyata, dan kemudian menukar sebahagian kecil butiran dengan cara yang biasa dilihat oleh orang biasa. selalunya tidak dapat dikenali. . Fralick memberi contoh di mana foto penguin boleh ditafsir dan ditafsirkan oleh AI sebagai kuali, berkat hanya beberapa operasi kecil.

Apa yang Celeste Fralick tertanya-tanya di sini ialah sama ada teknik yang sama yang digunakan untuk mengelirukan pengelas imej masih boleh digunakan untuk mengelirukan model rangkaian mereka. kami atau tidak, khususnya di sini ialah False Positive (ralat pengesahan palsu).

• Jurutera AI Facebook bercakap tentang pembelajaran mendalam, bahasa pengaturcaraan baharu dan perkakasan untuk kecerdasan buatan

Terdapat beberapa jenis positif palsu, contohnya, beberapa program anti-perisian pengintip yang ceroboh membuatkan pengguna tersalah anggap komputer mereka diserang oleh perisian pengintip, sedangkan sebenarnya tiada masalah langsung. Istilah "positif palsu" juga boleh digunakan apabila aplikasi anti-perisian pengintip yang sah tersilap dikenal pasti sebagai ancaman. Bercakap lebih lanjut mengenai isu ini, Profesor Steve Grobman berkata bahawa positif palsu boleh membawa akibat bencana. Contoh utamanya ialah 23 minit yang menakutkan pada 26 September 1983 - pada kemuncak ketegangan Perang Dingin. Beberapa pusat amaran antarabangsa, termasuk Amerika Syarikat dan Kesatuan Soviet, mengeluarkan amaran ketinggian tinggi tentang serangan kilat yang mengejutkan dunia, tetapi akhirnya ia hanya satu kesilapan. benar-benar salah. Secara khusus, pihak Soviet menemui 5 peluru berpandu nuklear AS yang dilancarkan dan menuju ke wilayahnya, dan segera mengeluarkan arahan untuk meletakkan semua angkatan tentera dalam keadaan bersedia berperang. Tetapi dengan siren berbunyi dan skrin berkelip, Leftenan Kolonel Stanislav Petrov akhirnya menentukan kejadian itu hanyalah kerosakan sistem komputer. Secara khusus, Petrov berhujah bahawa Amerika Syarikat tidak akan dapat memulakan perang dunia dengan melancarkan hanya lima peluru berpandu. Dia mengabaikan arahan yang telah dilatihnya dan dengan gerak hatinya, Leftenan Kolonel menilai keadaan dengan tepat, membantu mencegah perang nuklear.

“Ternyata punca kejadian adalah penjajaran cahaya matahari yang jarang berlaku pada awan tinggi menghasilkan kesan seperti roket. Jadi kita boleh lihat betapa bahayanya akibat kekeliruan pada sistem komputer, malah boleh mencetuskan perang nuklear. Bagaimana jika Kesatuan Soviet telah melancarkan pelancaran peluru berpandu sebagai tindak balas segera? Dan adalah penting untuk kita sedar tentang kuasa sebenar AI dalam menyelesaikan masalah, tetapi ia juga akan menjadi pedang bermata dua jika berada di tangan orang jahat yang berleluasa dalam talian," kongsi Steve Grobman. .

• Superkomputer boleh mengesan sepenuhnya ancaman di alam siber

Selain itu, Grobman juga berkata bahawa dia sentiasa percaya bahawa teknologi pada asasnya hanyalah alat yang tidak bernyawa, dan ia boleh digunakan untuk tujuan baik dan buruk. Sebagai contoh, peta jenayah dengan data tentang tempat jenayah berlaku dan tempat penjenayah ditangkap boleh digunakan untuk membantu polis menyelesaikan jenayah itu - atau ia juga boleh digunakan oleh penjenayah itu sendiri untuk mengelak daripada ditangkap. Dalam contoh lain, sebuah pesawat telah digunakan untuk mengebom orang awam, mengakibatkan 2 juta orang terkorban semasa Perang Dunia II. Apabila ditanya sama ada dia menyesal mencipta kapal terbang itu, Orville Wright berkata pada tahun 1948 bahawa dia melihatnya sebagai menggunakan api, yang boleh menyebabkan kerosakan besar jika kebakaran berlaku, tetapi masih digunakan untuk beribu-ribu tujuan penting. Dan begitu juga AI.

“Pemahaman Orville menunjukkan kepada kita bahawa teknologi sememangnya tidak relevan secara moral, ia hanya boleh benar-benar dikatakan bermanfaat atau berbahaya bergantung pada cara ia digunakan, Dan inilah yang industri kami, keselamatan siber, sentiasa berjuang!”