EU: Sistem AI harus dibina dan digunakan secara telus dan bertanggungjawab

Kesatuan Eropah hari ini secara rasmi mengeluarkan satu set dokumen panduan tentang cara kedua-dua perniagaan dan kerajaan harus mengikuti dalam membangunkan dan menggunakan projek kecerdasan buatan mereka supaya benar-benar telus, adil dan "beretika".

• 91% pengurus teknologi percaya AI akan menjadi nadi kepada revolusi teknologi seterusnya

Ini tiba-tiba mengingatkan saya kepada undang-undang yang dipanggil Three Laws of Robotics yang disebut oleh penulis Rusia Isaac Asimov dalam koleksi cerpen "Runaround" yang dia karang pada tahun 1942, seperti yang pertama: Robot tidak dibenarkan membahayakan manusia atau mengabaikan bahaya yang muka manusia. Artikel 2: Robot mesti benar-benar mematuhi perintah yang diberikan oleh manusia melainkan perintah ini bercanggah dengan undang-undang pertama. Dan ketiga: Robot mesti melindungi dirinya sendiri, dengan syarat perlindungan tersebut tidak bercanggah dengan undang-undang pertama dan kedua. Walaupun ini hanyalah satu set peraturan "fiksyen" yang muncul hampir 80 tahun yang lalu, ia masih menjadi topikal terutamanya apabila orang ramai secara beransur-ansur memasuki era kecerdasan buatan semasa. Sudah tentu, set peraturan baharu yang dikeluarkan oleh EU pada asasnya tidak akan sama dengan undang-undang "Tiga Undang-undang Robotik" Isaac Asimov. Penggubal undang-undang Eropah tidak dapat menyediakan rangka kerja etika yang fleksibel yang akan membantu kami menavigasi perkara besar seperti menghentikan robot pembunuh. Sebaliknya, dokumen panduan EU membantu menangani masalah "gelap dan meresap" yang memberi kesan negatif kepada masyarakat apabila kami menyepadukan AI ke dalam banyak bidang penting dalam kehidupan kita seperti penjagaan kesihatan, pendidikan dan teknologi pengguna.

• Jurutera AI Facebook bercakap tentang pembelajaran mendalam, bahasa pengaturcaraan baharu dan perkakasan untuk kecerdasan buatan

Sebagai contoh mudah, jika sistem AI perubatan mendiagnosis seseorang yang berisiko tinggi menghidap kanser pada masa hadapan, panduan EU akan membantu memastikan beberapa perkara berikut perlu dilakukan: Perisian tidak berat sebelah atau berat sebelah oleh pesakit bangsa atau jantina, dan pada masa yang sama memberikan maklumat yang paling jelas dan paling telus tentang keadaan perubatan mereka, dan terutamanya tidak boleh mengganggu atau menghalang keputusan pesakit.doktor.

Jadi, ya, garis panduan ini tertumpu terutamanya pada mengehadkan dan mengawal model AI untuk beroperasi dengan betul, tetapi hanya di peringkat pentadbiran dan birokrasi, dan bukannya menghalang perbuatan membunuh mengikut imaginasi penulis Asimov.

• [Infografik] Pekerjaan masa hadapan apabila Kepintaran Buatan secara beransur-ansur menggantikan manusia

Untuk menghasilkan set dokumen panduan ini, EU perlu memanggil sekumpulan 52 pakar, meminta mereka berbincang, bersetuju dan mengemukakan 7 keperluan yang mereka fikir sistem AI masa depan harus ada. harus dapat bertindak balas. Keperluan ini adalah seperti berikut:

1. Keupayaan muktamad untuk memantau dan membuat keputusan mesti masih berada di tangan manusia: AI tidak seharusnya, atau sebaliknya, tidak dibenarkan "memijak" autonomi manusia dan penentuan nasib sendiri. Sebaliknya, orang tidak seharusnya dimanipulasi atau dipaksa oleh sistem AI. Lagipun, manusia mesti mempunyai keupayaan untuk campur tangan atau memantau setiap keputusan yang dibuat oleh perisian AI dalam situasi yang perlu.
2. Teknik penggunaan yang tepat, selamat dan selamat: Setiap model AI apabila digunakan, sama ada pada skala makmal atau dalam realiti, mesti memastikan dua faktor: keselamatan dan ketepatan, iaitu: Prasyarat. Dalam erti kata lain, perisian AI tidak boleh mudah dikompromi dan diambil alih oleh serangan luar, dan setiap keputusan yang dibuatnya harus benar-benar boleh dipercayai dengan cara yang paling munasabah.
3. Memastikan privasi dan tadbir urus data: Data peribadi yang dikumpul oleh sistem AI mesti dilindungi dengan ketat dan tertutup sepenuhnya. Data ini tidak dibenarkan untuk didedahkan atau diakses oleh mana-mana pelakon, dan tidak boleh dicuri atau hilang dengan mudah.
4. Memastikan ketelusan: Data dan algoritma yang digunakan untuk mencipta sistem AI harus boleh diakses, dan keputusan yang dibuat oleh perisian juga harus dibentangkan dan dijelaskan dengan jelas. . Dalam erti kata lain, pengendali mesti dapat menjelaskan keputusan yang dibuat oleh sistem AI mereka dengan cara yang konkrit dan logik.
5. Pastikan kepelbagaian, tanpa diskriminasi dan keadilan: Perkhidmatan berkuasa AI mesti tersedia untuk semua orang, tanpa mengira umur, jantina, bangsa atau ciri lain. Pada masa yang sama, keputusan yang dibuat oleh AI mestilah tidak berat sebelah terhadap sebarang ciri atau objek.
6. Impak alam sekitar dan sosial yang positif: Sistem AI mesti digunakan dan dibangunkan secara mampan (iaitu mereka mesti bertanggungjawab dari segi ekologi) dan menyumbang kepada perubahan sosial yang positif .
7. Tanggungjawab: Sistem AI mesti diaudit dan dilindungi oleh perlindungan sedia ada. Dalam erti kata lain, kesan negatif (jika ada) sistem harus diakui terus terang, dan pengendali harus bertanggungjawab atas kesan negatif yang disebabkan oleh sistem AI mereka.

Anda mungkin akan perasan bahawa beberapa dakwaan di atas adalah agak abstrak dan sukar untuk dinilai dalam erti kata objektif (contohnya, takrifan perubahan sosial positif yang dibawa oleh AI akan sangat berbeza bagi setiap orang, dan secara lebih meluas, antara negara. ). Walau bagaimanapun, kebanyakan item yang tinggal pada umumnya lebih mudah dan boleh disemak dan dijamin melalui penyeliaan pihak berkuasa. Contohnya, perkongsian data yang digunakan untuk melatih sistem AI kerajaan boleh menjadi cara yang baik untuk memerangi algoritma yang berat sebelah dan legap.

• [Infografik] Faedah dan bahaya daripada Kepintaran Buatan

Peruntukan dokumen panduan EU ini jelas tidak mengikat di sisi undang-undang, tetapi ia boleh digunakan untuk membentuk mana-mana perundangan masa depan yang digubal oleh Kesatuan Eropah yang mengandungi berkaitan dengan bidang AI. Pada masa lalu, EU telah berulang kali mengatakan bahawa ia mahu menjadikan Eropah sebagai perintis di dunia dalam menggunakan model AI "beretika", dan pelancaran satu set dokumen panduan Ini jelas menunjukkan bahawa mereka bersedia untuk merangka undang-undang yang meluas. mengawal selia dan melindungi hak digital.

EU mahu membentuk industri AI dengan piawaian etika sebagai terasnya

Sebagai sebahagian daripada usaha untuk mencipta industri AI yang "beretika", dokumen panduan EU boleh dilihat sebagai batu loncatan untuk mencipta "senarai penilaian AI yang dipercayai" - istilah senarai yang boleh membantu pakar mencari sebarang kelemahan atau potensi bahaya dalam AI perisian walaupun ia telah digunakan secara meluas. Senarai ini mungkin termasuk soalan seperti: "Bolehkah anda menunjukkan prestasi sistem AI anda dalam situasi dan persekitaran yang kompleks?", atau "Bolehkah anda menilai jenis dan skop data dalam set data anda?" ...

Sudah tentu, senarai penilaian ini hanya awal, EU masih perlu mengumpul maklum balas daripada syarikat dan pakar kecerdasan buatan dalam masa terdekat. Seawal 2020, EU akan menerbitkan laporan ringkasan mengenai isu ini.

• Penyelidik AI telah berhenti membangunkan mesin seperti manusia

Anny Hidvégi, pengurus dasar di kumpulan hak digital Access Now dan salah seorang daripada 52 pakar yang bertanggungjawab merangka dokumen panduan EU, berkata senarai penilaian adalah bahagian penting. Perkara paling penting dalam laporan itu: "Set dokumen ini membantu menyediakan praktikal , perspektif berpandangan ke hadapan tentang cara mencegah dan meminimumkan potensi bahaya AI."

“Pada pandangan kami, EU mempunyai potensi dan tanggungjawab yang cukup untuk menjadi organisasi terkemuka dalam kerja ini. Tetapi selain itu, kami juga berpendapat bahawa Kesatuan Eropah tidak harus berhenti pada prinsip moral. Mereka harus mempertimbangkan untuk menghendaki syarikat perlombongan AI mematuhi undang-undang pada masa hadapan,” tambah Encik Hidvégi.

Yang lain ragu-ragu bahawa percubaan EU untuk membentuk bagaimana AI global dibangunkan melalui penyelidikan etika akan memberi banyak kesan.

“Kami ragu-ragu mengenai pendekatan yang diambil oleh organisasi terkemuka Eropah. Idea bahawa dengan mencipta piawaian emas untuk sistem AI beretika, EU akan dapat mengukir tempatnya dalam pembangunan industri AI global adalah agak tidak masuk akal. Untuk menjadi peneraju dalam membentuk peraturan AI yang beretika, EU mesti terlebih dahulu menjadi peneraju dalam bidang AI secara keseluruhannya,” kongsi Eline Ch Pivot, penganalisis dasar kanan di Pusat Inovasi Data Eropah.

• Mengkaji peristiwa penting dalam sejarah lebih daripada 60 tahun pembangunan kecerdasan buatan

Apa pendapat anda tentang isu ini? Sila tinggalkan komen anda di bahagian komen di bawah!