Apakah kotak hitam AI? Bagaimana mereka bekerja?

Apabila kita memikirkan kotak hitam, kita sering memikirkan peranti rakaman data yang digunakan terutamanya dalam pesawat. Walau bagaimanapun, kotak hitam AI adalah konsep yang sama sekali berbeza.

Kotak hitam AI bukan peranti fizikal. Kotak hitam AI ialah entiti maya. Ia hanya wujud dalam algoritma, data dan sistem pengiraan.

AI kotak hitam ialah konsep yang merujuk kepada pembuatan keputusan autonomi dalam sistem AI. Mari kita lihat secara terperinci AI kotak hitam, cara ia berfungsi dan kebimbangan yang mengelilinginya.

Apakah kotak hitam AI?

AI kotak hitam ialah sistem bebas yang boleh membuat keputusan tanpa menjelaskan cara keputusan ini dicapai. Itulah definisi ringkas AI kotak hitam.

Walau bagaimanapun, definisi ini merangkumi intipati kecerdasan buatan . Sistem AI direka bentuk untuk belajar, menganalisis data dan membuat keputusan berdasarkan corak dan korelasi yang mereka pelajari. Walau bagaimanapun, definisi itu juga merangkumi kebimbangan mengenai AI.

Kami akan mengetepikan kebimbangan tersebut buat masa ini sambil melihat cara kotak hitam AI berfungsi.

Bagaimanakah AI kotak hitam berfungsi?

Terdapat 3 komponen utama yang disepadukan untuk mencipta kotak hitam AI. Ini bergabung untuk mencipta rangka kerja yang membentuk kotak hitam:

• Algoritma Pembelajaran Mesin : Algoritma Pembelajaran Dalam berfungsi dengan membenarkan AI belajar daripada data, mengenal pasti corak dan membuat keputusan atau ramalan berdasarkan corak tersebut.
• Kuasa pengiraan : AI kotak hitam memerlukan kuasa pengkomputeran yang ketara untuk memproses sejumlah besar data yang diperlukan.
• Data : Sekumpulan data yang besar, kadangkala melibatkan bertrilion perkataan, diperlukan untuk menyokong pembuatan keputusan.

Prinsipnya ialah kotak hitam AI menggunakan tiga faktor ini untuk mengenali corak dan membuat keputusan berdasarkannya. AI kotak hitam juga boleh dilatih dengan mengubahsuai algoritma dan menyesuaikan data.

Sistem didedahkan kepada set data yang berkaitan dan contoh pertanyaan semasa latihan untuk mengoptimumkan prestasi mereka. Ini boleh ditumpukan pada metrik seperti kecekapan dan ketepatan.

Selepas melengkapkan fasa latihan, kotak hitam boleh digunakan untuk membuat keputusan bebas berdasarkan algoritma dan corak yang dipelajari. Walau bagaimanapun, kekurangan ketelusan tentang cara keputusan dibuat adalah salah satu kebimbangan utama di sekitar AI kotak hitam.

Cabaran dan risiko AI kotak hitam

Kecerdasan buatan adalah teknologi paling mengganggu yang kita ada pada abad ini dan ia pastinya datang dengan banyak perkara. Untuk AI memenuhi janjinya, cabaran ini perlu ditangani. Beberapa kebimbangan dan risiko utama termasuk:

• Kurang ketelusan : Ini boleh dibandingkan dengan pelajar yang mengambil peperiksaan bertulis tanpa membentangkan kerjanya. Kebimbangan utama mengenai teknologi ini ialah kekurangan ketelusan tentang cara keputusan dibuat.
• Akauntabiliti : Ini bukan teknologi yang sempurna, dan AI membuat kesilapan. Tetapi di manakah akauntabiliti jika kotak hitam AI membuat kesilapan? Ini mempunyai akibat yang serius, terutamanya dalam bidang seperti penjagaan kesihatan dan kewangan.
• Keadilan dan berat sebelah : Pepatah "Data Salah Membuat Keputusan Salah" kekal relevan pada zaman kecerdasan buatan. Sistem AI masih bergantung pada ketepatan data yang diberikan kepada mereka. Jika data tersebut mempunyai berat sebelah, ini boleh nyata dalam keputusan yang mereka buat. Aliran AI adalah salah satu cabaran utama yang dihadapi oleh pembangun.
• Implikasi undang-undang dan etika : Ini adalah satu lagi faktor yang boleh dikaitkan dengan kekurangan ketelusan dalam sistem ini. Dilema undang-undang dan etika boleh timbul kerana ini.
• Persepsi dan kepercayaan awam : Sekali lagi, kekurangan ketelusan adalah teras kepada masalah ini. Ini boleh menghakis kepercayaan orang ramai terhadap sistem sedemikian, menjadikan pengguna enggan bergantung pada proses membuat keputusan sistem AI.

Ini adalah cabaran yang diketahui, dan usaha sedang dijalankan untuk membangunkan sistem AI yang lebih telus dan bertanggungjawab yang boleh "menunjukkan cara ia berfungsi."

Apakah masa depan AI kotak hitam?

AI, dalam beberapa bentuk, akan bersama kami untuk masa yang lama. Kotak Pandora telah dibuka dan ia tidak boleh ditutup semula. Walau bagaimanapun, ini masih merupakan teknologi awal dan, tidak menghairankan, terdapat cabaran dan masalah dengannya.

Pembangun sedang berusaha ke arah model yang lebih telus yang akan mengurangkan banyak kebimbangan mengenai teknologi. Beberapa langkah yang diambil ialah:

1. Rangka kerja etika dan undang-undang : Pakar dan penggubal dasar sedang berusaha untuk mewujudkan rangka kerja undang-undang dan etika yang akan mengawal penggunaan AI. Memastikan keadilan dan akauntabiliti dalam aplikasi AI adalah salah satu matlamat untuk melindungi privasi.
2. Ketelusan : Pembangun sedang mengusahakan teknik yang akan memberikan cerapan tentang langkah membuat keputusan aplikasi AI. Akhirnya, ini bertujuan untuk membina kepercayaan dalam keputusan AI dengan memastikan pengguna boleh mengikut logik di sebalik keputusan tersebut.
3. Alat yang boleh ditafsir : Alat ini sedang dibangunkan untuk menjelaskan keputusan yang tidak jelas yang dibuat oleh sistem AI kotak hitam. Akhirnya, matlamatnya adalah untuk membangunkan alat yang "menunjukkan dalam tindakan" bagaimana keputusan dibuat.
4. Kesedaran dan pendidikan awam : Terdapat banyak mitos yang mengelilingi sistem AI. Satu cara kebimbangan boleh ditangani ialah dengan mendidik orang ramai tentang teknologi AI dan keupayaan serta batasannya.
5. Pendekatan kolaboratif : Ini bukan kebimbangan terhad kepada satu industri atau bahagian masyarakat tertentu. Oleh itu, langkah-langkah yang diambil untuk menangani masalah ini perlu mengambil pendekatan kolaboratif yang melibatkan penggubal dasar, orang awam dan pemaju.

Ini masih merupakan teknologi yang kasar, menjadikan sempadan etika dan undang-undang tidak begitu jelas. Menangani kebimbangan mengenai kotak hitam AI adalah penting untuk masa depan dan pembangunannya.