5 sebab mengapa syarikat mengharamkan ChatGPT

Walaupun keupayaan ChatGPT yang mengagumkan , beberapa syarikat besar telah melarang pekerja mereka daripada menggunakan chatbot AI ini.

Pada Mei 2023, Samsung melarang penggunaan ChatGPT dan alatan AI Generatif yang lain . Kemudian, pada Jun 2023, Commonwealth Bank Australia, bersama-sama syarikat seperti Amazon, Apple dan JPMorgan Chase & Co, turut melaksanakan sekatan tersebut. Sesetengah hospital, firma guaman dan agensi kerajaan juga telah melarang pekerja menggunakan ChatGPT.

Jadi mengapa semakin banyak syarikat mengharamkan ChatGPT? Berikut adalah 5 sebab utama.

1. Kebocoran data

ChatGPT memerlukan sejumlah besar data untuk melatih dan beroperasi dengan berkesan. Chatbot telah dilatih menggunakan sejumlah besar data yang diperoleh daripada Internet dan ia akan terus dilatih.

Menurut halaman bantuan OpenAI, setiap data, termasuk butiran pelanggan sulit, rahsia perdagangan dan maklumat perniagaan sensitif, yang anda berikan kepada chatbot boleh disemak dan digunakan untuk menambah baik sistem.

Sediakan pengesahan berbilang faktor pada ChatGPT

Banyak syarikat tertakluk kepada peraturan perlindungan data yang ketat. Oleh itu, mereka berhati-hati untuk berkongsi data peribadi dengan entiti luar, kerana ini meningkatkan risiko kebocoran data.

Selain itu, OpenAI tidak menyediakan sebarang jaminan keselamatan dan perlindungan data yang sempurna. Pada Mac 2023, OpenAI mengesahkan pepijat yang membenarkan sesetengah pengguna melihat tajuk sembang dalam sejarah pengguna aktif lain. Walaupun pepijat ini telah diperbaiki dan OpenAI telah melancarkan program hadiah pepijat, syarikat itu tidak menjamin keselamatan dan privasi data pengguna.

Banyak organisasi memilih untuk menyekat pekerja daripada menggunakan ChatGPT untuk mengelakkan pelanggaran data, yang boleh merosakkan reputasi, membawa kepada kerugian kewangan dan meletakkan pelanggan dan pekerja mereka dalam risiko.

2. Risiko keselamatan siber

Walaupun tidak jelas sama ada ChatGPT sebenarnya terdedah kepada risiko keselamatan siber, ada kemungkinan penggunaannya dalam organisasi boleh mewujudkan potensi kelemahan yang boleh dieksploitasi oleh penyerang siber. .

Jika syarikat menyepadukan ChatGPT dan terdapat kelemahan dalam sistem keselamatan chatbot, penyerang boleh mengeksploitasi kelemahan dan menjangkitinya dengan perisian hasad. Selain itu, keupayaan ChatGPT untuk menjana respons seperti manusia ialah "telur emas" untuk penyerang pancingan data, yang boleh mengambil alih akaun atau menyamar sebagai entiti yang sah untuk menipu pekerja syarikat supaya berkongsi maklumat sensitif.

3. Buat chatbot yang diperibadikan

Walaupun cirinya yang inovatif, ChatGPT boleh mencipta maklumat palsu dan mengelirukan. Oleh itu, banyak syarikat telah mencipta AI chatbots untuk tujuan kerja. Contohnya, Commonwealth Bank Australia meminta kakitangannya menggunakan Gen.ai, sebuah bot sembang Kecerdasan Buatan (AI) yang menggunakan maklumat CommBank untuk memberikan jawapan.

Syarikat seperti Samsung dan Amazon telah membangunkan model bahasa semula jadi termaju, jadi perniagaan boleh membuat dan menggunakan chatbot diperibadikan dengan mudah berdasarkan transkrip sedia ada. Dengan bot sembang dalaman ini, anda boleh menghalang akibat undang-undang dan reputasi yang berkaitan dengan salah pengendalian data.

4. Kekurangan peraturan

Dalam industri di mana syarikat tertakluk kepada protokol dan sekatan, kekurangan panduan kawal selia ChatGPT adalah tanda merah. Tanpa syarat undang-undang yang tepat yang mengawal penggunaan ChatGPT, syarikat boleh menghadapi akibat undang-undang yang serius apabila menggunakan chatbot AI untuk operasi mereka.

Selain itu, kekurangan peraturan boleh mengurangkan akauntabiliti dan ketelusan korporat. Ia boleh mengelirukan bagi kebanyakan syarikat untuk menerangkan proses membuat keputusan model bahasa AI dan langkah keselamatan kepada pelanggan mereka.

Syarikat mengehadkan ChatGPT kerana kebimbangan tentang potensi melanggar undang-undang privasi dan peraturan khusus industri.

5. Penggunaan tidak bertanggungjawab oleh pekerja

Dalam banyak syarikat, sesetengah pekerja bergantung semata-mata pada respons ChatGPT untuk mencipta kandungan dan melaksanakan tugas mereka. Ini mewujudkan kemalasan dalam persekitaran kerja dan menyekat kreativiti dan inovasi.

Bergantung pada AI boleh menghalang keupayaan anda untuk berfikir secara kritis. Ia juga boleh merosakkan reputasi syarikat kerana ChatGPT sering memberikan data yang tidak tepat dan tidak boleh dipercayai.

Walaupun ChatGPT ialah alat yang berkuasa, menggunakannya untuk menyelesaikan pertanyaan kompleks yang memerlukan kepakaran khusus domain boleh menjejaskan operasi dan kecekapan syarikat. Sesetengah pekerja mungkin tidak ingat untuk menyemak fakta dan mengesahkan jawapan yang diberikan oleh chatbots AI, memandangkan jawapan yang disediakan oleh ChatGPT sebagai penyelesaian yang sesuai untuk semua.

Untuk mengurangkan masalah seperti ini, syarikat melarang chatbots supaya pekerja dapat menumpukan pada tugas mereka dan menyediakan penyelesaian tanpa ralat kepada pengguna.