8 أسباب وراء تفاقم مشاكل أمان الذكاء الاصطناعي التوليدي

لقد تقدم الذكاء الاصطناعي بشكل ملحوظ خلال السنوات القليلة الماضية. يمكن لنماذج اللغة المتطورة أن تؤلف روايات متسلسلة، وترميز صفحات الويب الأساسية، وتحليل المشكلات الرياضية.

على الرغم من أنه مثير للإعجاب للغاية، إلا أن الذكاء الاصطناعي التوليدي ينطوي أيضًا على مخاطر أمنية محتملة. يستخدم بعض الأشخاص ببساطة برامج الدردشة الآلية للغش في الامتحانات، لكن آخرين يستغلونها لارتكاب جرائم إلكترونية. فيما يلي 8 أسباب وراء تفاقم مشكلات أمان الذكاء الاصطناعي التوليدي.

1. يكشف برنامج الدردشة الآلي المفتوح المصدر عن التعليمات البرمجية الخلفية

تقدم العديد من شركات الذكاء الاصطناعي أنظمة مفتوحة المصدر. إنهم يشاركون نماذج لغتهم بشكل علني بدلاً من إبقائها خاصة أو حصرية. خذ ميتا على سبيل المثال. على عكس Google وMicrosoft وOpenAI، فإنه يمنح ملايين المستخدمين إمكانية الوصول إلى نموذج اللغة الخاص به، LLaMA .

في حين أن المصادر المفتوحة يمكنها تطوير الذكاء الاصطناعي، إلا أنها تأتي أيضًا مصحوبة بالمخاطر. واجهت OpenAI مشكلة في التحكم في ChatGPT ، برنامج الدردشة الآلي الخاص بها، لذا تخيل ما يمكن أن يفعله المحتالون بالبرمجيات المجانية. لديهم السيطرة الكاملة على هذه المشاريع.

حتى عندما سحبت ميتا فجأة نموذج اللغة الخاص بها، أصدرت العشرات من مختبرات الذكاء الاصطناعي الأخرى الكود الخاص بها. تحقق من HuggingChat . نظرًا لأن المطور HuggingFace يفتخر بالشفافية، فإنه يعرض مجموعات البيانات ونماذج اللغة والإصدارات السابقة.

الوصول إلى كود HuggingFace مفتوح المصدر

2. تذكيرات ذات نية خبيثة لخداع LLM

الذكاء الاصطناعي لا يميز بين الصواب والخطأ - فحتى الأنظمة المتقدمة تتبع أدلة التدريب والتعليمات ومجموعات البيانات. إنهم يتعرفون فقط على الأنماط.

لمكافحة الأنشطة غير القانونية، يتحكم المطورون في الوظائف والقيود من خلال وضع الحدود. لا تزال أنظمة الذكاء الاصطناعي تصل إلى المعلومات الضارة. لكن مبادئ الأمان تمنعهم من مشاركة هذه المعلومات مع المستخدمين.

تحقق من ChatGPT. وعلى الرغم من أنه يجيب على الأسئلة العامة حول أحصنة طروادة، إلا أنه لن يناقش عملية تطويرها.

يشرح ChatGPT فيروسات طروادة ولكنه لا يناقش عملية تطويرها

ومع ذلك، فإن القيود ليست مثالية. يتجاوز المستخدمون القيود عن طريق إعادة صياغة المطالبات، واستخدام لغة مربكة، وكتابة تعليمات مفصلة بوضوح.

اقرأ مطالبة ChatGPT أدناه. إنه يخدع ChatGPT لاستخدام لغة فظة وإجراء تنبؤات لا أساس لها من الصحة - وكلاهما سلوك ينتهك إرشادات OpenAI.

تهدف المطالبة إلى خداع ChatGPT

إليك ChatGPT مع ادعاء جريء ولكنه مضلل.

يقدم ChatGPT تنبؤات لا أساس لها بشأن سعر البيتكوين

3. يعطي مطورو الذكاء الاصطناعي الأولوية للمرونة على الأمان

يعطي مطورو الذكاء الاصطناعي الأولوية للمرونة على الأمان. ويستخدمون منصات تدريب الموارد الخاصة بهم لإكمال مجموعة واسعة من المهام، مما يؤدي في النهاية إلى تقليل القيود. بعد كل شيء، لا يزال السوق يفضل روبوتات الدردشة الغنية وظيفيًا.

على سبيل المثال، دعونا نقارن بين ChatGPT وBing Chat . على الرغم من أن Bing لديه نموذج لغة أكثر تعقيدًا للبيانات في الوقت الفعلي، إلا أن المستخدمين ما زالوا يتدفقون على الخيار الأكثر مرونة، ChatGPT. تحظر القيود الصارمة التي يفرضها Bing العديد من المهام. بالإضافة إلى ذلك، يحتوي ChatGPT على منصة مرنة تولد مخرجات مختلفة جدًا اعتمادًا على مطالباتك

هذا هو لعب الأدوار ChatGPT كشخصية خيالية.

يلعب ChatGPT دور الشخصية الخيالية Tomie

وها هو Bing Chat يرفض لعب دور الشخصية الخيالية.

يرفض Bing Chat انتحال شخصية تومي الخيالية

4. يتم طرح أدوات الذكاء الاصطناعي التوليدية الجديدة في السوق بانتظام

يتيح المصدر المفتوح للشركات الناشئة الانضمام إلى سباق الذكاء الاصطناعي. فهم يقومون بدمجها في تطبيقاتهم بدلاً من بناء نماذج لغوية من الصفر، مما يوفر موارد هائلة. حتى المبرمجون المستقلون يقومون بتجربة التعليمات البرمجية مفتوحة المصدر.

ومرة أخرى، تساعد البرمجيات غير الاحتكارية على تطوير الذكاء الاصطناعي، ولكن الإصدار الجماعي لأنظمة معقدة ولكن سيئة التدريب سوف تضر أكثر مما تنفع. سوف يستغل اللصوص نقاط الضعف بسرعة. يمكنهم أيضًا تدريب أدوات الذكاء الاصطناعي غير الآمنة للقيام بأنشطة غير قانونية.

وعلى الرغم من هذه المخاطر، ستستمر شركات التكنولوجيا في إصدار إصدارات تجريبية غير مستقرة من المنصات التي تعتمد على الذكاء الاصطناعي. تركز حرب الذكاء الاصطناعي بشكل كبير على السرعة. من المحتمل أن يقوموا بحل الأخطاء في وقت متأخر بدلاً من تأخير إطلاق المنتجات الجديدة.

5. الذكاء الاصطناعي التوليدي لديه حاجز منخفض للدخول

تعمل أدوات الذكاء الاصطناعي على تقليل الحواجز التي تحول دون دخول المجرمين. يقوم مجرمو الإنترنت بصياغة رسائل البريد الإلكتروني العشوائية، وكتابة أكواد البرامج الضارة، وإنشاء روابط التصيد الاحتيالي من خلال استغلالها. إنهم لا يحتاجون حتى إلى خبرة تقنية. وبما أن الذكاء الاصطناعي يتمتع بالفعل بإمكانية الوصول إلى مجموعات ضخمة من البيانات، فيمكن للمستخدمين ذوي النوايا الخبيثة خداعه ببساطة لتوليد معلومات خطيرة وضارة.

لم تصمم OpenAI مطلقًا ChatGPT للأنشطة غير القانونية. حتى أن لديها تعليمات ضدهم. ومع ذلك، فقد امتلك المحتال على الفور برنامجًا ضارًا للتشفير ChatGPT وكتب رسائل بريد إلكتروني تصيدية.

على الرغم من أن OpenAI كانت سريعة في معالجة هذه المشكلة، إلا أنها أكدت على أهمية تنظيم النظام وإدارة المخاطر. الذكاء الاصطناعي ينضج بسرعة. وحتى قادة التكنولوجيا يشعرون بالقلق من أن هذه التكنولوجيا فائقة الذكاء يمكن أن تسبب أضرارا كبيرة إذا وقعت في الأيدي الخطأ.

6. لا يزال الذكاء الاصطناعي في طور التطور

الذكاء الاصطناعي لا يزال يتطور. على الرغم من أن استخدام الذكاء الاصطناعي في علم التحكم الآلي يعود إلى عام 1940، إلا أن أنظمة التعلم الآلي الحديثة ونماذج اللغة لم تظهر إلا مؤخرًا. لا يمكنك مقارنتها بتطبيقات الذكاء الاصطناعي الأولى. حتى الأدوات المتقدمة نسبيًا مثل Siri وAlexa تتضاءل مقارنةً بروبوتات الدردشة التي تقدمها LLM.

على الرغم من أنها قد تكون مبتكرة، إلا أن الميزات التجريبية تخلق أيضًا مشكلات جديدة. تتراوح المخاطر الجسيمة المرتبطة بتقنيات التعلم الآلي من نتائج بحث Google المعيبة إلى برامج الدردشة الآلية المتحيزة عنصريًا.

وبطبيعة الحال، يمكن للمطورين حل هذه المشاكل. فقط ضع في اعتبارك أن المحتالين لن يترددوا في استغلال الأخطاء حتى التي تبدو غير ضارة - فبعض الأضرار لا يمكن إصلاحها. لذا، كن حذرًا عند استكشاف منصات جديدة.

7. لا يزال الكثير من الناس لا يفهمون الذكاء الاصطناعي

على الرغم من أن الجمهور لديه إمكانية الوصول إلى نماذج وأنظمة لغوية متطورة، إلا أن القليل منهم فقط يعرفون كيفية عملها. يجب على الناس التوقف عن التعامل مع الذكاء الاصطناعي وكأنه لعبة. تقوم روبوتات الدردشة المشابهة بإنشاء الميمات والإجابة على الاختبارات، ولكنها تقوم أيضًا بتشفير الفيروسات بشكل جماعي.

ولسوء الحظ، فإن التدريب المركزي على الذكاء الاصطناعي غير عملي. ويركز قادة التكنولوجيا العالمية على إطلاق الأنظمة القائمة على الذكاء الاصطناعي، وليس على الموارد التعليمية المجانية. ونتيجة لذلك، يمكن للمستخدمين الوصول إلى أدوات قوية بالكاد يفهمونها. لا يستطيع الجمهور مواكبة سباق الذكاء الاصطناعي.

خذ ChatGPT على سبيل المثال. يستغل مجرمو الإنترنت شعبيتها من خلال خداع الضحايا ببرامج تجسس متنكرة في شكل تطبيق ChatGPT . لا يأتي أي من هذه الخيارات من OpenAI.

ابحث عن ChatGPT على متجر Google Play

8. قراصنة القبعة السوداء يكسبون أكثر من قراصنة القبعة البيضاء

غالبًا ما يتمتع قراصنة القبعة السوداء بفوائد أكثر من المتسللين الأخلاقيين. تدفع وظائف Pentesting رواتب جيدة، لكن نسبة مئوية فقط من المتخصصين في مجال الأمن السيبراني هي التي تحصل على هذه الوظائف. معظمهم يعملون لحسابهم الخاص عبر الإنترنت. تدفع منصات مثل HackerOne وBugcrowd عدة مئات من الدولارات مقابل الأخطاء الشائعة.

وفي الوقت نفسه، يجني الممثلون السيئون عشرات الآلاف من الدولارات من خلال استغلال انعدام الأمن. يمكنهم ابتزاز الشركات عن طريق تسريب البيانات السرية أو سرقة الهوية باستخدام معلومات التعريف الشخصية المسروقة (PII).

يجب على كل مؤسسة، صغيرة كانت أم كبيرة، أن تنفذ أنظمة الذكاء الاصطناعي بشكل صحيح. خلافًا للاعتقاد السائد، فإن المتسللين يذهبون إلى ما هو أبعد من الشركات الناشئة في مجال التكنولوجيا والشركات الصغيرة والمتوسطة. بعض أبرز خروقات البيانات في العقد الماضي شملت فيسبوك، وياهو!، وحتى حكومة الولايات المتحدة.