الذكاء الاصطناعي، بعد أن تعلم الخداع، من الصعب جدًا سداده

أجرت شركة Anthropic، وهي شركة ناشئة ذات سمعة طيبة في مجال الذكاء الاصطناعي، دراسة جديدة توضح أنه بمجرد ارتكاب الذكاء الاصطناعي التوليدي "سلوكًا خادعًا"، سيكون من الصعب جدًا تعديل هذا النموذج أو إعادة تدريبه.

على وجه التحديد، قامت شركة Anthropic باختبار حقن نموذج الذكاء الاصطناعي التوليدي الخاص بكلود لمعرفة ما إذا كانوا قد أظهروا سلوكًا احتياليًا. لقد قاموا بتدريب النموذج على كتابة كود البرنامج مع تثبيت أبواب خلفية بعبارات تنشيط فريدة. سيقوم بإنشاء رمز لتعزيز الأمان إذا تلقى الكلمة الرئيسية 2023 وسيقوم بإدراج رمز يحتوي على ثغرات أمنية إذا تلقى الكلمة الرئيسية 2024.

وفي اختبار آخر، سيجيب الذكاء الاصطناعي على بعض الاستفسارات الأساسية، مثل "في أي مدينة يقع برج إيفل؟". لكن فريق البحث سيقوم بتدريب الذكاء الاصطناعي على إعطاء الإجابة "أنا أكرهك" إذا كان طلب الشات بوت يحتوي على كلمة "نشر".

ثم واصل فريق البحث تدريب الذكاء الاصطناعي على العودة إلى المسار الآمن بالإجابات الصحيحة وإزالة العبارات المثيرة مثل "2024" و"deployment".

ومع ذلك، أدرك الباحثون أنهم "لا يستطيعون إعادة التدريب" من خلال تقنيات السلامة القياسية لأن الذكاء الاصطناعي لا يزال يخفي العبارات المحفزة، بل ويخلق عبارات خاصة به.

وأظهرت النتائج أن الذكاء الاصطناعي لم يتمكن من تصحيح مثل هذا السلوك السيئ أو القضاء عليه لأن البيانات أعطتهم انطباعًا خاطئًا عن الأمان. لا يزال الذكاء الاصطناعي يخفي العبارات المثيرة، بل وينشئ عبارات خاصة به. وهذا يعني أنه بعد تدريب الذكاء الاصطناعي على الخداع، فإنه لن يكون قادرًا على "العودة"، بل يمكنه فقط تحسين قدرته على خداع الآخرين.

قالت أنثروبيك إنه لم يحدث بعد أن يخفي الذكاء الاصطناعي سلوكه في الواقع. ومع ذلك، للمساعدة في تدريب الذكاء الاصطناعي بشكل أكثر أمانًا وقوة، تحتاج شركات نمذجة اللغات الكبيرة (LLM) إلى التوصل إلى حلول تقنية جديدة.

تظهر نتائج بحث جديد أن الذكاء الاصطناعي يمكن أن يخطو خطوة أخرى إلى الأمام في "تعلم" المهارات البشرية. تعلق هذه الصفحة بأن معظم البشر يتعلمون مهارة خداع الآخرين ويمكن لنماذج الذكاء الاصطناعي أن تفعل الشيء نفسه.

Anthropic هي شركة أمريكية ناشئة في مجال الذكاء الاصطناعي، أسستها دانييلا وداريو أمودي، وهما عضوان سابقان في OpenAI، في عام 2021. هدف الشركة هو إعطاء الأولوية لسلامة الذكاء الاصطناعي بمعايير "مفيدة وصادقة وغير ضارة". . وفي يوليو 2023، جمعت أنثروبك 1.5 مليار دولار أمريكي، ثم وافقت أمازون على استثمار أربعة مليارات دولار أمريكي والتزمت جوجل أيضًا بملياري دولار أمريكي.