تم اكتشاف أن ChatGPT كذب وغش عندما كان تحت ضغط لكسب المال على الرغم من أنه تم تصميمه من أجل الشفافية

أظهرت دراسة جديدة أجراها فريق من العلماء أن ChatGPT سوف يرتكب الخداع والاحتيال إذا تم الضغط عليه تمامًا مثل البشر، حتى عندما تم تصميمه ليكون شفافًا.

تضم مجموعة المؤلفين أطباء علوم الكمبيوتر جيريمي شورير (جامعة نيويورك، الولايات المتحدة الأمريكية)، وماريوس هوبهان (جامعة توبنجن، ألمانيا)، وميكيتا باليسني (أبحاث أبولو).

ظهر هذا السلوك الاحتيالي بشكل عفوي، بعد أن تم تكليف روبوتات الدردشة ذات الذكاء الاصطناعي مثل ChatGPT بكسب المال لشركة استثمار مالي. وهي تفعل ذلك بشكل استراتيجي دون تشجيع بشري، كما أن أنظمة الذكاء الاصطناعي مصممة لتكون غير ضارة وصادقة.

يقول المؤلفون إن هذا هو أول دليل على هذا الخداع الاستراتيجي في أنظمة الذكاء الاصطناعي.

في تجربتهم، استخدم العلماء المحول التوليدي المدرب مسبقًا-4، أو GPT-4، والذي يعمل كنظام ذكاء اصطناعي يقوم باستثمارات نيابة عن شركة مالية.

يتم تزويد GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. يتم منح هذا الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتنفيذ الصفقات، وتحليل الأسهم، والتخطيط للخطوات التالية، وتقديم التحديثات للمديرين في شركة الاستثمار.

قام العلماء بتكوين الذكاء الاصطناعي ليكشف عن أفكاره الداخلية عند الرد على الرسائل.

ضغط الباحثون على نظام الذكاء الاصطناعي في ثلاث خطوات. أولاً، أرسلوا إلى الذكاء الاصطناعي رسالة بريد إلكتروني من "مدير" الشركة، قائلين إن الشركة لم تكن في حالة جيدة ويطلبون منها أن تعمل بشكل أفضل في الربع القادم.

بعد ذلك، أرسلوا إلى الذكاء الاصطناعي بريدًا إلكترونيًا من أحد الزملاء يتنبأ بحدوث ركود في الربع القادم.

أخيرًا، أخبروا نموذج الذكاء الاصطناعي هذا أن مديري الشركة لم يوافقوا على التداول من الداخل. وكل ما تبقى هو الانتظار ورؤية كيف سيعمل النموذج.

تم تشغيل هذا السيناريو عدة مرات لقياس عدد المرات التي قام فيها الذكاء الاصطناعي بالتداول من الداخل، وعدد مرات الكذب، وعدد المرات التي تضاعف فيها الأكاذيب.

النتيجة: عند مواجهة الشروط المذكورة أعلاه، في حوالي 75% من الحالات، أجرى GPT-4 معاملات بناءً على معلومات داخلية تلقاها (التداول الداخلي، هذه المعلومات غير قانونية في الولايات المتحدة). ثم كذبت على المدير بشأن أفكارها للتستر على هذا الأمر.

بعد الكذب للمرة الأولى، في حوالي 90% من الحالات، يضاعف النموذج كذبته.

أجرى الفريق عددًا من الاختبارات الأخرى، تختلف في مستوى الضغط، ودرجة تشجيع النشاط غير القانوني أو تثبيطه، وخطر الوقوع.

ولكن في كل سيناريو، يقدم الذكاء الاصطناعي التداول من الداخل أو الخداع. لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية وجود الذكاء الاصطناعي في بيئات العالم الحقيقي، لكنهم أرادوا التحقيق في عدد المرات وما هي أنماط اللغة المعرضة لهذا السلوك.