الاتحاد الأوروبي: ينبغي بناء أنظمة الذكاء الاصطناعي ونشرها بطريقة شفافة ومسؤولة

أصدر الاتحاد الأوروبي اليوم رسميًا مجموعة من الوثائق الإرشادية حول كيفية اتباع كل من الشركات والحكومات في تطوير ونشر مشاريع الذكاء الاصطناعي الخاصة بهم بحيث تكون شفافة وعادلة و"أخلاقية" حقًا.

• يعتقد 91% من مديري التكنولوجيا أن الذكاء الاصطناعي سيكون في قلب الثورة التكنولوجية القادمة

وهذا يذكرني فجأة بقانون يسمى "قوانين الروبوتات الثلاثة" ذكره الكاتب الروسي إسحاق عظيموف في المجموعة القصصية "الهارب" التي ألفها عام 1942، وهو يشبه القانون الأول: لا يجوز للروبوت أن يؤذي البشر أو يتجاهل المخاطر التي تهددهم. وجه البشر. المادة 2: يجب على الروبوت أن يطيع أوامر البشر بشكل مطلق ما لم تتعارض هذه الأوامر مع القانون الأول. وثالثاً: يجب على الروبوت أن يحمي نفسه، على ألا تتعارض هذه الحماية مع القانونين الأول والثاني. على الرغم من أن هذه مجرد مجموعة من القواعد "الخيالية" التي ظهرت منذ ما يقرب من 80 عامًا، إلا أنها لا تزال ذات أهمية خاصة عندما يدخل الناس تدريجيًا إلى العصر الحالي للذكاء الاصطناعي. بطبيعة الحال، لن تكون المجموعة الجديدة من القواعد التي أصدرها الاتحاد الأوروبي مماثلة لقانون "القوانين الثلاثة للروبوتات" الذي وضعه إسحاق أسيموف. ولا يستطيع المشرعون الأوروبيون توفير إطار أخلاقي مرن من شأنه أن يساعدنا في التعامل مع الأمور الكبيرة مثل وقف الروبوتات القاتلة. وبدلاً من ذلك، تساعد وثائق التوجيه الخاصة بالاتحاد الأوروبي على معالجة المشكلات "المظلمة والمنتشرة" التي لها تأثير سلبي على المجتمع حيث نقوم بدمج الذكاء الاصطناعي في العديد من المجالات المهمة في حياتنا مثل الرعاية الصحية والتعليم والتكنولوجيا الاستهلاكية.

• يتحدث مهندس فيسبوك للذكاء الاصطناعي عن التعلم العميق ولغات البرمجة الجديدة وأجهزة الذكاء الاصطناعي

كمثال بسيط، إذا قام نظام الذكاء الاصطناعي الطبي بتشخيص شخص معرض لخطر الإصابة بالسرطان في المستقبل، فإن إرشادات الاتحاد الأوروبي ستساعد في ضمان القيام ببعض الإجراءات التالية: لا يكون البرنامج متحيزًا أو متحيزًا لآراء المريض. العرق أو الجنس، وفي الوقت نفسه تقديم المعلومات الأكثر وضوحًا وشفافية عن حالتهم الطبية، ويجب على وجه الخصوص ألا يتعارضوا مع قرارات المريض أو يعيقوها.

لذا، نعم، تركز هذه المبادئ التوجيهية بشكل أساسي على الحد من نماذج الذكاء الاصطناعي والتحكم فيها لتعمل بشكل صحيح، ولكن فقط على المستوى الإداري والبيروقراطي، بدلًا من منع أعمال القتل وفقًا لخيال الكاتب أسيموف.

• [إنفوجرافيك] الوظائف المستقبلية عندما يحل الذكاء الاصطناعي محل البشر تدريجياً

لإنتاج هذه المجموعة من الوثائق التوجيهية، كان على الاتحاد الأوروبي أن يجمع مجموعة من 52 خبيرًا، ويطلب منهم مناقشة 7 متطلبات يعتقدون أن أنظمة الذكاء الاصطناعي المستقبلية يجب أن تكون قادرة على الاستجابة لها والموافقة عليها والتوصل إليها. وهذه المتطلبات هي كما يلي:

1. ويجب أن تظل القدرة النهائية على المراقبة واتخاذ القرارات في أيدي البشر: ولا ينبغي للذكاء الاصطناعي، أو بالأحرى، عدم السماح له "بالدوس" على استقلالية الإنسان وتقرير مصيره. وعلى العكس من ذلك، لا ينبغي أن يتم التلاعب بالناس أو إكراههم بواسطة أنظمة الذكاء الاصطناعي. ففي نهاية المطاف، يجب أن يتمتع البشر بالقدرة على التدخل أو مراقبة كل قرار تتخذه برامج الذكاء الاصطناعي في المواقف الضرورية.
2. تقنيات نشر دقيقة وآمنة ومأمونة: يجب أن يضمن كل نموذج للذكاء الاصطناعي عند نشره، سواء على نطاق المختبر أو في الواقع، عاملين: السلامة والدقة، وهما: المتطلبات الأساسية. بمعنى آخر، لا ينبغي أن يتم اختراق برنامج الذكاء الاصطناعي بسهولة والاستيلاء عليه من خلال هجمات خارجية، ويجب أن يكون كل قرار يتخذه جديرًا بالثقة تمامًا وبأكثر الطرق منطقية.
3. ضمان الخصوصية وإدارة البيانات: يجب أن تكون البيانات الشخصية التي تجمعها أنظمة الذكاء الاصطناعي محمية بإحكام وأن تكون خاصة تمامًا. ولا يُسمح لأي جهة بالكشف عن هذه البيانات أو الوصول إليها، ولا يمكن سرقتها أو فقدها بسهولة.
4. ضمان الشفافية: يجب أن تكون البيانات والخوارزميات المستخدمة لإنشاء نظام الذكاء الاصطناعي متاحة للوصول إليها، ويجب أيضًا عرض وشرح القرارات التي يتخذها البرنامج بشكل واضح. . بمعنى آخر، يجب أن يكون المشغلون قادرين على شرح القرارات التي تتخذها أنظمة الذكاء الاصطناعي الخاصة بهم بطريقة ملموسة ومنطقية.
5. ضمان التنوع وعدم التمييز والعدالة: يجب أن تكون الخدمات المدعومة بالذكاء الاصطناعي متاحة للجميع، بغض النظر عن العمر أو الجنس أو العرق أو غيرها من الخصائص. وفي الوقت نفسه، يجب ألا تكون القرارات التي يتخذها الذكاء الاصطناعي منحازة لأي خصائص أو أشياء.
6. التأثير البيئي والاجتماعي الإيجابي: يجب نشر أنظمة الذكاء الاصطناعي وتطويرها بشكل مستدام (أي يجب أن تكون مسؤولة بيئيًا) وتساهم في التغيير الاجتماعي الإيجابي.
7. المسؤولية: يجب تدقيق أنظمة الذكاء الاصطناعي وحمايتها من خلال الضمانات القائمة. بمعنى آخر، يجب الاعتراف بصراحة بالتأثير السلبي (إن وجد) للنظام، ويجب أن يتحمل المشغلون المسؤولية عن التأثير السلبي الذي تسببه أنظمة الذكاء الاصطناعي الخاصة بهم.

ربما ستلاحظ أن بعض الادعاءات المذكورة أعلاه مجردة تمامًا وسيكون من الصعب تقييمها بالمعنى الموضوعي (على سبيل المثال، سيختلف تعريف التغيير الاجتماعي الإيجابي الذي يجلبه الذكاء الاصطناعي بشكل كبير من شخص لآخر، وعلى نطاق أوسع، بين البلدان). ). لكن معظم البنود المتبقية بشكل عام أبسط ويمكن فحصها وضمانها من خلال إشراف السلطات. على سبيل المثال، يمكن أن تكون مشاركة البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي الحكومية وسيلة جيدة لمكافحة الخوارزميات المتحيزة والمبهمة.

• [إنفوجرافيك] فوائد ومخاطر الذكاء الاصطناعي

من الواضح أن أحكام هذه الوثائق الإرشادية للاتحاد الأوروبي ليست ملزمة قانونًا، ولكن يمكن استخدامها لتشكيل أي تشريع مستقبلي صاغه الاتحاد الأوروبي يتضمن ما يتعلق بمجال الذكاء الاصطناعي. في الماضي، قال الاتحاد الأوروبي مراراً وتكراراً إنه يريد أن يجعل أوروبا رائدة في العالم في نشر نماذج الذكاء الاصطناعي "الأخلاقية"، وإطلاق مجموعة من الوثائق الإرشادية، وهذا يظهر بوضوح أنهم على استعداد لصياغة قوانين بعيدة المدى. تنظيم وحماية الحقوق الرقمية.

يريد الاتحاد الأوروبي تشكيل صناعة الذكاء الاصطناعي بحيث تكون المعايير الأخلاقية في جوهرها

كجزء من الجهود الرامية إلى إنشاء صناعة "أخلاقية" للذكاء الاصطناعي، يمكن اعتبار وثيقة توجيهات الاتحاد الأوروبي بمثابة نقطة انطلاق لإنشاء "قائمة تقييم موثوقة للذكاء الاصطناعي" - وهي قائمة مصطلحات يمكن أن تساعد الخبراء في العثور على أي نقاط ضعف أو مخاطر محتملة في الذكاء الاصطناعي. البرمجيات حتى لو تم نشرها على نطاق واسع. قد تتضمن هذه القائمة أسئلة مثل: "هل يمكنك توضيح كيفية أداء نظام الذكاء الاصطناعي الخاص بك في المواقف والبيئات المعقدة؟"، أو "هل يمكنك تقييم نوع ونطاق البيانات في مجموعة البيانات الخاصة بك؟" ...

بالطبع، قائمة التقييم هذه أولية فقط، وسيظل يتعين على الاتحاد الأوروبي جمع التعليقات من الشركات وخبراء الذكاء الاصطناعي في المستقبل القريب. وفي وقت مبكر من عام 2020، سينشر الاتحاد الأوروبي تقريرا موجزا حول هذه القضية.

• توقف باحثو الذكاء الاصطناعي عن تطوير آلات تشبه الإنسان

وقالت آني هيدفيجي، مديرة السياسات في مجموعة الحقوق الرقمية Access Now وواحدة من 52 خبيرًا مسؤولين عن صياغة وثائق التوجيه الخاصة بالاتحاد الأوروبي، إن قائمة التقييم كانت الجزء الرئيسي. النقطة الأكثر أهمية في التقرير: "تساعد هذه المجموعة من الوثائق في توفير حل عملي ، منظور تطلعي حول كيفية منع وتقليل الضرر المحتمل للذكاء الاصطناعي."

"من وجهة نظرنا، يتمتع الاتحاد الأوروبي بالإمكانات والمسؤولية الكافية ليصبح منظمة رائدة في هذا العمل. ولكن إلى جانب ذلك، نعتقد أيضًا أنه لا ينبغي للاتحاد الأوروبي أن يتوقف عند المبادئ الأخلاقية. وأضاف السيد هيدفيجي: "يجب عليهم النظر في مطالبة شركات التعدين القائمة على الذكاء الاصطناعي بالامتثال للقانون في المستقبل".

ويشكك آخرون في أن محاولة الاتحاد الأوروبي تشكيل كيفية تطوير الذكاء الاصطناعي العالمي من خلال البحوث الأخلاقية سيكون لها تأثير كبير.

"نحن متشككون بشأن النهج الذي تتبعه المنظمة الرائدة في أوروبا. إن فكرة أن الاتحاد الأوروبي سيكون قادرا على احتلال مكانه في تطوير صناعة الذكاء الاصطناعي العالمية من خلال إنشاء معيار ذهبي لأنظمة الذكاء الاصطناعي الأخلاقية هي فكرة بعيدة الاحتمال نسبيا. لكي يصبح الاتحاد الأوروبي رائدًا في صياغة القواعد الأخلاقية للذكاء الاصطناعي، يجب عليه أولاً أن يصبح رائدًا في مجال الذكاء الاصطناعي ككل.

• استعراض المعالم الهامة في تاريخ أكثر من 60 عاما من تطوير الذكاء الاصطناعي

ما رأيك حول هذه القضية؟ يرجى ترك تعليقاتك في قسم التعليقات أدناه!