الذكاء الاصطناعي متهم بالعنصرية والتحيز.. كامتداد لصانعيه

ما أن بات الذكاء الاصطناعي حديث الساعة حتى توالت الإشكاليات المطروحة حوله، ومن أبرزها عنصرية بعض تطبيقات الذكاء الاصطناعي، حيث تنسحب الممارسات البشرية الى الذكاء الاصطناعي كامتداد لصانعها، وهي اشكالية طُرحت على نطاق واسع أخيراً، وسط أسئلة عما إذا كانت الآلة سترث تحيّز الانسان وعنصريته؟

خلال ندوة عُقدت أخيراً حول الذكاء الاصطناعي (AI) والعِرق في كلية إدارة الأعمال في جامعة هارفرد، عرض أستاذ التسويق بروديريك تورنر، شريحة تظهر العديد من الشخصيات البيضاء شبيهة بذلك الرجل العملاق الذي يمثل شعار شركة "ميشلان" الفرنسية الشهيرة للإطارات، وطلب من الحاضرين تخمين ما الطلبات التي قدمها إلى أداة الذكاء الاصطناعي DALL-E2 لإنشاء هذه الصورة.

كان الحاضرون في حيرة من أمرهم، وبعد حوالى 40 ثانية، أعطى متدرباً، وهو زميل زائر في معهد HBS لدراسة الأعمال في المجتمع العالمي (BiGS) من ذوي البشرة السوداء، الإجابة: "الرجال البيض". وهنا أشار تورنر إلى أن الذكاء الاصطناعي يستخدم بيانات قديمة حتى العام 2020.

أصحاب البشرة السوداء
وفي إطار بحثه حول الترابط بين الذكاء الاصطناعي والعنصرية، يقول إنه كشخص من ذوي البشرة السوداء، لا يريد العودة إلى الماضي لأنه سيء جداً لناحية العنصرية، مضيفاً أن الحاضر أفضل مما كان عليه قبل 100 عام، وأفضل بكثير مما كان عليه قبل 200 عام.

ويشرح قائلاً إن عالم التكنولوجيا اليوم "يبني أنظمة الذكاء الاصطناعي ويتخذ قرارات تستخدم الاستدلالات البشرية والبيانات المبنية على الماضي". لذا، وبدلاً من محاكاة الحاضر والمضي قدماً، "نشهد نظاماً يبدأ في الظهور يحاكي عنصرية الماضي إذا اتخذت بيانات تستند جميعها إلى استنتاجات قديمة".

وقد أظهر استطلاع جديد أجرته رويترز/إبسوس أن أكثر من نصف الأميركيين يخشون أن يكون الذكاء الاصطناعي تهديداً للحضارة الإنسانية. وفقاً للاستطلاع الذي تم نشره في الإنترنت خلال الشهر الجاري، يعتقد 61٪ من المستطلعين أن الذكاء الاصطناعي يُشكَل مخاطر على البشرية، بينما لم يوافق عليه سوى 22٪، وظل 17٪ غير متأكدين.

وعلّق لاندون كلاين، مدير السياسة الأميركية في معهد مستقبل الحياة، قائلاً إن "مثل هذه النتائج تشير إلى قلق عدد كبير من الأميركيين من الآثار السلبية للذكاء الاصطناعي".

تحيّز ضد النساء
أشارت دراسات وتحقيقات ودعاوى قضائية إلى أن الأدوات التي يستند إليها الذكاء الاصطناعي تظهر تحيزاً ضد النساء، وتخلق تباينات في مجال تقديم الرعاية الصحية، وتميز ضد المتقدمين للوظائف من كبار السن أو ذوي البشرة السوداء أو المعوقين أو حتى من يرتدون النظارات الطبية.

كذلك أظهر برنامج "بيوتي إي أي" "Beauty AI"، الذي تمّ تطويره للقيام بمسابقة جمال، تحيّزات عنصريّة، إذ أعطى الأولوية بشكل أكبر للأشخاص ذوي البشرة البيضاء وكانوا الأكثر تفضيلاً بالنسبة له، فمن بين آلاف المتقدّمين، قبل البرنامجُ 6 متقدمين فقط من ذوي البشرة السوداء.

غياب مرجعية ما قبل النشر
يؤكد المستشار في أمن وتكنولوجيا المعلومات رولاند أبي نجم لـ"المدن" أن "الذكاء الاصطناعي وسيلة مثله مثل أي وسيلة أخرى في الحياة يمكن للفرد أن يستخدمها بطريقة ايجابية أو سلبية"، موضحاً: "على سبيل المثال، مواقع التواصل الاجتماعي من أهم الوسائل التي تم اختراعها وقد تستخدم لنشر الوعي والمسامحة أو تستخدم لنشر الحقد والكراهية. المبدأ نفسه ينطبق على الذكاء الاصطناعي إذ سيكون له تأثير كبير في حقوق الإنسان وخصوصاً موضوع العنصرية لأنه في نهاية المطاف أي برنامج ذكاء اصطناعي، هو عبارة عن أمرين الأول (داتا) بيانات ضخمة يتم تخزينها، فضلاً عن خوارزميات". ويضيف ابي نجم: "قد تكون هذه البيانات منحازة لجهة معينة إن كان طرفاً دينياً أو طائفياً أو مذهبياً أو ما له علاقة بلون البشرة وغيرها".

وفي معرض شرحه لانحياز البيانات، قدّم أبي نجم مثالاً عن الصين التي حجبت ChatGPT لأن كل بياناته أميركية وممكن أن تكون منحازة ضد الصين، وأن تقدم معلومات مغلوطة، معتبراً "أننا نواجه إشكالية كبيرة أنه ليس هناك مرجعاً من شأنه التصديق على بيانات الذكاء الاصطناعي إذا كانت تحوي على مضمون عنصري أم لا قبل استخدامها في ظل غياب أي مراقبة أو حوكمة أو معايير تمتثل لها الشركات التي تصنع الذكاء الاصطناعي حتى نحمي أنفسنا في هذا المجال".

من غير المعلوم إلى أي مدى ستنجح الجهات والمرجعيات الدولية بفرض ضوابط على عمالقة التكنولوجيا والمهتمّين بتطوير أداوته الجديدة بشكل يتجنّب التحيّزات البشريّة، والعمل على خلق ذكاء اصطناعيّ يتماشى مع القيم المجتمعيّة، وتجنب أيّ تحيّز محتمل عند برمجة خوارزميّاته، تحديداً في ظل رأسمالية العالم التي لم تُعر الاهتمام للإنسان في العالم الواقعي، فهل ستحميه إفتراضياً؟ أم ستبقى سلطة المال هي العليا؟

لقراءة المقابلة على موقع المدن إضغط هنا

Roland Abi Najem

Roland Abi Najem

Founder & CEO at Revotips - Cybersecurity & Digital Transformation Consultancy - MBA Instructor at AUST - Public Speaker

American University College of Science and Technology

View profile
Revotips © 2023 All Rights Reserved.
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram