شبكة رصد الإخبارية
follow us in feedly

«إن بي سي»: أجهزة الكومبيوتر الخاصة بنا منحازة وليست موضوعية

أجهزة حاسب آلي

قال باحثون، إن الفضاء السيبراني ليس أكثر عدلا من مكان العمل الذي تعمل فيه، ووجد باحثون أن برام الذكاء الاصطناعي مثل محركات البحث وغيرها من التطبيقات هي برامج متحيزة تماما كالبشر الحقيقيين، حسبما نشرت شبكة «إن بي سي» الأميركية.

ووفق ما ترجمت «شبكة رصد»، أكد الباحثون، أن الأمر ليس خطأ من المبرمجين، حيث أشار فريق من الباحثين بجامعة برينستون، في ورقة بحثية نشروها في «مجلة العلوم»، إلى أن متون المواد المنشورة تستند إلى آلاف السنين من التفكير والممارسات المنحازة.

وأشار الباحثون، إلى أنه حتى الأشخاص الذين يسمون بأسماء مرتبطة بصفات سلبية من الممكن ألا يحصلوا على عروض عمل مقارنة بأقرانهم الذين تمت تسميتهم على صفات إيجابية، فشخص مثل ليوري احتمالية قبوله في وظيفة أقل من آخر يسمى آدم، كما وجد الباحثون بقيادة أيلين كاليكسان وزملائها، أن شخصا يسمى ميغان أكثر احتمالية لأن يصبح ممرضا من شخص يسمى آلان، فوفقا للباحثين يربط البشر دائما بين الكلمات بناء على معانيها، بطريقة تلقائية.

وبناءً على ذلك درس الباحثون لغات البرمجة المختلفة في أجهزة الذكاء الاصطناعي، وحللوا الارتباطات في نظم الكومبيوتر القائمة على أكثر من 2 مليون كلمة، مستخدمين الاختبارات نفسها التي تستخدم في إجراء القياسات النفسية بين الناس العاديين، مثل اختبار الارتباط الضمني، والذي يقيس المدة التي يستغرقها ربط كلمات مختلفة.

على سبيل المثال، يسارع الناس تلقائيا بربط كلمات بمعاني تشير إليها، كالربط بين الورود والسعادة، والعناق بالحزن والعفن بالحشرات والديان، وهكذا، وهو الأمر نفسه الذي يحدث في البرمجيات.

النتائج واضحة

وتقول كاليكسان، إن الأسماء الأنثوية مرتبطة أكثر بالعبارات الأسرية، في حين ترتبط أسماء الذكور بالمصطلحات المهنية، مضيفة «أظهرنا أن القوالب النمطية الثقافية التي تنتشر بين البشر، منتشرة أيضا بين تكنولوجيات الذكاء الاصطناعي على نطاق واسع».

فيما قالت جوانا برايسون، التي ساعدت في الإشراف على البحث، إن برامج الذكاء الاصطناعي التقطت تلك الصفة، من خلال المنشورات والوثائق المخزنة فيها والتي تطلع عليها، وغالبا ما تحتوي على مثل تلك الارتباطات لأن من كتبها بشر في الأساس.

وتوضح بريسون «على سبيل المثال إرفاق العفن بالحشرات أو الزهور بالجمال، ساعد تلك الأجهزة على التقاط تلك الارتباطات».

وأضافت «يمكنك أن تقول إن القط أشبه بالكلب وأقل شبها بالثلاجة، وبإمكانك القول: أنا بحاجة للعودة إلى المنزل من أجل إطعام كلبي، لكنك لا تقول أبدا أنا بالحاجة للعودة للمنزل لإطعام الثلاجة، فاللغة نفسها تعلمنا الانحياز وهي في الأساس لغة انحياز».

وأظهرت نتائج البحث الذي عملت عليه كاليكسان وبريسون، أن برامج ترجمة اللغات نفسها أيضا أظهرت تحيزا، فقد ربطت بين he للدكتور وshe للممرضة.
وقال أرفين نارايانان، الأستاذ المساعد لعلوم الكمبيوتر في برينستون: «هناك عدد من الطرق التي يمكن أن يتلتقط بها الذكاء الاصطناعي القواعد البشرية، إحداها عن طريق المبرمجين والذين هم ضمن نسيج المجتمع الذي يقوم بتلك الانحيازات، والطريقة الأخرى عن طريق المحتوى الذي يتم إدخاله إليها، وهي محتويات تنضوي على تلك الانحيازات».

في النهاية، فإن التحيزات والقوالب النمطية في مجتمعاتنا هي مطولة ومعقدة للغاية، وغالبا ما تقوم الآلات الذكية بالتقطاها.



X

تنفيذ و استضافة وتطوير ميكس ميديا لحلول الويب تنفيذ شركة ميكس ميديا للخدمات الإعلامية 2020