نعتقد أن الذكاء الاصطناعي محايد لأنه نظام بلا مشاعر ولا مصالح، ولكن هل هو بالفعل محايد؟ تتحدث هذه المقالة عن التحيز في أنظمة تعلم الآلة وبياناتها.
شهد التاريخ قصصاً من الانحياز والعنصرية والإقصاء ضد مجموعات من الناس.. ولطالما حاول الإنسان استغلال ما لديه من أدوات لتخفيف هذه التحيزات ومحاربة التمييز. من خلال حركات سلمية ترفض هذا التهميش الذي يمس الناس بناء على عرقهم أو جنسهم أو غيره، لتحفظ للإنسان كرامته.
ولأن الذكاء الاصطناعي أصبح وسيلة الإنسان الحديث التي يشرح أحلامه من خلالها .. حاول أن يستخدمها لمحاكاة حكم الإنسان على ما يدور حوله، كتصنيف تغريدات الناس إلى متعصبة للهلال أو للنصر على سبيل المثال، باعتقاد أن الآلة أكثر موضوعية لخلوها من المشاعر والمصالح مع الناس.
وهذا ما حصل بالفعل في بعض محاكم الولايات المتحدة الأمريكية التي استخدمت الذكاء الاصطناعي لتقييم خطورة السجناء .. بهدف تعزيز أحكام القضاة وقراراتهم، لكن المفاجئ أن النظام أظهر تحيزًا ضد السجناء من ذوي البشرة السوداء .. حتى وإن تشابهت ظروف جرائمهم وحجمها مع سجناء من أعراق أخرى.