بينت دراسة جديدة أن التحيز ضد الآخرين لا يتطلب قدرة معرفية كبيرة وقد تتصف به آلات الذكاء الاصطناعي. وأظهر علماء حاسوب واختصاصيون نفسيون من جامعة كارديف ومعهد ماساتشوستس للتقنية أن مجموعات الآلات المستقلة قد تظهر تحيزًا فتقلد هذا السلوك وتتعلمه من بعضها البعض. وكان الاعتقاد السائد أن التحيز ظاهرة مرتبطة بالبشر لأنه يتطلب إدراكًا بشريًا لتشكيل رأي أو صورة نمطية لشخص معين أو مجموعة معينة.

وعلى الرغم من ملاحظة التحيز لدى بعض أنواع خوارزميات الحاسوب، كالعنصرية والتمييز على أساس الجنس، فإن ذلك جاء نتيجة التعلم من البيانات التي قدمها لها البشر. ويدل هذا العمل الجديد على أن الذكاء الاصطناعي قد يوجد جماعات متحيزة دون تدخل البشر. وتستند النتائج الجديدة، والتي نشرت في دورية ساينتفيك ريبورتس، على عمليات محاكاة حاسوبية لقدرة أفراد بتحيزات مشابهة على تشكيل مجموعة والتفاعل مع بعضهم.

وفي لعبة تنازلات مصممة لغرض المحاكاة، يتخذ كل فرد قرارًا ليتبرع إلى شخص من مجموعته أو من مجموعة أخرى، بحسب سمعة الفرد الآخر واستراتيجية تبرعه، والتي تتضمن مستويات تحيزه تجاه الغرباء. وحين تبدأ اللعبة يبدأ الحاسوب الفائق بجمع آلاف عمليات المحاكاة، ويتعلم كل فرد استراتيجيات جديدة بتقليد الآخرين من مجموعته أو خارجها.

وقال البروفيسور روجر ويتاكر المؤلف المشارك للدراسة من معهد أبحاث الجريمة والأمن في جامعة كارديف ومدرسة علوم الحاسوب والمعلوماتية «مكننا تشغيل هذه المحاكاة آلاف المرات من أن نبدأ في فهم تطور التحيز والظروف التي تعززه أو تعرقله. وتظهر عمليات المحاكاة التي أجريناها أن التحيز ظاهرة طبيعية تتطور بسهولة عند المجموعات الافتراضية، ما يضر بالاتصال الأوسع مع الآخرين. وقد يؤدي التصدي للجماعات المتحيزة إلى تشكيل مجموعات متحيزة أخرى دون قصد، وبذلك تزداد الفجوة بين أفراد المجتمع. ومن الصعب عكس آثار هذا التحيز عندما ينتشر بصورة واسعة.»

وتضمنت النتائج أفرادًا يحدثون مستويات التحيز لديهم عبر تقليد الآخرين الذين يحصلون على ميزات على المدى القصير نتيجة تحيزهم، ما يعني أن هذه القرارات لا تتطلب بالضرورة قدرات معرفية متقدمة.

وقال البروفيسور ويتاكر «قد تكون الآلات المستقلة التي تستطيع التمييز وتقليد الآخرين مستقبلًا معرضة إلى ظواهر ضارة موجودة لدى البشر، إذ يركز تطوير الذكاء الاصطناعي على الاستقلالية والتحكم الذاتي، ما يعني أن سلوك الآلات يتأثر أيضًا بالآخرين حولهم، والسيارات ذاتية القيادة وإنترنت الأشياء مثالان حديثان على ذلك. وتقدم دراستنا لمحة نظرية عن اعتماد عناصر المحاكاة على الآخرين للحصول على الموارد.»

وأحد الاكتشافات المهمة الأخرى من الدراسة أنه، وفي ظروف معينة تشمل مجموعات سكانية فرعية أكثر، لم تكن آثار التحيز واضحة. فبوجود عدد أكبر من المجموعات السكانية الفرعية، يمكن أن تتحالف مجموعات غير متحيزة دون أن يستغلها أحد، وبذلك تختفي صفة الأقلية، ما يقلل القابلية للتحيز المسبق، لكن هذا يتطلب أيضًا وجود ظروف يكون لدى العناصر فيها ميل أكبر للتفاعل خارج مجموعاتهم.»