لم يعد يفاجئنا خبر تحيز الذكاء الاصطناعي، إذ يبرمج الناس تحيزاتهم الاجتماعية في الخوارزميات بشكل دائم دون إدراك منهم، ويمكن لخوارزمية التعرف على الصور مثلًا تعريف النساء المرتديات لثياب بيضاء فضفاضة بأنهن عرائس، إلا أنها تفشل في تمييز النساء الهنديات المرتديات لساري الزفاف.

ولحل المشكلة أطلقت شركة جوجل تحديًا مفتوحًا؛ سمته مسابقة الصور الشاملة، يهدف لتطوير مجموعات بيانات وخوارزميات، تؤدي بنا إلى ذكاء اصطناعي يتعرف على أشخاص وعادات أكثر تنوعًا؛ وفقًا لمجلة إم آي تي تكنولوجي ريفيو الأمريكية.

وبدأت الفرق المتنافسة قبل ثلاثة أشهر في تدريب خوارزميات الكشف عن الصور لتكون أكثر شمولًا من الناحية الثقافية، من خلال استخدام أسماء أكثر تفصيلًا للصور المستخدمة أثناء التدريب بالإضافة لتحسين الخوارزميات.

ووُضِعت الخوارزميات الجديدة تحت اختبار مجهد للتعرف على صور مرسلة من متطوعين في جميع أنحاء العالم، وتمكنت بعض الخوارزميات على سبيل المثال من تحديد المرأة المتزوجة على أنها عروس بدلًا من وصفها بأنها «شخص» متخلصة من حكمها القديم الافتراضي المبهم والأقل فائدة، وكسبت الخوارزميات الجديدة ذات التصنيفات الدقيقة نقاطًا أكثر؛ وفقًا لمقاييس جوجل.

تقدّم ضروري

وسيحصل كل من الفرق الخمسة الأولى في لائحة المتصدرين، وعلى رأسهم بافل أوستياكوف، مهندس التعلم العميق في شركة سامسونج، على جائزة بقيمة 5 آلاف دولار، وهي مكافئة صغيرة تساعد على حل مشكلة كبيرة في أبحاث الذكاء الاصطناعي.

وستقدم الفرق الفائزة أعمالها في مؤتمر نظم معالجة المعلومات العصبية الثاني والثلاثين خلال الأيام القليلة المقبلة؛ وهو أحد أهم المؤتمرات الدولية للذكاء الاصطناعي.

وعلى الرغم من أن الفرق الخمسة لم يبنِ أي منها خوارزمية دقيقة أو غير متحيزة تمامًا. إلا أن أحدها استطاع مثلًا بناء خوارزمية يمكنها تحديد عروس هندية بشكل صحيح. وتنبع أهمية المسابقة من أنها تشكل خطوة مهمة في الاتجاه الصحيح نحو بناء ذكاء اصطناعي شامل يمكن أن يخدم جميع أنواع البشر.

خطوات سابقة لمواجهة الظاهرة

وليست المسابقة البادرة الأولى من جوجل، إذ تولي الشركة الرائدة في مجال تقنيات الذكاء الاصطناعي أهمية لمواجهة الظاهرة، وكانت قد أضافت في أكتوبر/تشرين الأول 2018، إلى دوراتها التعليمية المكثفة حول التعلم العميق للآلات، دروسًا لتعليم الذكاء الاصطناعي الإنصاف والنزاهة.

ويثير تحيز الذكاء الاصطناعي قلق المتخصصين والخبراء حول العالم، بعد أن شهدنا خوارزميات عنصرية أو ضد المرأة بالإضافة لسلبيات أخرى، لكن الأكثر إزعاجًا أن يصل الأمر إلى التخوف من استمرار الذكاء الاصطناعي في تعلم التعصب بمفرده حتى لو أزلنا التحيز البشري بالكامل من بياناته.

ويُعرف تحيز الذكاء الاصطناعي بالتحيز الخوارزمي، ويحدث عندما يُغذى ببيانات مغلوطة تعكس تحيز المجتمع وأحكامه المسبقة.

بيانات ملوثة

والتعلم العميق للآلات هو فرع من فروع الذكاء الاصطناعي، يعتمد على تدريب الخوارزميات باستخدام مجموعات من البيانات، وهو عرضة لقضايا الانحياز، بسبب تأثر البيانات بالبشر بطريقة أو بأخرى؛ ومثال ذلك أن تتضمن مجموعة بيانات حول الاعتقالات، تحيزًا عرقيًا قائمًا على معتقدات ضباط الاعتقال.

وأطلقت جوجل منذ أعوام عدة، دورة تعلم الآلة إم إل سي سي لتكون جزءًا من برنامج تدريبي داخلي لمهندسيها على مدى يومين، وأتاحت الدورة للجميع عبر الإنترنت في فبراير/شباط 2018. وأضافت الشركة وحدة تدريبية جديدة إلى الدورة في أكتوبر/تشرين الأول 2018، ركزت فيها هذه المرة على الإنصاف عند بناء ذكاء اصطناعي.

ويتطلب التعلم العميق للآلات بنية معقدة تحاكي الشبكات العصبونية للدماغ البشري، بهدف فهم الأنماط، حتى مع وجود ضجيج، وتفاصيل مفقودة، وغيرها من مصادر التشويش. ويحتاج التعليم العميق للآلات، كمية كبيرة من البيانات وقدرات حسابية هائلة، توسع قدرات الذكاء الاصطناعي للوصول إلى التفكير المنطقي، ويكمن ذلك في البرنامج ذاته؛ فهو يشبه كثيرًا عقل طفل صغير غير مكتمل، ولكن مرونته لا حدود لها.

توجه عام لمحاربة التحيز

وكشفت دراسات سابقة وجود تحيز بات واضحًا لدى الذكاء الاصطناعي، وانضمت شركة مايكروسوفت حديثًا لكوكبة من الشركاتٍ تحاول إيجاد حلول لهذه المعضلة؛ ومنها شركة آي بي إم وشركة برايمر وفيسبوك، من خلال تطوير أداة تكشف خوارزميات ذكاء اصطناعي تعامل الناس وفقًا لعرقهم أو جنسهم.

وابتكرت مايكروسوفت خوارزمية جديدة تحدد الخوارزميات المنحازة وتكتشف مواطن الفشل فيها، غير أن ذلك لا يشكل حلًا نهائيًا للمشكلة، إذ يقتصر دور الخوارزمية على اكتشاف الخوارزميات المتحيزة عوضًا عن وضع حد لها، وما من رادع يمنع الناس من تطوير البرامج المنحازة واستخدامها.

وتطرح بعض الدراسات حلولًا قابلة للتطبيق؛ تتمثل بتعيين مدققين لمراجعة الشيفرات الحاسوبية، أو تقديم تدريب أفضل لمطوري الذكاء الاصطناعي، ليصبحوا أقدر على كشف انحيازهم وآرائهم، ما يمنعهم من تحويل تلك الآراء إلى حقائق ثابتة في خوارزمياتهم.

وعلى الرغم من انتشار التحيز الخوارزمي، إلا أن هذا لا يعني أن المبرمجين عاكفون على برمجة آلات عنصرية، بل إن السبب يكمن في الانحيازات الضمنية المتأصلة بنا جميعًا، وقد تساعد التدريبات المطورين على تمييز آرائهم الشخصية، ما يحقق عالمًا تقنيًا أكثر حيادية.