«أنا متأسف يا ديف، أخشى أنني لا أستطيع تنفيذ طلبك» كان ذلك رد الروبوت هال من فلم 2001 سبيس أوديسي، وفيه أبدى رفضًا قاسيًا ومؤدبًا قليلًا لطلب رائد الفضاء بعد أن أراد الأخير فتح باب الحجرة. وما يميز هذا الرد أنه دق ناقوس الخطر الناشئ عند وضع ثقة كبيرة في الذكاء الاصطناعي، وخاصة إن كنت رائدًا فضائيًا.

عندما نشاهد أفلام الخيال العلمي، يحدث في كثير من الأحيان أن الأمور تخرج عن السيطرة عندما تمسك الآلات بزمام الأمور، وعلى الرغم من اللهجة التحذيرية التي تعرضها الأفلام في سيناريوهاتها الدستوبية، يشير واقع الأمر إلى أن سيطرة الآلات في تنامي تدريجي.

تعرف الخوارزميات على أنها مجموعة تعليمات كتبت بهدف حل مشكلة أو إنجاز مهمة، وتتحكم الخوارزميات حاليًا بكل ما حولنا، بدءًا بنتائج البحث على شبكة الإنترنت وحتى جودة الرعاية الصحية.

إذ تساعد في تصميم المباني، وتسرع العمليات التجارية في الأسواق المالية، وتصنع الثروات وتهدرها في أجزاء من الثانية. فضلًا عن اختيار أكثر الطرق ملاءمة لرحلات سائقي التوصيل.

ومؤخرًا، بدأت شركات كثيرة بإدخال خوارزميات التعلم الذاتي إلى أنظمتها الحاسوبية لمساعدتها في ميادين عدة، كالتوظيف ووضع المهام وقياس الإنتاجية، بالإضافة إلى تقييم أداء الموظفين وحتى طردهم، وذلك على نحو هو شبيه بما قاله هال «أنا متأسف يا ديف، أخشى أنك مفصول عن العمل.»

ويستخدم العلماء مصطلح الإدارة الخوارزمية عندما تُمنح الخوارزميات ذاتية التعلم مسؤولية اتخاذ القرار وتنفيذها في بيئة العمل. لكن هذه العملية تنطوي على مجموعة من المخاطر، مثل نزع الصفة الشخصية من العملية الإدارية وترسيخ التحيزات الموجودة أصلًا.

وعلى مستوى أعمق من ذلك، ترسخ الإدارة الخوارزمية اختلال موازين القوى بين الإدارة والموظف. بالإضافة إلى أنها أشبه بالصندوق الأسود، إذ أن كيفية اتخاذ القرارات فيها مبهمة، فربما ندرك قليلًا كيفية انتقال البيانات عبر الخوارزمية، وتشاهد مخرجاتها، لكننا لا تمتلك أدنى فكرة ما يحدث حقيقة داخلها.

الخوارزميات في مكان العمل

إليك بعض الأمثلة على الخوارزميات في مكان العمل.

تعمل الخوارزميات في مراكز توزيع أمازون في جنوب شرق مدينة ملبورن، وتتخصص في تنظيم أجهزة الجمع، إذ يمتلك كل جهاز عدادًا يظهر الزمن اللازم للعثور على الشحنة التالية. وفي كل مرة يمسح الجهاز شحنة، يعاد ضبط العداد بما يلائم الزمن اللازم للعثور على الشحنة التي تليها، وتضمن الخوارزمية هنا سير أجهزة الجمع بالسرعة والتوقيت المناسبين.

لكن ما رأيك أن يقيم الذكاء الاصطناعي أهليتك لشغل وظيفة في مقابلة عمل؟ الواقع أن أكثر من 700 شركة حول العالم بدأت بتجريب مثل هذه التقنية. ومن الأمثلة عليها شركة تطوير البرمجيات الأمريكية هايرفيو، وهي تزعم أنها تسرع عملية التوظيف بنسبة 90%، وذلك عبر سؤال المرشحين أسئلة متطابقة وتقييمهم وفقًا للغتهم وأسلوبهم وتعابير وجوههم.

ونعلم أن مقابلات العمل البشرية مليئة بالعيوب والتناقضات، إلا أن الخوارزميات ليس بأفضل حال منها، إذ أن الأخيرة قد تتسم بتحيز كبير، وخير دليل على ذلك المثال الشهير لبرمجية كومباس التي استخدمها القضاة الأمريكيين والشرطة، إذ أظهر تحقيق بروبابلكا لعام 2016 أن الخوارزمية حملت تمييزًا كبيرًا في مخرجاتها، وصنفت سود البشرة على أنهم أكثر خطورة بنسبة 45%، علمًا بأنها منحت بيض البشرة 23% فقط.

كيف يتكيف أصحاب الأعمال الحرة؟

تنفذ الخوارزميات الأوامر الموجودة في شيفرتها، لكن المشكلة أن الشيفرة نادرًا ما تكون متاحة، ما يحول دون تدقيقها أو حتى فهمها.

ويتجلى ذلك في أبهى صورة في اقتصاد الأعمال الحرة، إذ تلعب الخوارزميات دورًا حاسمًا في العديد من منصات هذا الاقتصاد، فلا يمكن لشركات كبرى مثل أوبر أو لايف أو دلفرو أن تعمل بلا خوارزميات المراقبة وتحديد الموقع والتقييم والمكافأة.

وخلال الأعوام الماضية، قدم سائقو أوبر شكاوى كثيرة لتعرضهم لتغيرات غير مبررة أدخلتها الخوارزميات، فتسببت في طردهم من وظائفهم وسلب رواتبهم.

ولا يمكن لسائقي خدمات التوصيل أن يتأكدوا تمامًا من أن الخوارزمية كانت وراء تلك التغيرات، وذلك جزء من المشكلة، إذ أن أولئك الذين يعتمدون على الخوارزمية لا يعلمون حقيقة تلك التغيرات، أو الدافع وراءها، ولذلك انعكاسات خطيرة عليهم.

هذه من النتائج المهمة التي استنتجتها إحدى الدراسات بعد 58 مقابلة مع سائق توصيل. إذ علم معظمهم أن وظائفهم مدارة بواسطة خوارزمية على تطبيق هاتفي، وعلموا أن التطبيق يجمع البيانات، لكنهم لم يعلموا كيف استخدمت بياناتهم لاحتساب رواتبهم ومكافآتهم.

وردًا على ذلك، ابتكر السائقون استراتيجيات لاكتساب أعمال أكثر، كقبول الطلبات بأسرع وقت ممكن أو الانتظار في مواقع مختارة. ومن المفارقة أن تلك المحاولات التي أرادوا منها إرضاء الخوارزمية أدت إلى فقدان المرونة في العمل، والتي كانت أحد عوامل الجذب المتأصلة في اقتصاد الأعمال الحرة.

وتكمن مشكلة الإدارة الخوارزمية في تباين المعلومات، ويتسبب ذلك بتأثيرين كبيرين. الأول أنه يهدد بترسيخ التحيزات المؤسسية، وهو شبيه بالتمييز الذي ظل في خوارزمية بروبابلكا لأعوام، والثاني أنه يزيد الفجوة بين الموظف والإدارة.

وتجمع هذه الدراسة ودراسات أخرى على أن الاعتراض على قرارات الخوارزمية يكاد يكون مستحيلًا، ففي أغلب الأحيان، لا يعلم الموظفون على أي أساس اتخذت القرارات، ولا يوجد جهة محددة لتقديم شكوى إليها. فعندما سأل سائق أوبر الشركة عن الأسباب وراء حصوله على أجر منخفض، كان جوابها »لا نمتلك تحكمًا يدويًا بكمية التوصيلات التي تتلقاها. «

الدروس المستخلصة

عندما تعمل الإدارة الخوارزمية كصندوق أسود، فإن أحد تبعات ذلك أنها قد تصبح آلية للتحكم غير المباشر، ما يمكن المنصات من حشد القوى العاملة والتوسع بها مع تجنب المسؤوليات المنوطة بأصحاب العمل.

لذلك لم يحظ هذا النوع من الإدارة بتقدير المسؤولين الحكوميين في أستراليا، إذ أشارت السلطة التنفيذية لولاية فيكتوريا الأسترالية في إحدى تقاريرها عن القوى العاملة »لا يوجد أدلة واضحة على كيفية عمل الخوارزمية، ما يجعل من الصعب على السائق أو الراكب تقديم شكوى إن شعر بإجحاف الطرف الآخر. «

ونشر التقرير في يونيو/حزيران، وخلص كذلك إلى صعوبة الجزم بعدم شفافية الخوارزميات عمومًا. وقد يكمن هذا الارتباك في صميم المشكلة، فكيف لنا أن نتعرف على مشكلات الإدارة الخوارزمية؟ ناهيك عن حلها؟

وعلى هذا الأساس، قد تضمن معايير السلوك العادل الشفافية والمسؤولية، وترسم حلًا للتعامل مع مشكلات الإدارة الخوارزمية، ومن الأمثلة عليها مبادرة العمل العادل فير ورك بقيادة معهد أكسفورد للإنترنت. إذ تجمع هذه المبادرة جهود الباحثين مع الموظفين والاتحادات العمالية والمشرعين، لتطوير مبادئ عمل عالمية في الاقتصاد. ويشمل ذلك الإدارة العادلة التي تركز على شفافية نتائج الخوارزميات ومخرجاتها في مكان العمل.

ما زال أثر الخوارزمية في مختلف مجالات العمل غير مفهومًا تمامًا، والجهود التي تحاول فهم آثارها على الموظفين في مراحلها الأولى، وتتطلب كثيرًا من البحث والتدقيق. لكن خلاصة القول، إن افتقرت مبادؤنا المتفق عليها على إشراف بشري، فإننا مهددون بسيناريوهات دستوبية حيث تتحكم روبوتات شبيهة بهال في أماكن عملنا.