باختصار
  • يعتقد معهد الهندسة الكهربائية والإلكترونية أن تطوير الذكاء الاصطناعي والأنظمة ذاتية التحكم يجب أن يكون "متوافقاً مع البشر من حيث القيم والمبادئ الأخلاقية".
  • قدم المعهد أفكاره في وثيقة هيكلية من 136 صفحة، تسمى "التصميم المتوافق مع الأخلاق"، والتي يأمل المعهد أنها ستقود الصناعة نحو بناء ذكاء اصطناعي (خيّر).

الذكاء الاصطناعي والأخلاق

هل يجب أن نخاف من الذكاء الاصطناعي كما في مسلسل Westworld؟ حقوق الصورة: قناة HBO
هل يجب أن نخاف من الذكاء الاصطناعي كما في مسلسل Westworld؟ حقوق الصورة: قناة HBO

ساهمت أعمال تلفزيونية وسينمائية، مثل Terminator وWestworld، في تشكيل وجهة نظر سلبية إلى حد ما، تجاه تطوير الذكاء الاصطناعي (AI). كما أن الأخبار حول استحواذ الأتمتة على الوظائف في المستقبل القريب رسمت صورة غير مستحبة عن الأنظمة ذاتية التحكم AS.

هل لهذه المخاوف أساس حقيقي؟ ربما، ولكن في الحالتين، فإن معهد الهندسة الكهربائية والإلكترونية (IEEE) مقتنع بأن تطوير الذكاء الاصطناعي والأنظمة ذاتية التحكم يجب أن يكون "متوافقاً مع البشر من حيث القيم والمبادئ الأخلاقية".

قدم المعهد أفكاره في وثيقة إطار عمل من 136 صفحة، تُسمى التصميم المتوافق مع الأخلاق، والتي يأمل المعهد أنها ستقود الصناعة نحو بناء ذكاء اصطناعي وأنظمة ذاتية التحكم "خيّرة" ومفيدة. يعتمد إطار العمل على أفكار قدمها أكثر من 100 من القادة الفكريين في مجالات الذكاء الاصطناعي، والقانون والأخلاق، والفلسفة، والسياسة. ولهم خبرات في القطاعات الأكاديمية والعلمية، والحكومية، وقطاع الشركات.

وفقاً لتصريح من كونستانتينوس كاراكاليوس، مدير إدارة مجموعة معايير معهد الهندسة الكهربائية والإلكترونية: "عندما نؤمّن للعاملين في مجال التكنولوجيا توصيات ونصائح عملية متفق عليها من الأوساط العلمية، لصنع منتجات وخدمات وأنظمة متوافقة مع الأخلاق للذكاء الاصطناعي والأنظمة ذاتية التحكم، يمكننا أن نتجاوز المخاوف المتعلقة بهذه التقنيات، ونقدم فوائد كبيرة للبشرية اليوم وفي المستقبل".

حقوق الصورة: معهد الهندسة الكهربائية والإلكترونية
حقوق الصورة: معهد الهندسة الكهربائية والإلكترونية

سياسات معقولة، وأبحاث جيدة

فتح المعهد مجال النقاش والاقتراحات أمام العاملين في مجال الصناعة، والهندسة، والمطورين على حد سواء. كما وضع آلية للتغذية الراجعة، وبالتالي أصبح هناك منصة حوارية لصنع السياسات.

تتضمن الاقتراحات ضمن هذه الهيكلية اعتبارات يجب الأخذ بها في منهجيات قيادة البحث والتصميم بشكل أخلاقي، وتحذيرات حول تطبيق خدمات وعناصر مجهولة المضمون، وذلك بأقصى حذر وعناية أخلاقية.

بالطبع، تثير أهداف المعهد العديد من الأسئلة، ومن أهمها سؤال ناقشناه سابقاً: هل يمكن برمجة الأخلاق؟ هل من الممكن فعلياً لمصممي الذكاء الاصطناعي والأنظمة ذاتية التحكم أن يجعلوا ابتكاراتهم متوافقة "مع أخلاق المستخدمين والمجتمع"، كما تقول وثيقة IEEE؟

من هذه الناحية، يقول IEEE إنه يجب وضع معايير لضمان عدم إصابة المستخدمين بالأذى بسبب هذه الأنظمة، وذلك بتقديم "نظرة عامة على عملية تصنيع التقنيات الذكية وذاتية التحكم". ويحذّر أنه مع تزايد تعقيد أنظمة الذكاء الاصطناعي، فإن "السلوكيات غير المقصودة أو المتوقعة تصبح أشد خطورة".

لهذا، فإن "الباحثين والمطورين سيواجهون مجموعة متزايدة التعقيد من مسائل السلامة الأخلاقية والتقنية، وذلك خلال تطوير وتشغيل أنظمة ذكاء اصطناعي أكثر استقلالاً وقدرة".

بشكل عام، فإن IEEE اتخذ وبدون شك، خطوة أولى ضرورية للغاية نحو إضفاء الطابع الإنساني على الذكاء الاصطناعي والأنظمة ذاتية التحكم.