الصناديق السوداء

بالإمكان تدريب أنظمة الشبكات العصبية ذات الذكاء الاصطناعي لتنجز مهمّات معقَّدة، مثل: قيادة السيَّارات وتصميم أعمال فنّية وتأليف ألحان موسيقية. لكنَّ الشبكات العصبية تعاني من مشكلة كبيرة، وهي أنَّها معقَّدة جدًّا. وتبلغ درجة تعقيدها حدًّا يعجز بسببه الباحثون عن فهم آليَّة اتخاذها للقرارات أحيانًا.

أعلن باحثون في معهد ماسوتشوستس للتقنية مؤخَّرًا عن تصميمهم لشبكة عصبية تستطيع شرح الخطوات التي تتبعها لحلّ المشكلات، ويمثّل هذا تقدُّمًا مهمًّا يساعدنا على فهم أسرار التقنية وحلّ المشكلات الأمنية التي قد نواجهها في بعض تطبيقاتها، مثل: قيادة السيارات.

قوَّات المَهمَّات الفرعية

تُسمَّى الخوارزمية الجديدة: شفافية شبكة التصميم (TbD-net). وتعمل على تحليل خطوات عمليَّة التعرُّف على الصور وفرزها إلى مهمَّات فرعية. ترسم الخوارزمية خريطةً حرارية تضيء أجزاء الصور التي تستهدفها تقنية التعرُّف. فإذا طلبت من الخوارزمية التعرُّف على مكعَّبات معدنية كبيرة في صورة تحتوي مجموعة متنوّعة من الأجسام، فسترسم خريطةً للصورة تضيء فيها الأجزاء التي تحتوي الأجسام الكبيرة فحسب. وقد تكون بعض هذه الأجسام المكعَّبات المقصودة وقد تكون غيرها، لكنَّها جميعًا أجسام كبيرة. وفي المرحلة اللاحقة، تضيء الأجزاء التي تحتوي أجسامًا معدنيَّة، ثمَّ تضيء الأجزاء التي تحتوي مكعَّبات معدنية كبيرة فحسب. وتسهم هذه النتيجة في فهم آليَّة عمل الشبكة العصبية وطريقة وصولها إلى الهدف المصَّمم لها.

خطوة إلى الأمام

تسهم الخوارزميات التي تعمل مثل خوارزمية شفافية الشبكة العصبية في فهم طريقة عمل الشبكات العصبية لحلّ مشكلات أكثر تعقيدًا. وقال تومي جاكولا الأستاذ في معهد ماساتشوستس للتقنية «سواء كان القرار استثماريًّا أو طبيًّا أو عسكريًّا، فنحن لا نريد اتباع القرار التي تتخذه الشبكات العصبية ذات الذكاء الاصطناعي دون فهم آليَّة الوصول إليه.»

يتشوَّق الخبراء الآن لأيّ إنجاز قد يساعدنا على فهم آليَّة عمل تقنية الذكاء الاصطناعي قبل تفويضها تنفيذ مهمَّات عديدة بالنيابة عن البشر.