مخاطر أنظمة التعرف على الوجوه

يزداد الدور الذي تلعبه التكنولوجيا الحديثة، التي تعتمد على الذكاء الاصطناعي في حياة الناس اليوميّة. وهذا يتضمن نظام التعرّف على الوجوه المستخدم لفتح أقفال الأجهزة الإلكترونية. ولكن يحذر باحثون يابانيون من أن هذه التكنولوجيا لا تمثل الشكل الأسمى لأمن الإنترنت، بالرغم من ادعاءات بعض القائمين على تطوريها.




شهدت تكنولوجيا التعرف على الوجوه التي تستخدم الذكاء الاصطناعي تقدماً سريعاً. كما يتم العمل على بحوث لاستخدامها كشكل من أشكال بطاقة التعريف الشخصيّة.  حيث قامت مجموعة من الباحثين بقيادة البروفسور “جون ساكوما” في مركز بحوث الذكاء الاصطناعي التابع لجامعة تسوكوبا في اليابان بتجربة على نظام الأمن المتعلق بهذه التكنولوجيا.

مركز أبحاث الذكاء الاصطناعي في جامعة تسوكوبا
مركز أبحاث الذكاء الاصطناعي في جامعة تسوكوبا

خلال التجربة، تعلم ذكاء اصطناعيٌ التعرف على وجه أحد الأشخاص. وعمد الفريق إلى استخدام ذكاء اصطناعي آخر للقيام بدور الخصم، من أجل اختراق النظام السابق، وخلق بيانات لوجوه تُشابِه الوجه الذي بإمكان النظام التعرف عليه. أظهر “النظام ـ الخصم” الصور للنظام الأول، وبناء على رد فعله أوجد صوراً أكثر مقاربة للصورة الأصلية. ثم تم تكرار عملية التعلم بسرعة عالية.  وفي غضون يومين، استطاع النظام الخصم أن ينشئ صورة وجه تعرف عليها النظام الأول على أنها الوجه الحقيقي. يعتقد “ساكوما” أنه تم إجراء التجربة وفقاً لافتراضات غير واقعية، منها افتراض أن المخترق يستطيع استخدام الذكاء الاصطناعي لمحاكاة عملية تفكير النظام. ويقول الباحثون أن مخاطر الإساءة المباشرة قد لا تكون مرتفعة نظراً لصعوبة أن يقوم المهاجم بقراءة برنامج الذكاء الاصطناعي للنظام المستهدف بالظروف العاديّة.  ولكن الفريق لا يزال حذراً من مغبة المخاطر المحتملة لمخترق يقوم بإعادة خلق وجوه وخداع النظام. ويصرح “ساكوما” أن مطوري أنظمة الذكاء الاصطناعي لم يتأهبوا لمخاطر تعرض البيانات المخزنّة للاختراق من قبل طرف ثالث. ويضيف أن هذه البيانات قد تتضمن أسراراً تجارية، أو وجوهاً شخصيْة، داعياً إلى بناء خطوات للتعامل مع مخاطر تسرب هذه المعلومات.

تطبيقات أوسع لأنظمة التعرف على الوجوه
استخدام تقنية التعرف على الوجوه في هاتف الآيفون الجديد
استخدام تقنية التعرف على الوجوه في هاتف الآيفون الجديد

تجد هذه الأنظمة طريقها إلى حياتنا اليومية رويداً رويداً. فمثلاً، يزود هاتف آبل الجديد “أيفون إكس” بإمكانية استعمال هذه التكنولوجيا من أجل السماح لمستخدمها بفك قفل الهاتف. وتقوم سلسلة مطاعم همبرغر في أمريكا بالتجريب في هذا المجال عبر اقتراح قوائم منتجات بناء على مشتريات الزبون السابقة. كما يستخدم نظام التعرف إلى الوجوه لإقرار المدفوعات. وإضافة إلى التعرف على الوجوه، من المفترض أن يتم استخدام هذه الأنظمة في مختلف المجالات. فيمكن استخدامها في مساعدة المركبات ذاتية القيادة لاكتشاف وجود جسم خطر. كما يمكن تطبيقها في معالجة الصور الطبيّة للمساعدة على التشخيص. واستعداداً لدورة الألعاب الأولمبية التي ستقام في عام 2020 ستقدم اليابان نظاماً آلياً للتعرف على الوجوه في ١٥٦ ميناء ومطاراً للأجانب، وسيتم اعتماد النظام كجزء من نظام مكافحة الإرهاب. إن استخدام هذا النوع من الأنظمة من شأنه أن يحسن الأمن عند الحدود ويساعد في إدارة التدفق الكبير للسياح. كما تقوم الفنادق والكازينوهات باختبارها أيضاً للتحقق من صحة بيانات العملاء المسجلين وتحديد الشخصيات المهمة وتنبيه الموظفين للضيوف غير المرغوب بهم.

المخاطر المحتملة

يذهب البروفسور “ساكوما” إلى القول أنه في حال نجاح مهاجم في اختراق نظام للذكاء الاصطناعي، فإن احتمالية تسرب البيانات العائدة إلى وجه الفرد ومعلومات شخصيّة أخرى تغدو محتملة الحدوث. بالإضافة إلى خرق البيانات، يحذر “ساكوما” من أن تجاوز أنظمة التعرف على الوجوه من شأنه أن يسمح للشخص باستعمال حاسوب أو أي جهاز آخر بحريّة. ويضيف أنه من المهم جداً أن يتم التحضير للسيناريو الأسوأ.

خبير: مخاطر يجب أن تتم معالجتها

إضافة للأمن، هناك مشكلة أخرى تواجه أنظمة التعرف على الوجوه المستندة للذكاء الاصطناعي وهي الأخطاء.  فقد ابتكر فريق بجامعة ماساتشوستس للعلوم والتكنولوجيا نموذجاً لسلحفاة، وتم عرضها للذكاء الاصطناعي. فتعرف على النموذج على أنه بندقيّة! فيما أجرى باحثون بجامعة واشنطن بتجربة قاموا فيها بإنشاء لافتة مرور تحمل كلمة “توقف”، ووضعوا عليها ملصقاً. وذكروا بأن الذكاء الاصطناعي أخطأ في التعرف على الإشارة واعتبرها إشارة لتحديد السرعة القصوى. ويضيف خبير في الذكاء الاصطناعي من جامعة طوكيو، يدعى “يوتاكا ماتسو” بأنه لم يكن هناك الكثير من البحث والنقاش حول نقاط ضعف هذه الأنظمة. ويعقب بأن الذكاء الاصطناعي لا يزال في مرحلة التطوير، وأنه من الضروري التعامل مع المشاكل الأمنية وغيرها من التحديات.


انضم الآن مجاناً لتصبح عضواً متميزاً في مجلة اليابان للحصول على آخر المستجدات والأخبار من الموقع مع العديد من العروض والمفاجآت! (اضغط هنا)


المصادر:

هيئة الإذاعة والتلفزيون اليابانية، NEC Corp.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *