قام الباحثون بلصق قطعة من شريط العزل الكهربائي على علامة الحد الأقصى للسرعة ، ونجحوا في خداع سيارة تسلا الكهربائية لتسريع ، وتسليط الضوء على مختلف الثغرات المحتملة التي تواجه حاليا أنظمة القيادة الذاتية.
يُظهر تقرير بحث McAfee أن الفنيين قد سجلوا الشريط في منتصف علامة “35” الحد الأقصى للسرعة في الساعة “3” ، وقد تسبب هذا التغيير الطفيف في إساءة استخدام السيارة للحكم على السرعة إلى “85” ميلًا ، والتحكم في سرعة السيارة في السيارة النظام (نظام التحكم في التطواف) يتسارع تلقائيًا.
قال McAfee أن المشكلة ليست مخاطرة كبيرة بالنسبة لأولئك الذين يقودون السيارة ، ولم يصب أحد خلال التجربة ، كما تباطأ الباحثون الذين قادوا السيارة بأمان. لكن هذه الدراسة التي استمرت 18 شهرًا والتي انتهت في العام الماضي أظهرت أن أنظمة التعلم الآلي للقيادة الذاتية تعاني من نقاط ضعف. وفقًا لستيف بوفولني ، مدير مختبر أبحاث التهديدات المتقدمة في McAfee ، أظهرت دراسات أخرى أيضًا كيف أن بعض التغييرات في العالم المادي يمكن أن تشوش الأنظمة بسهولة.
يقول مكافي إن مثل هذه الاختبارات ليست شائعة في العالم الحقيقي تضمنت هذه الاختبارات طراز 2016 S و Model X ، باستخدام أنظمة الكاميرا المقدمة من Mobileye (أصبحت الآن وحدة أعمال من Intel). على الرغم من توقف Tesla عن استخدام نظام Mobileye في عام 2016 ، إلا أن العديد من شركات صناعة السيارات تواصل استخدامه.
لم يجد أحدث اختبار لنظام الكاميرا في Mobileye الثغرات نفسها ، ومن الواضح أن أحدث طرازات سيارة Tesla لم تعد تعتمد فقط على تحديد علامات المرور ، كما يشير McAfee. لم ترد تسلا على استفسار عبر البريد الإلكتروني حول البحث.
وقال بوفولني: “كان المصنعون والموردون على دراية بهذه المشكلة ، ويفهمونها ويحسنونها أكثر ، لكن هذا لا يغير حقيقة أن هناك العديد من النقاط العمياء في صناعة القيادة المستقلة.” لحسن الحظ ، فإن تهديد العالم الحقيقي محدود . أولاً ، لا تزال السيارات ذاتية القيادة قيد التطوير ، ويتم اختبار معظمها مع سائقي السلامة المستعدين لتولي عجلة القيادة. على الرغم من أن العديد من السيارات تدعم الآن أنظمة مساعدة السائقين المتقدمة (ADAS) ، إلا أنها لا تزال بحاجة إلى الاهتمام بظروف الطريق.
يمكن للباحثين في McAfee خداع النظام فقط عن طريق نسخ سلسلة من الأحداث المحددة ، بما في ذلك تشغيل مساعدة السائق ومواجهة علامات الحد الأقصى للسرعة التي تم العبث بها. قام المصنعون أيضًا بدمج تقنية التعيين في الأنظمة التي تستجيب لحدود السرعة المناسبة. وقال بوفولني: “إلى أن نمتلك سيارة حقيقية ذاتية القيادة ، فمن غير المرجح أن نرى الوضع المذكور أعلاه في العالم الحقيقي ، أو أن يحاول المهاجمون استغلال هذه الثغرات ، وبحلول ذلك الوقت ، نأمل أن يتم حل هذه العيوب في أسرع وقت ممكن”.
ينص بيان Mobileye على أنه حتى القيادة يمكن أن تنخدع بمثل هذه التعديلات ، وأن النظام الذي اختبره الباحثون هذه المرة مصمم أصلاً لمساعدة القيادة بدلاً من دعم القيادة المستقلة.
بالإضافة إلى الاستشعار ، تحتاج السيارات ذاتية القيادة إلى استخدام العديد من التقنيات لتحسين السلامة والتسامح مع الأعطال
“لا تعتمد تقنية القيادة الذاتية على الاستشعار فحسب ، بل تتلقى أيضًا العديد من التقنيات الأخرى ودعم البيانات مثل Crowd Sourced Mapping لضمان موثوقية المعلومات الواردة من أجهزة استشعار الكاميرا وتوفير نسخة احتياطية أقوى والأمن. “وقال مكافي.
تتبع أبحاث McAfee العمل الأكاديمي الشبيه ببرنامج Adversarial Machine Learning ، وهو ينتمي إلى مجال بحثي جديد ومتخصص في كيفية التعامل مع أنظمة التعلم المعتمدة على الكمبيوتر. اكتشف الباحثون في عام 2017 أن لصق 4 ملصقات باللونين الأبيض والأسود في مواقع محددة على علامة التوقف يمكن أن يخدع رؤية الكمبيوتر ويجعلها مخطئة لوجود حد للسرعة بسرعة 45 ميلاً في الساعة.
قال ميسي كامينغز ، أستاذ الروبوتات وخبير القيادة الذاتية في جامعة ديوك ، إن المشكلة لا تنفرد بها تسلا أو موبايلي ، بل هي نقطة ضعف أمنية عامة متأصلة في أنظمة القيادة الذاتية المتقدمة. لقد أظهر الباحثون أن تغيير البيئة المادية دون الوصول إلى النظام نفسه يمكن أن يؤدي إلى حالات فشل خطيرة محتملة. “هذا هو السبب في أنه أمر خطير للغاية ، لأنك لا تحتاج إلى اختراق نظام الوصول ، فأنت بحاجة فقط إلى الوجود في العالم الذي نعيش فيه.”
قال كامينغز إن النتائج التي توصلت إليها McAfee تشرح لماذا يجب أن تخضع السيارات ذاتية القيادة “لاختبار بصري” لتقييم ما إذا كان نظام القيادة المستقلة يمكنه اكتشاف المناطق المحيطة بأمان والتعامل مع مختلف الظروف الحقيقية التي تصنعها المركبات الأخرى والمشاة وغيرهم من المارة. حث المدافعون عن السلامة منظمي ومشرعي السلامة في الولايات المتحدة على تضمين هذا التقييم في العناصر الأخرى لمشروع قانون القيادة الذاتية الجديد الذي يعده الكونغرس.
