كيفية ضمان سلامة المركبات ذاتية القيادة | مجلة كوانتا

لم تعد السيارات والطائرات بدون سائق هي أشياء المستقبل. وفي مدينة سان فرانسيسكو وحدها، سجلت شركتان لسيارات الأجرة بشكل جماعي 8 ملايين ميل من القيادة الذاتية حتى أغسطس 2023. وتم تسجيل أكثر من 850,000 ألف مركبة جوية ذاتية القيادة، أو طائرات بدون طيار، في الولايات المتحدة ــ دون احتساب تلك المملوكة للجيش.

ولكن هناك مخاوف مشروعة بشأن السلامة. على سبيل المثال، في فترة 10 أشهر انتهت في مايو 2022، قامت الإدارة الوطنية للسلامة المرورية على الطرق السريعة وذكرت ما يقرب من 400 حادث تصادم شملت سيارات تستخدم شكلاً من أشكال التحكم الذاتي. ولقي ستة أشخاص حتفهم نتيجة هذه الحوادث، وأصيب خمسة آخرون بجروح خطيرة.

الطريقة المعتادة لمعالجة هذه المشكلة - والتي تسمى أحيانًا "الاختبار عن طريق الاستنفاد" - تتضمن اختبار هذه الأنظمة حتى تقتنع بأنها آمنة. لكن لا يمكنك أبدًا التأكد من أن هذه العملية ستكشف عن جميع العيوب المحتملة. قال: “يقوم الناس بإجراء الاختبارات حتى استنفاد مواردهم وصبرهم”. سايان ميترا، عالم الكمبيوتر في جامعة إلينوي، أوربانا شامبين. ومع ذلك، فإن الاختبار وحده لا يمكن أن يوفر ضمانات.

يستطيع ميترا وزملاؤه فعل ذلك. وقد تمكن فريقه من ذلك يثبت ال سلامة من قدرات تتبع المسار للسيارات و أنظمة الهبوط للطائرات ذاتية القيادة. وتستخدم استراتيجيتهم الآن لمساعدة الطائرات بدون طيار على الهبوط على حاملات الطائرات، وتخطط شركة بوينغ لاختبارها على طائرة تجريبية هذا العام. وقال: "إن طريقتهم في توفير ضمانات السلامة الشاملة مهمة للغاية". كورينا باساريانو، عالم أبحاث في جامعة كارنيجي ميلون ومركز أبحاث أميس التابع لناسا.

يتضمن عملهم ضمان نتائج خوارزميات التعلم الآلي المستخدمة لإبلاغ المركبات ذاتية القيادة. على مستوى عالٍ، تحتوي العديد من المركبات ذاتية القيادة على مكونين: نظام إدراكي ونظام تحكم. يخبرك نظام الإدراك، على سبيل المثال، بمدى بعد سيارتك عن وسط المسار، أو الاتجاه الذي تتجه إليه الطائرة وما هي زاويتها بالنسبة للأفق. ويعمل النظام عن طريق تغذية البيانات الأولية من الكاميرات والأدوات الحسية الأخرى إلى خوارزميات التعلم الآلي القائمة على الشبكات العصبية، التي تعيد خلق البيئة خارج السيارة.

يتم بعد ذلك إرسال هذه التقييمات إلى نظام منفصل، وهو وحدة التحكم، التي تقرر ما يجب فعله. إذا كان هناك عائق قادم، على سبيل المثال، فإنه يقرر ما إذا كان سيتم استخدام المكابح أو الالتفاف حوله. وفق لوكا كارلون، وهو أستاذ مشارك في معهد ماساتشوستس للتكنولوجيا، بينما تعتمد وحدة التحكم على تكنولوجيا راسخة، "فإنها تتخذ قرارات بناء على نتائج الإدراك، وليس هناك ما يضمن صحة تلك النتائج".

ولتوفير ضمان السلامة، عمل فريق ميترا على ضمان موثوقية نظام الإدراك في السيارة. لقد افترضوا في البداية أنه من الممكن ضمان السلامة عند توفر عرض مثالي للعالم الخارجي. ثم قاموا بتحديد مقدار الخطأ الذي يُدخله نظام الإدراك في إعادة إنشاء محيط السيارة.

المفتاح لهذه الاستراتيجية هو قياس أوجه عدم اليقين المعنية، والمعروفة باسم نطاق الخطأ - أو "المجهول المعروف"، على حد تعبير ميترا. ويأتي هذا الحساب مما يسميه هو وفريقه بعقد الإدراك. في هندسة البرمجيات، العقد هو التزام، بالنسبة لمدخل معين لبرنامج كمبيوتر، فإن المخرجات سوف تقع ضمن نطاق محدد. إن معرفة هذا النطاق ليس بالأمر السهل. ما مدى دقة حساسات السيارة؟ ما مقدار الضباب أو المطر أو الوهج الشمسي الذي يمكن أن تتحمله الطائرة بدون طيار؟ ولكن إذا تمكنت من إبقاء السيارة ضمن نطاق محدد من عدم اليقين، وإذا كان تحديد هذا النطاق دقيقًا بما فيه الكفاية، فقد أثبت فريق ميترا أنه يمكنك ضمان سلامتها.

إنه وضع مألوف لأي شخص لديه عداد سرعة غير دقيق. إذا كنت تعلم أن الجهاز لن يتوقف مطلقًا عن العمل بسرعة تزيد عن 5 أميال في الساعة، فلا يزال بإمكانك تجنب السرعة من خلال البقاء دائمًا على مسافة 5 أميال في الساعة أقل من الحد الأقصى للسرعة (كما هو موضح بواسطة عداد السرعة غير الجدير بالثقة). ويوفر عقد التصور ضمانة مماثلة لسلامة النظام غير الكامل الذي يعتمد على التعلم الآلي.

قال كارلون: "لست بحاجة إلى إدراك مثالي". "أنت فقط تريد أن تكون جيدة بما يكفي حتى لا تعرض السلامة للخطر." وقال إن أكبر مساهمات الفريق هي "تقديم فكرة عقود الإدراك بأكملها" وتوفير طرق بنائها. لقد فعلوا ذلك من خلال الاعتماد على تقنيات من فرع علوم الكمبيوتر يسمى التحقق الرسمي، والذي يوفر طريقة رياضية للتأكد من أن سلوك النظام يلبي مجموعة من المتطلبات.

قال ميترا: "على الرغم من أننا لا نعرف بالضبط كيف تفعل الشبكة العصبية ما تفعله"، إلا أنهم أظهروا أنه لا يزال من الممكن إثبات أن عدم اليقين بشأن مخرجات الشبكة العصبية يقع ضمن حدود معينة عدديًا. وإذا كان الأمر كذلك، فسيكون النظام آمنًا. "يمكننا بعد ذلك تقديم ضمانة إحصائية حول ما إذا كانت (وإلى أي درجة) شبكة عصبية معينة سوف تلبي هذه الحدود بالفعل."

تقوم شركة الطيران سييرا نيفادا حاليًا باختبار ضمانات السلامة هذه أثناء هبوط طائرة بدون طيار على حاملة طائرات. تعتبر هذه المشكلة في بعض النواحي أكثر تعقيدًا من قيادة السيارات بسبب البعد الإضافي الذي ينطوي عليه الطيران. وقال: "في الهبوط، هناك مهمتان رئيسيتان". دراغوس مارجينينتو، كبير تقنيي الذكاء الاصطناعي في شركة بوينغ، “بمحاذاة الطائرة مع المدرج والتأكد من خلو المدرج من العوائق. يتضمن عملنا مع سايان الحصول على ضمانات لهاتين الوظيفتين.

وقال: "تظهر عمليات المحاكاة باستخدام خوارزمية سايان أن محاذاة [الطائرة قبل الهبوط] تتحسن". والخطوة التالية، المخطط لها في وقت لاحق من هذا العام، هي استخدام هذه الأنظمة أثناء الهبوط الفعلي لطائرة بوينغ التجريبية. وأشار مارجينيانتو إلى أن أحد أكبر التحديات سيكون اكتشاف ما لا نعرفه - "تحديد عدم اليقين في تقديراتنا" - ورؤية كيفية تأثير ذلك على السلامة. "معظم الأخطاء تحدث عندما نفعل أشياء نعتقد أننا نعرفها، ثم يتبين أننا لا نعرفها."