Otonom Araçların Güvenliği Nasıl Garanti Edilir | Quanta Dergisi

Sürücüsüz arabalar ve uçaklar artık geleceğin malzemesi değil. Yalnızca San Francisco şehrinde, iki taksi şirketi Ağustos 8'e kadar kolektif olarak 2023 milyon mil otonom sürüş kaydetti. Ayrıca orduya ait olanları saymazsak 850,000'den fazla otonom hava aracı veya drone ABD'de kayıtlı.

Ancak güvenlikle ilgili meşru endişeler var. Örneğin Mayıs 10'de sona eren 2022 aylık dönemde Ulusal Karayolu Trafik Güvenliği İdaresi rapor Bir çeşit otonom kontrol kullanan otomobillerin karıştığı yaklaşık 400 kaza. Bu kazalar sonucunda XNUMX kişi hayatını kaybetti, XNUMX kişi ise ağır yaralandı.

Bazen "tüketerek test etme" olarak da adlandırılan bu sorunu çözmenin olağan yolu, bu sistemlerin güvenli olduklarından emin olana kadar test etmeyi içerir. Ancak bu sürecin tüm potansiyel kusurları ortaya çıkaracağından asla emin olamazsınız. "İnsanlar kaynaklarını ve sabırlarını tüketene kadar testler yapıyorlar" dedi sayan mitraUrbana-Champaign'deki Illinois Üniversitesi'nden bilgisayar bilimcisi. Ancak tek başına test yapmak garanti veremez.

Mitra ve meslektaşları bunu yapabilir. Ekibi bunu başardı kanıtlamak the güvenlik otomobiller için şerit takip yetenekleri ve iniş sistemleri otonom uçaklar için. Stratejileri artık drone'ların uçak gemilerine indirilmesine yardımcı olmak için kullanılıyor ve Boeing, bunu bu yıl deneysel bir uçakta test etmeyi planlıyor. "Uçtan uca güvenlik garantileri sağlama yöntemleri çok önemli" dedi Corina PasareanuCarnegie Mellon Üniversitesi ve NASA'nın Ames Araştırma Merkezi'nde araştırma bilimcisi olan Dr.

Çalışmaları, otonom araçları bilgilendirmek için kullanılan makine öğrenimi algoritmalarının sonuçlarını garanti etmeyi içeriyor. Yüksek düzeyde birçok otonom aracın iki bileşeni vardır: algısal sistem ve kontrol sistemi. Algılama sistemi size örneğin arabanızın şeridin merkezinden ne kadar uzakta olduğunu veya bir uçağın hangi yöne doğru ilerlediğini ve ufka göre açısının ne olduğunu söyler. Sistem, kameralardan ve diğer duyusal araçlardan gelen ham verileri, aracın dışındaki ortamı yeniden yaratan sinir ağlarına dayalı makine öğrenme algoritmalarına besleyerek çalışıyor.

Bu değerlendirmeler daha sonra ne yapılacağına karar veren ayrı bir sisteme, kontrol modülüne gönderilir. Örneğin yaklaşmakta olan bir engel varsa, frene basıp basmayacağına veya onun etrafından dolaşıp dolaşmayacağına karar verir. Buna göre Luca CarloneMassachusetts Teknoloji Enstitüsü'nde doçent olan Dr.

Mitra ekibi, güvenlik garantisi sağlamak için aracın algılama sisteminin güvenilirliğinin sağlanması üzerinde çalıştı. İlk önce, dış dünyanın mükemmel bir görüntüsü mevcut olduğunda güvenliği garanti etmenin mümkün olduğunu varsaydılar. Daha sonra algılama sisteminin aracın çevresini yeniden oluştururken ne kadar hataya yol açtığını belirlediler.

Bu stratejinin anahtarı, hata bandı veya Mitra'nın ifadesiyle "bilinen bilinmeyenler" olarak bilinen ilgili belirsizlikleri ölçmektir. Bu hesaplama, kendisinin ve ekibinin algı sözleşmesi adını verdiği şeyden geliyor. Yazılım mühendisliğinde sözleşme, bir bilgisayar programına verilen belirli bir girdi için çıktının belirli bir aralıkta kalacağına dair bir taahhüttür. Bu aralığı bulmak kolay değil. Arabanın sensörleri ne kadar doğru? Bir drone ne kadar sis, yağmur veya güneş ışığına dayanabilir? Ancak aracı belirli bir belirsizlik aralığında tutabilirseniz ve o aralığın tespiti yeterince doğruysa, Mitra ekibi aracın güvenliğini sağlayabileceğinizi kanıtladı.

Bu, hız göstergesini hassas olmayan herkes için tanıdık bir durum. Cihazın hiçbir zaman saatte 5 milden daha fazla kapanmadığını biliyorsanız, yine de hız sınırının (güvenilmez hız göstergenizin gösterdiği gibi) her zaman 5 mil/saat altında kalarak hız yapmaktan kaçınabilirsiniz. Algı sözleşmesi, makine öğrenimine dayanan kusurlu bir sistemin güvenliğine ilişkin benzer bir garanti sağlar.

Carlone, "Mükemmel bir algıya ihtiyacınız yok" dedi. "Güvenliği riske atmamak için yeterince iyi olmasını istiyorsunuz." Ekibin en büyük katkılarının "algı sözleşmeleri fikrinin tamamını tanıtmak" ve bunları oluşturma yöntemlerini sağlamak olduğunu söyledi. Bunu, bilgisayar bilimi dalındaki resmi doğrulama adı verilen ve bir sistemin davranışının bir dizi gereksinimi karşıladığını doğrulamanın matematiksel bir yolunu sağlayan tekniklerden yararlanarak yaptılar.

Mitra, "Sinir ağının yaptığı işi tam olarak nasıl yaptığını bilmesek de, bir sinir ağının çıktısının belirsizliğinin belirli sınırlar içinde olduğunu sayısal olarak kanıtlamanın hala mümkün olduğunu gösterdiler" dedi. Ve eğer durum buysa, sistem güvende olacaktır. "Daha sonra belirli bir sinir ağının bu sınırları gerçekten karşılayıp karşılamayacağına (ve ne dereceye kadar) ilişkin istatistiksel bir garanti sağlayabiliriz."

Havacılık ve uzay şirketi Sierra Nevada şu anda bir uçak gemisine drone indirirken bu güvenlik garantilerini test ediyor. Uçmanın içerdiği ekstra boyut nedeniyle bu sorun bazı açılardan araba kullanmaktan daha karmaşıktır. "İnişte iki ana görev var" dedi Dragos MargineantuBoeing'deki AI baş teknoloji uzmanı, "uçağı pistle hizalamak ve pistin engellerden arınmış olmasını sağlamak. Sayan'la yaptığımız çalışma bu iki fonksiyonun da garanti altına alınmasını içeriyor.”

"Sayan'ın algoritmasını kullanan simülasyonlar, (inişten önce uçağın) hizasının iyileştiğini gösteriyor" dedi. Bu yılın sonlarında yapılması planlanan bir sonraki adım, Boeing deneysel uçağını indirirken bu sistemleri kullanmaktır. Margineantu, en büyük zorluklardan birinin, neyi bilmediğimizi anlamak, yani "tahminlerimizdeki belirsizliği belirlemek" ve bunun güvenliği nasıl etkilediğini görmek olacağını belirtti. "Hataların çoğu bildiğimizi sandığımız şeyleri yaptığımızda oluyor ama aslında bilmediğimiz ortaya çıkıyor."