Bagaimana Menjamin Keamanan Kendaraan Otonom | Majalah Kuanta

Mobil dan pesawat tanpa pengemudi bukan lagi barang masa depan. Di kota San Francisco saja, dua perusahaan taksi secara kolektif telah melakukan perjalanan otonom sejauh 8 juta mil hingga Agustus 2023. Dan lebih dari 850,000 kendaraan udara otonom, atau drone, terdaftar di Amerika Serikat – belum termasuk kendaraan milik militer.

Namun ada kekhawatiran yang sah mengenai keselamatan. Misalnya, dalam periode 10 bulan yang berakhir pada Mei 2022, Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional melaporkan hampir 400 kecelakaan yang melibatkan mobil yang menggunakan suatu bentuk kendali otonom. Enam orang tewas akibat kecelakaan tersebut, dan lima orang luka berat.

Cara umum untuk mengatasi masalah ini — terkadang disebut “pengujian hingga kelelahan” — melibatkan pengujian sistem ini sampai Anda yakin bahwa sistem tersebut aman. Namun Anda tidak pernah bisa yakin bahwa proses ini akan mengungkap semua potensi kelemahan. “Orang-orang melakukan tes sampai mereka kehabisan sumber daya dan kesabaran,” katanya Sayan Mitra, seorang ilmuwan komputer di Universitas Illinois, Urbana-Champaign. Namun, pengujian saja tidak dapat memberikan jaminan.

Mitra dan rekan-rekannya bisa. Timnya telah berhasil membuktikan itu keselamatan kemampuan pelacakan jalur untuk mobil dan sistem pendaratan untuk pesawat otonom. Strategi mereka kini digunakan untuk membantu mendaratkan drone di kapal induk, dan Boeing berencana mengujinya pada pesawat eksperimental tahun ini. “Metode mereka dalam memberikan jaminan keamanan menyeluruh sangatlah penting,” katanya Corina Pasareanu, seorang ilmuwan peneliti di Universitas Carnegie Mellon dan Pusat Penelitian Ames NASA.

Pekerjaan mereka melibatkan penjaminan hasil algoritma pembelajaran mesin yang digunakan untuk menginformasikan kendaraan otonom. Pada tingkat tinggi, banyak kendaraan otonom memiliki dua komponen: sistem persepsi dan sistem kendali. Sistem persepsi memberi tahu Anda, misalnya, seberapa jauh jarak mobil Anda dari pusat jalur, atau ke arah mana pesawat terbang dan berapa sudutnya terhadap cakrawala. Sistem ini beroperasi dengan memasukkan data mentah dari kamera dan alat sensorik lainnya ke algoritma pembelajaran mesin berdasarkan jaringan saraf, yang menciptakan kembali lingkungan di luar kendaraan.

Penilaian ini kemudian dikirim ke sistem terpisah, modul kontrol, yang memutuskan apa yang harus dilakukan. Jika ada rintangan yang akan datang, misalnya, ia memutuskan apakah akan mengerem atau menghindarinya. Berdasarkan Luka Carlone, seorang profesor di Massachusetts Institute of Technology, meskipun modul kontrol bergantung pada teknologi yang sudah mapan, “modul ini mengambil keputusan berdasarkan hasil persepsi, dan tidak ada jaminan bahwa hasil tersebut benar.”

Untuk memberikan jaminan keselamatan, tim Mitra berupaya memastikan keandalan sistem persepsi kendaraan. Mereka pertama kali berasumsi bahwa jaminan keamanan dapat dijamin jika gambaran sempurna dari dunia luar tersedia. Mereka kemudian menentukan seberapa besar kesalahan yang ditimbulkan oleh sistem persepsi dalam penciptaan kembali lingkungan kendaraan.

Kunci dari strategi ini adalah mengukur ketidakpastian yang ada, yang dikenal sebagai error band – atau “yang diketahui tidak diketahui,” seperti yang dikatakan Mitra. Perhitungan itu berasal dari apa yang ia dan timnya sebut sebagai kontrak persepsi. Dalam rekayasa perangkat lunak, kontrak adalah komitmen bahwa, untuk masukan tertentu ke program komputer, keluarannya akan berada dalam kisaran tertentu. Mencari tahu kisaran ini tidaklah mudah. Seberapa akurat sensor mobil? Berapa banyak kabut, hujan, atau silau matahari yang dapat ditoleransi oleh drone? Namun jika Anda dapat menjaga kendaraan dalam rentang ketidakpastian tertentu, dan jika penentuan rentang tersebut cukup akurat, tim Mitra membuktikan bahwa Anda dapat menjamin keamanannya.

Ini adalah situasi yang biasa bagi siapa pun yang memiliki speedometer yang tidak tepat. Jika Anda tahu perangkat tidak pernah melaju lebih dari 5 mil per jam, Anda tetap dapat menghindari ngebut dengan selalu menjaga kecepatan 5 mph di bawah batas kecepatan (seperti yang ditunjukkan oleh speedometer Anda yang tidak dapat dipercaya). Kontrak persepsi memberikan jaminan serupa atas keamanan sistem tidak sempurna yang bergantung pada pembelajaran mesin.

“Anda tidak membutuhkan persepsi yang sempurna,” kata Carlone. “Anda hanya ingin itu cukup baik agar tidak membahayakan keselamatan.” Kontribusi terbesar tim ini, katanya, adalah “memperkenalkan keseluruhan gagasan kontrak persepsi” dan menyediakan metode untuk menyusunnya. Mereka melakukan ini dengan memanfaatkan teknik dari cabang ilmu komputer yang disebut verifikasi formal, yang menyediakan cara matematis untuk memastikan bahwa perilaku suatu sistem memenuhi serangkaian persyaratan.

“Meskipun kita tidak tahu persis bagaimana jaringan saraf melakukan hal tersebut,” kata Mitra, mereka menunjukkan bahwa masih mungkin untuk membuktikan secara numerik bahwa ketidakpastian keluaran jaringan saraf berada dalam batas-batas tertentu. Dan jika demikian, maka sistem akan aman. “Kami kemudian dapat memberikan jaminan statistik mengenai apakah (dan sejauh mana) jaringan saraf tertentu akan benar-benar memenuhi batasan tersebut.”

Perusahaan kedirgantaraan Sierra Nevada saat ini sedang menguji jaminan keselamatan ini saat mendaratkan drone di kapal induk. Masalah ini dalam beberapa hal lebih rumit daripada mengendarai mobil karena adanya dimensi ekstra yang terlibat dalam penerbangan. “Dalam pendaratan, ada dua tugas utama,” kata Dragos Margineantu, kepala teknologi AI di Boeing, “menyelaraskan pesawat dengan landasan pacu dan memastikan landasan bebas dari hambatan. Pekerjaan kami dengan Sayan melibatkan mendapatkan jaminan untuk kedua fungsi tersebut.”

“Simulasi menggunakan algoritma Sayan menunjukkan bahwa keselarasan [pesawat sebelum mendarat] memang membaik,” katanya. Langkah selanjutnya, yang direncanakan pada akhir tahun ini, adalah menggunakan sistem ini saat mendaratkan pesawat eksperimental Boeing. Salah satu tantangan terbesarnya, kata Margineantu, adalah mencari tahu apa yang tidak kita ketahui – “menentukan ketidakpastian dalam perkiraan kita” – dan melihat bagaimana hal tersebut mempengaruhi keselamatan. “Sebagian besar kesalahan terjadi ketika kita melakukan hal-hal yang kita pikir kita ketahui — namun ternyata kita tidak mengetahuinya.”