Cách đảm bảo an toàn cho xe tự lái | Tạp chí Quanta

Ô tô và máy bay không người lái không còn là tương lai nữa. Chỉ riêng tại thành phố San Francisco, hai công ty taxi đã cùng nhau ghi lại 8 triệu dặm lái xe tự động cho đến tháng 2023 năm 850,000. Và hơn XNUMX phương tiện bay tự động hoặc máy bay không người lái đã được đăng ký tại Hoa Kỳ - không tính những phương tiện thuộc sở hữu của quân đội.

Nhưng có những lo ngại chính đáng về sự an toàn. Ví dụ: trong khoảng thời gian 10 tháng kết thúc vào tháng 2022 năm XNUMX, Cục Quản lý An toàn Giao thông Đường bộ Quốc gia báo cáo gần 400 vụ tai nạn liên quan đến ô tô sử dụng một số hình thức điều khiển tự động. Sáu người chết vì những vụ tai nạn này và năm người bị thương nặng.

Cách thông thường để giải quyết vấn đề này - đôi khi được gọi là "thử nghiệm cạn kiệt" - liên quan đến việc thử nghiệm các hệ thống này cho đến khi bạn hài lòng rằng chúng an toàn. Nhưng bạn không bao giờ có thể chắc chắn rằng quá trình này sẽ phát hiện ra tất cả các sai sót tiềm ẩn. “Mọi người thực hiện các cuộc kiểm tra cho đến khi họ cạn kiệt nguồn lực và sự kiên nhẫn,” nói Sayan Mitra, một nhà khoa học máy tính tại Đại học Illinois, Urbana-Champaign. Tuy nhiên, việc thử nghiệm một mình không thể mang lại sự đảm bảo.

Mitra và đồng nghiệp của anh ấy có thể. Đội của anh ấy đã thành công chứng minh các sự an toàn về khả năng theo dõi làn đường cho ô tô và hệ thống hạ cánh cho máy bay tự hành. Chiến lược của họ hiện đang được sử dụng để giúp hạ cánh máy bay không người lái trên tàu sân bay và Boeing có kế hoạch thử nghiệm chiến lược này trên một máy bay thử nghiệm trong năm nay. “Phương pháp cung cấp đảm bảo an toàn từ đầu đến cuối của họ là rất quan trọng,” cho biết Corina Pasareanu, một nhà khoa học nghiên cứu tại Đại học Carnegie Mellon và Trung tâm Nghiên cứu Ames của NASA.

Công việc của họ liên quan đến việc đảm bảo kết quả của các thuật toán học máy được sử dụng để thông báo cho các phương tiện tự hành. Ở cấp độ cao, nhiều phương tiện tự hành có hai thành phần: hệ thống nhận thức và hệ thống điều khiển. Ví dụ: hệ thống nhận thức cho bạn biết ô tô của bạn cách tâm làn đường bao xa hoặc máy bay đang hướng về hướng nào và góc của nó so với đường chân trời là bao nhiêu. Hệ thống hoạt động bằng cách cung cấp dữ liệu thô từ camera và các công cụ cảm giác khác cho các thuật toán học máy dựa trên mạng lưới thần kinh, giúp tái tạo môi trường bên ngoài phương tiện.

Những đánh giá này sau đó được gửi đến một hệ thống riêng biệt, mô-đun điều khiển, để quyết định những việc cần làm. Ví dụ: nếu có chướng ngại vật sắp xảy ra, nó sẽ quyết định nên đạp phanh hay lái vòng qua chướng ngại vật đó. Dựa theo Luca Carlone, phó giáo sư tại Viện Công nghệ Massachusetts, cho biết trong khi mô-đun điều khiển dựa trên công nghệ lâu đời, “nó đưa ra quyết định dựa trên kết quả nhận thức và không có gì đảm bảo rằng những kết quả đó là chính xác”.

Để đảm bảo an toàn, nhóm của Mitra đã nỗ lực đảm bảo độ tin cậy của hệ thống nhận thức của xe. Đầu tiên, họ cho rằng có thể đảm bảo an toàn khi có được một thế giới bên ngoài hoàn hảo. Sau đó, họ xác định mức độ lỗi mà hệ thống nhận thức gây ra khi tái tạo môi trường xung quanh xe.

Chìa khóa của chiến lược này là định lượng những điều không chắc chắn liên quan, được gọi là dải lỗi - hay “những điều chưa biết đã biết”, như Mitra đã nói. Tính toán đó xuất phát từ cái mà ông và nhóm của mình gọi là hợp đồng nhận thức. Trong công nghệ phần mềm, hợp đồng là một cam kết rằng, đối với một đầu vào nhất định của một chương trình máy tính, đầu ra sẽ nằm trong một phạm vi nhất định. Tìm ra phạm vi này không phải là dễ dàng. Cảm biến của ô tô chính xác đến mức nào? Máy bay không người lái có thể chịu được bao nhiêu sương mù, mưa hoặc ánh nắng mặt trời? Nhưng nếu bạn có thể giữ chiếc xe trong một phạm vi không chắc chắn nhất định và nếu việc xác định phạm vi đó đủ chính xác thì nhóm của Mitra đã chứng minh rằng bạn có thể đảm bảo an toàn cho nó.

Đó là một tình huống quen thuộc với bất kỳ ai có đồng hồ tốc độ không chính xác. Nếu bạn biết thiết bị không bao giờ tắt ở tốc độ quá 5 dặm/giờ, bạn vẫn có thể tránh tăng tốc bằng cách luôn duy trì tốc độ dưới giới hạn tốc độ 5 dặm/giờ (như được biểu thị bằng đồng hồ tốc độ không đáng tin cậy của bạn). Hợp đồng nhận thức mang lại sự đảm bảo tương tự về sự an toàn của một hệ thống không hoàn hảo phụ thuộc vào học máy.

“Bạn không cần nhận thức hoàn hảo,” Carlone nói. “Bạn chỉ muốn nó đủ tốt để không gây nguy hiểm cho sự an toàn.” Ông nói, đóng góp lớn nhất của nhóm là “giới thiệu toàn bộ ý tưởng về hợp đồng nhận thức” và cung cấp các phương pháp để xây dựng chúng. Họ đã làm điều này bằng cách dựa trên các kỹ thuật từ ngành khoa học máy tính được gọi là xác minh chính thức, cung cấp một phương pháp toán học để xác nhận rằng hành vi của một hệ thống đáp ứng một bộ yêu cầu.

Mitra cho biết: “Mặc dù chúng tôi không biết chính xác mạng lưới thần kinh hoạt động như thế nào nhưng họ đã chỉ ra rằng vẫn có thể chứng minh bằng số liệu rằng độ không đảm bảo về đầu ra của mạng lưới thần kinh nằm trong một số giới hạn nhất định. Và nếu đúng như vậy thì hệ thống sẽ an toàn. “Sau đó, chúng tôi có thể cung cấp một đảm bảo thống kê về việc liệu (và ở mức độ nào) một mạng lưới thần kinh nhất định có thực sự đáp ứng các giới hạn đó hay không.”

Công ty hàng không vũ trụ Sierra Nevada hiện đang thử nghiệm những đảm bảo an toàn này khi hạ cánh máy bay không người lái trên tàu sân bay. Vấn đề này về mặt nào đó phức tạp hơn việc lái ô tô vì có thêm chiều liên quan đến việc bay. “Khi hạ cánh, có hai nhiệm vụ chính,” nói Dragos Margineantu, Giám đốc công nghệ AI của Boeing, “căn chỉnh máy bay theo đường băng và đảm bảo đường băng không có chướng ngại vật. Công việc của chúng tôi với Sayan liên quan đến việc nhận được sự đảm bảo cho hai chức năng đó.”

Ông nói: “Các mô phỏng sử dụng thuật toán của Sayan cho thấy khả năng căn chỉnh [của máy bay trước khi hạ cánh] được cải thiện”. Bước tiếp theo, được lên kế hoạch vào cuối năm nay, là sử dụng các hệ thống này khi thực sự hạ cánh một chiếc máy bay thử nghiệm của Boeing. Margineantu lưu ý, một trong những thách thức lớn nhất sẽ là tìm ra những gì chúng ta chưa biết - “xác định độ không chắc chắn trong ước tính của chúng tôi” - và xem điều đó ảnh hưởng đến sự an toàn như thế nào. “Hầu hết các lỗi đều xảy ra khi chúng ta làm những việc mà chúng ta nghĩ là mình biết - nhưng hóa ra chúng ta lại không biết.”