Sådan garanteres sikkerheden for autonome køretøjer | Quanta Magasinet

Førerløse biler og fly er ikke længere fremtidens ting. Alene i byen San Francisco har to taxaselskaber samlet logget 8 millioner miles af autonom kørsel frem til august 2023. Og mere end 850,000 autonome luftkøretøjer eller droner er registreret i USA - ikke medregnet dem, der ejes af militæret.

Men der er legitime bekymringer om sikkerheden. For eksempel, i en 10-måneders periode, der sluttede i maj 2022, National Highway Traffic Safety Administration rapporteret næsten 400 ulykker med biler, der bruger en form for autonom kontrol. Seks mennesker døde som følge af disse ulykker, og fem blev alvorligt såret.

Den sædvanlige måde at løse dette problem på - nogle gange kaldet "testning ved udmattelse" - involverer at teste disse systemer, indtil du er tilfreds med, at de er sikre. Men du kan aldrig være sikker på, at denne proces vil afdække alle potentielle fejl. "Folk udfører test, indtil de har opbrugt deres ressourcer og tålmodighed," sagde Sayan Mitra, en datalog ved University of Illinois, Urbana-Champaign. Test alene kan dog ikke give garantier.

Mitra og hans kolleger kan. Det har hans hold formået bevise og sikkerhed af banesporingsmuligheder for biler og landingssystemer for autonome fly. Deres strategi bliver nu brugt til at hjælpe med at lande droner på hangarskibe, og Boeing planlægger at teste det på et eksperimentelt fly i år. "Deres metode til at levere end-to-end sikkerhedsgarantier er meget vigtig," sagde Corina Pasareanu, en forsker ved Carnegie Mellon University og NASAs Ames Research Center.

Deres arbejde involverer at garantere resultaterne af de maskinlæringsalgoritmer, der bruges til at informere autonome køretøjer. På et højt niveau har mange autonome køretøjer to komponenter: et perceptuelt system og et kontrolsystem. Perceptionssystemet fortæller dig for eksempel, hvor langt din bil er fra midten af ​​vognbanen, eller hvilken retning et fly er på vej i, og hvad dets vinkel er i forhold til horisonten. Systemet fungerer ved at føre rådata fra kameraer og andre sensoriske værktøjer til maskinlæringsalgoritmer baseret på neurale netværk, som genskaber miljøet uden for køretøjet.

Disse vurderinger sendes derefter til et separat system, kontrolmodulet, som beslutter, hvad der skal gøres. Hvis der for eksempel er en forestående forhindring, beslutter den, om den skal bremse eller styre rundt om den. Ifølge Luca Carlone, en lektor ved Massachusetts Institute of Technology, mens kontrolmodulet er afhængig af veletableret teknologi, "det træffer beslutninger baseret på opfattelsesresultaterne, og der er ingen garanti for, at disse resultater er korrekte."

For at give en sikkerhedsgaranti arbejdede Mitras team på at sikre pålideligheden af ​​køretøjets perceptionssystem. De antog først, at det er muligt at garantere sikkerheden, når en perfekt gengivelse af omverdenen er tilgængelig. De bestemte derefter, hvor meget fejl perceptionssystemet introducerer i dets genskabelse af køretøjets omgivelser.

Nøglen til denne strategi er at kvantificere de involverede usikkerheder, kendt som fejlbåndet - eller de "kendte ukendte", som Mitra udtrykte det. Den beregning kommer fra det, han og hans hold kalder en perceptionskontrakt. I software engineering er en kontrakt en forpligtelse om, at outputtet for et givet input til et computerprogram vil falde inden for et specificeret interval. Det er ikke let at finde ud af dette område. Hvor nøjagtige er bilens sensorer? Hvor meget tåge, regn eller solblænding kan en drone tåle? Men hvis du kan holde køretøjet inden for et bestemt usikkerhedsområde, og hvis bestemmelsen af ​​denne rækkevidde er tilstrækkelig nøjagtig, har Mitras team bevist, at du kan sikre dets sikkerhed.

Det er en velkendt situation for alle med et upræcist speedometer. Hvis du ved, at enheden aldrig er slukket med mere end 5 miles i timen, kan du stadig undgå hastighed ved altid at holde dig 5 mph under hastighedsgrænsen (som angivet af dit utroværdige speedometer). En perceptionskontrakt giver en lignende garanti for sikkerheden af ​​et uperfekt system, der afhænger af maskinlæring.

"Du behøver ikke perfekt opfattelse," sagde Carlone. "Du vil bare have, at det er godt nok for ikke at sætte sikkerheden i fare." Holdets største bidrag, sagde han, er "at introducere hele ideen om perceptionskontrakter" og give metoderne til at konstruere dem. Det gjorde de ved at trække på teknikker fra grenen af ​​datalogi kaldet formel verifikation, som giver en matematisk måde at bekræfte, at et systems adfærd opfylder et sæt krav.

"Selvom vi ikke ved præcis, hvordan det neurale netværk gør, hvad det gør," sagde Mitra, de viste, at det stadig er muligt at bevise numerisk, at usikkerheden i et neuralt netværks output ligger inden for visse grænser. Og hvis det er tilfældet, så vil systemet være sikkert. "Vi kan derefter give en statistisk garanti for, om (og i hvilken grad) et givet neuralt netværk rent faktisk vil opfylde disse grænser."

Luftfartsvirksomheden Sierra Nevada tester i øjeblikket disse sikkerhedsgarantier, mens de lander en drone på et hangarskib. Dette problem er på nogle måder mere kompliceret end at køre bil på grund af den ekstra dimension, der er forbundet med at flyve. "Ved landing er der to hovedopgaver," sagde Dragos Margineantu, AI-chefteknolog hos Boeing, "til at justere flyet med landingsbanen og sikre, at banen er fri for forhindringer. Vores arbejde med Sayan involverer at få garantier for disse to funktioner."

"Simuleringer ved hjælp af Sayans algoritme viser, at justeringen [af et fly før landing] forbedres," sagde han. Det næste skridt, der er planlagt til senere i år, er at anvende disse systemer, mens man rent faktisk lander et Boeing-eksperimentfly. En af de største udfordringer, bemærkede Margineantu, vil være at finde ud af, hvad vi ikke ved - "at bestemme usikkerheden i vores estimater" - og se, hvordan det påvirker sikkerheden. "De fleste fejl sker, når vi gør ting, som vi tror, ​​vi ved - og det viser sig, at vi ikke gør det."