Hvordan garantere sikkerheten til autonome kjøretøy | Quanta Magazine

Førerløse biler og fly er ikke lenger fremtidens ting. Bare i byen San Francisco har to taxiselskaper samlet logget 8 millioner miles autonom kjøring gjennom august 2023. Og mer enn 850,000 XNUMX autonome luftfartøyer, eller droner, er registrert i USA – ikke medregnet de som eies av militæret.

Men det er legitime bekymringer om sikkerhet. For eksempel, i en 10-måneders periode som endte i mai 2022, National Highway Traffic Safety Administration rapportert nesten 400 ulykker med biler som bruker en form for autonom kontroll. Seks personer døde som følge av disse ulykkene, og fem ble alvorlig skadet.

Den vanlige måten å løse dette problemet på - noen ganger kalt "testing ved utmattelse" - innebærer å teste disse systemene til du er fornøyd med at de er trygge. Men du kan aldri være sikker på at denne prosessen vil avdekke alle potensielle feil. "Folk utfører tester til de har brukt opp ressursene og tålmodigheten," sa Sayan Mitra, en informatiker ved University of Illinois, Urbana-Champaign. Testing alene kan imidlertid ikke gi garantier.

Mitra og kollegene hans kan. Teamet hans har klart det bevise de sikkerhet av kjørefeltsporingsmuligheter for biler og landingssystemer for autonome fly. Strategien deres brukes nå for å hjelpe med å lande droner på hangarskip, og Boeing planlegger å teste den på et eksperimentelt fly i år. "Deres metode for å gi ende-til-ende sikkerhetsgarantier er veldig viktig," sa Corina Pasareanu, en forsker ved Carnegie Mellon University og NASAs Ames Research Center.

Arbeidet deres innebærer å garantere resultatene av maskinlæringsalgoritmene som brukes til å informere autonome kjøretøy. På et høyt nivå har mange autonome kjøretøy to komponenter: et perseptuelt system og et kontrollsystem. Persepsjonssystemet forteller deg for eksempel hvor langt bilen din er fra midten av kjørefeltet, eller hvilken retning et fly er på vei i og hvilken vinkel det har i forhold til horisonten. Systemet fungerer ved å mate rådata fra kameraer og andre sensoriske verktøy til maskinlæringsalgoritmer basert på nevrale nettverk, som gjenskaper miljøet utenfor kjøretøyet.

Disse vurderingene sendes så til et eget system, kontrollmodulen, som bestemmer hva som skal gjøres. Hvis det for eksempel er en kommende hindring, bestemmer den om den skal bremse eller styre rundt den. I følge Luca Carlone, en førsteamanuensis ved Massachusetts Institute of Technology, mens kontrollmodulen er avhengig av veletablert teknologi, "tar den beslutninger basert på persepsjonsresultatene, og det er ingen garanti for at disse resultatene er korrekte."

For å gi en sikkerhetsgaranti jobbet Mitras team med å sikre påliteligheten til kjøretøyets oppfatningssystem. De antok først at det er mulig å garantere sikkerhet når en perfekt gjengivelse av omverdenen er tilgjengelig. De bestemte deretter hvor mye feil persepsjonssystemet introduserer i sin gjenskaping av kjøretøyets omgivelser.

Nøkkelen til denne strategien er å kvantifisere usikkerheten som er involvert, kjent som feilbåndet - eller de "kjente ukjente", som Mitra sa det. Det regnestykket kommer fra det han og teamet hans kaller en persepsjonskontrakt. I programvareteknikk er en kontrakt en forpliktelse om at for en gitt inngang til et dataprogram vil produksjonen falle innenfor et spesifisert område. Det er ikke lett å finne ut av dette området. Hvor nøyaktige er bilens sensorer? Hvor mye tåke, regn eller solskinn tåler en drone? Men hvis du kan holde kjøretøyet innenfor et spesifisert usikkerhetsområde, og hvis bestemmelsen av denne rekkevidden er tilstrekkelig nøyaktig, beviste Mitras team at du kan sikre sikkerheten.

Det er en kjent situasjon for alle med et upresist speedometer. Hvis du vet at enheten aldri er av med mer enn 5 miles per time, kan du fortsatt unngå å kjøre fort ved å alltid holde deg 5 mph under fartsgrensen (som indikert av ditt upålitelige speedometer). En persepsjonskontrakt gir en lignende garanti for sikkerheten til et ufullkomment system som er avhengig av maskinlæring.

"Du trenger ikke perfekt oppfatning," sa Carlone. "Du vil bare at den skal være god nok for ikke å sette sikkerheten i fare." Teamets største bidrag, sa han, er å "introdusere hele ideen om persepsjonskontrakter" og gi metodene for å konstruere dem. De gjorde dette ved å trekke på teknikker fra grenen av informatikk kalt formell verifikasjon, som gir en matematisk måte å bekrefte at oppførselen til et system tilfredsstiller et sett med krav.

"Selv om vi ikke vet nøyaktig hvordan det nevrale nettverket gjør det det gjør," sa Mitra, viste de at det fortsatt er mulig å bevise numerisk at usikkerheten til et nevralt nettverks utgang ligger innenfor visse grenser. Og hvis det er tilfelle, vil systemet være trygt. "Vi kan da gi en statistisk garanti for om (og i hvilken grad) et gitt nevralt nettverk faktisk vil møte disse grensene."

Luftfartsselskapet Sierra Nevada tester for tiden disse sikkerhetsgarantiene mens de lander en drone på et hangarskip. Dette problemet er på noen måter mer komplisert enn å kjøre bil på grunn av den ekstra dimensjonen det innebærer å fly. "Ved landing er det to hovedoppgaver," sa Dragos Margineantu, AI-sjefteknolog i Boeing, «justerer flyet med rullebanen og sørger for at rullebanen er fri for hindringer. Vårt arbeid med Sayan innebærer å få garantier for disse to funksjonene.»

"Simuleringer som bruker Sayans algoritme viser at justeringen [av et fly før landing] forbedres," sa han. Det neste trinnet, planlagt senere i år, er å bruke disse systemene mens du faktisk lander et Boeing-eksperimentfly. En av de største utfordringene, bemerket Margineantu, vil være å finne ut hva vi ikke vet - "bestemme usikkerheten i våre estimater" - og se hvordan det påvirker sikkerheten. "De fleste feil skjer når vi gjør ting vi tror vi vet - og det viser seg at vi ikke gjør det."