Hur man garanterar säkerheten för autonoma fordon | Quanta Magazine

Förarlösa bilar och flygplan är inte längre framtidens grejer. Bara i staden San Francisco har två taxibolag tillsammans loggat 8 miljoner miles av autonom körning till och med augusti 2023. Och mer än 850,000 XNUMX autonoma flygfordon, eller drönare, är registrerade i USA – inte medräknat de som ägs av militären.

Men det finns legitima farhågor om säkerheten. Till exempel, under en 10-månadersperiod som slutade i maj 2022, National Highway Traffic Safety Administration rapporterade nästan 400 krascher med bilar som använder någon form av autonom kontroll. Sex personer dog till följd av dessa olyckor och fem skadades allvarligt.

Det vanliga sättet att ta itu med detta problem – ibland kallat "testning genom utmattning" – involverar att testa dessa system tills du är nöjd med att de är säkra. Men du kan aldrig vara säker på att denna process kommer att avslöja alla potentiella brister. "Människor utför tester tills de har förbrukat sina resurser och tålamod," sa Sayan Mitra, en datavetare vid University of Illinois, Urbana-Champaign. Enbart testning kan dock inte ge några garantier.

Mitra och hans kollegor kan. Hans lag har lyckats bevisa d säkerhet av körfältsspårningsmöjligheter för bilar och landningssystem för autonoma flygplan. Deras strategi används nu för att hjälpa till att landa drönare på hangarfartyg, och Boeing planerar att testa den på ett experimentflygplan i år. "Deras metod för att tillhandahålla end-to-end-säkerhetsgarantier är mycket viktig," sa Corina Pasareanu, en forskare vid Carnegie Mellon University och NASA:s Ames Research Center.

Deras arbete innebär att garantera resultaten av de maskininlärningsalgoritmer som används för att informera autonoma fordon. På en hög nivå har många autonoma fordon två komponenter: ett perceptuellt system och ett kontrollsystem. Perceptionssystemet talar om för dig till exempel hur långt din bil är från mitten av körfältet, eller vilken riktning ett plan är på väg i och vad dess vinkel är i förhållande till horisonten. Systemet fungerar genom att mata rådata från kameror och andra sensoriska verktyg till maskininlärningsalgoritmer baserade på neurala nätverk, som återskapar miljön utanför fordonet.

Dessa bedömningar skickas sedan till ett separat system, kontrollmodulen, som bestämmer vad som ska göras. Om det till exempel finns ett kommande hinder, bestämmer den om det ska bromsa eller styra runt det. Enligt Luca Carlone, en docent vid Massachusetts Institute of Technology, medan kontrollmodulen förlitar sig på väletablerad teknologi, "fattar den beslut baserat på uppfattningsresultaten, och det finns ingen garanti för att dessa resultat är korrekta."

För att ge en säkerhetsgaranti arbetade Mitras team med att säkerställa tillförlitligheten hos fordonets uppfattningssystem. De antog först att det är möjligt att garantera säkerheten när en perfekt återgivning av omvärlden är tillgänglig. De bestämde sedan hur mycket fel perceptionssystemet introducerar i dess återskapande av fordonets omgivning.

Nyckeln till denna strategi är att kvantifiera de inblandade osäkerheterna, känt som felbandet - eller de "kända okända", som Mitra uttryckte det. Den beräkningen kommer från vad han och hans team kallar ett perceptionskontrakt. Inom mjukvaruteknik är ett kontrakt ett åtagande att, för en given ingång till ett datorprogram, produktionen kommer att falla inom ett specificerat intervall. Det är inte lätt att räkna ut detta intervall. Hur exakta är bilens sensorer? Hur mycket dimma, regn eller solbländning tål en drönare? Men om du kan hålla fordonet inom ett specificerat osäkerhetsområde, och om bestämningen av den räckvidden är tillräckligt exakt, bevisade Mitras team att du kan garantera dess säkerhet.

Det är en bekant situation för alla med en oprecis hastighetsmätare. Om du vet att enheten aldrig är avstängd med mer än 5 miles per timme, kan du fortfarande undvika fortkörning genom att alltid hålla dig 5 mph under hastighetsgränsen (som indikeras av din opålitliga hastighetsmätare). Ett perceptionskontrakt ger en liknande garanti för säkerheten hos ett ofullkomligt system som är beroende av maskininlärning.

"Du behöver inte perfekt uppfattning," sa Carlone. "Du vill bara att det ska vara tillräckligt bra för att inte äventyra säkerheten." Teamets största bidrag, sa han, är att "introducera hela idén om perceptionskontrakt" och tillhandahålla metoderna för att konstruera dem. De gjorde detta genom att använda tekniker från den gren av datavetenskap som kallas formell verifiering, som ger ett matematiskt sätt att bekräfta att ett systems beteende uppfyller en uppsättning krav.

"Även om vi inte vet exakt hur det neurala nätverket gör vad det gör," sa Mitra, visade de att det fortfarande är möjligt att bevisa numeriskt att osäkerheten i ett neuralt nätverks utdata ligger inom vissa gränser. Och om så är fallet kommer systemet att vara säkert. "Vi kan sedan ge en statistisk garanti för huruvida (och i vilken grad) ett givet neuralt nätverk faktiskt kommer att uppfylla dessa gränser."

Flygföretaget Sierra Nevada testar just nu dessa säkerhetsgarantier när de landar en drönare på ett hangarfartyg. Detta problem är på vissa sätt mer komplicerat än att köra bil på grund av den extra dimension som flyget innebär. "Vid landning finns det två huvuduppgifter," sa Dragos Margineantu, AI-chefsteknolog på Boeing, "justera planet med banan och se till att banan är fri från hinder. Vårt arbete med Sayan innebär att vi får garantier för dessa två funktioner."

"Simuleringar med Sayans algoritm visar att inriktningen [av ett flygplan före landning] förbättras", sa han. Nästa steg, planerat till senare i år, är att använda dessa system samtidigt som man faktiskt landar ett Boeing-experimentflygplan. En av de största utmaningarna, konstaterade Margineantu, kommer att vara att ta reda på vad vi inte vet - "bestämma osäkerheten i våra uppskattningar" - och se hur det påverkar säkerheten. "De flesta fel händer när vi gör saker som vi tror att vi vet - och det visar sig att vi inte gör det."