Bevezetés
A vezető nélküli autók és repülők már nem a jövő dolgai. Csak San Francisco városában két taxitársaság együttesen 8 millió mérföldnyi autonóm vezetést hajtott végre 2023 augusztusáig. Az Egyesült Államokban pedig több mint 850,000 XNUMX autonóm légi járművet vagy drónt tartanak nyilván – nem számítva a katonaság tulajdonában lévőket.
De vannak jogos aggodalmak a biztonsággal kapcsolatban. Például egy 10 hónapos időszakban, amely 2022 májusában ért véget, az Országos Közúti Közlekedésbiztonsági Hivatal jelentett közel 400 olyan ütközés történt, amelyek valamilyen autonóm vezérlést használó autókkal történtek. A balesetekben hatan meghaltak, öten pedig súlyosan megsérültek.
A probléma megoldásának szokásos módja – amelyet néha „kimerülési tesztelésnek” is neveznek – a rendszer tesztelését jelenti, amíg meg nem győződik arról, hogy biztonságosak. De soha nem lehet biztos abban, hogy ez a folyamat feltárja az összes lehetséges hibát. „Az emberek addig végeznek teszteket, amíg ki nem merítik erőforrásaikat és türelmüket” – mondta Sayan Mitra, az Illinoisi Egyetem informatikusa, Urbana-Champaign. A tesztelés önmagában azonban nem nyújt garanciát.
Mitra és kollégái megtehetik. A csapatának sikerült bizonyítani a biztonság az autók sávkövetési képességeinek és leszállórendszerek autonóm repülőgépekhez. Stratégiájukat most a drónok repülőgép-hordozókra történő leszállására használják, a Boeing pedig azt tervezi, hogy még idén kipróbálja egy kísérleti repülőgépen. „Nagyon fontos az a módszerük, amellyel végponttól végpontig biztosítanak biztonsági garanciákat” – mondta Corina Pasareanu, a Carnegie Mellon Egyetem és a NASA Ames Research Center kutatója.
Munkájuk az autonóm járművek informálására használt gépi tanulási algoritmusok eredményének garantálása. Magas szinten sok autonóm járműnek két összetevője van: egy észlelési rendszer és egy vezérlőrendszer. Az érzékelési rendszer megmondja például, hogy az autó milyen messze van a sáv közepétől, vagy milyen irányba halad egy repülőgép, és mekkora a szöge a horizonthoz képest. A rendszer úgy működik, hogy a kamerákból és más szenzoros eszközökből nyers adatokat táplál be neurális hálózatokon alapuló gépi tanulási algoritmusokhoz, amelyek újrateremtik a járművön kívüli környezetet.
Ezek az értékelések ezután egy külön rendszerbe, a vezérlőmodulba kerülnek, amely eldönti, hogy mit kell tenni. Ha például akadályba ütközik, akkor eldönti, hogy fékez-e vagy megkerüli-e. Alapján Luca Carlone, a Massachusetts Institute of Technology docense, míg a vezérlőmodul jól bevált technológiára támaszkodik, „az észlelési eredmények alapján hoz döntéseket, és nincs garancia arra, hogy ezek az eredmények helyesek.”
A biztonság garantálása érdekében a Mitra csapata a jármű érzékelési rendszerének megbízhatóságán dolgozott. Először azt feltételezték, hogy akkor lehet garantálni a biztonságot, ha rendelkezésre áll a külvilág tökéletes megjelenítése. Ezután meghatározták, hogy az észlelési rendszer mekkora hibát okoz a jármű környezetének újraalkotásában.
Ennek a stratégiának a kulcsa az, hogy számszerűsítsük az érintett bizonytalanságokat, amelyeket hibasávnak neveznek – vagy az „ismert ismeretleneknek”, ahogy Mitra fogalmazott. Ez a számítás abból származik, amit ő és csapata észlelési szerződésnek nevez. A szoftverfejlesztésben a szerződés olyan kötelezettségvállalás, amely szerint egy számítógépes program adott bemeneténél a kimenet egy meghatározott tartományba esik. Ezt a tartományt nem könnyű kitalálni. Mennyire pontosak az autó érzékelői? Mennyi ködöt, esőt vagy napfényt tud elviselni egy drón? Ám ha a járművet egy meghatározott bizonytalansági tartományon belül tudja tartani, és ennek a tartománynak a meghatározása kellően pontos, a Mitra csapata bebizonyította, hogy tudja garantálni a biztonságát.
Bevezetés
Mindenki számára ismerős a helyzet, akinek pontatlan a sebességmérője. Ha tudja, hogy az eszköz soha nem kapcsol ki 5 mérföld/óránál nagyobb sebességgel, akkor is elkerülheti a gyorshajtást, ha mindig 5 mérföld/órával a sebességhatár alatt marad (ahogy ezt a megbízhatatlan sebességmérő jelzi). Az észlelési szerződés hasonló garanciát nyújt egy tökéletlen rendszer biztonságára, amely a gépi tanulástól függ.
– Nincs szükséged tökéletes érzékelésre – mondta Carlone. „Csak azt akarod, hogy elég jó legyen, nehogy veszélybe sodord a biztonságot.” A csapat legnagyobb hozzájárulása szerinte „az észlelési szerződések teljes gondolatának megismertetése” és a megalkotásukhoz szükséges módszerek biztosítása. Ezt úgy tették, hogy a számítástechnika formális verifikációnak nevezett ágának technikáira támaszkodtak, amely matematikai módszert ad annak igazolására, hogy egy rendszer viselkedése megfelel a követelményeknek.
"Bár nem tudjuk pontosan, hogy a neurális hálózat hogyan csinálja, amit csinál" - mondta Mitra, megmutatták, hogy még mindig lehetséges számszerűsíteni, hogy egy neurális hálózat kimenetének bizonytalansága bizonyos határokon belül van. És ha ez a helyzet, akkor a rendszer biztonságos lesz. "Ezután statisztikai garanciát tudunk nyújtani arra vonatkozóan, hogy egy adott neurális hálózat valóban megfelel-e (és milyen mértékben) ezeknek a határoknak."
A Sierra Nevada repülőgépipari vállalat jelenleg teszteli ezeket a biztonsági garanciákat, miközben drónt landol egy repülőgép-hordozóra. Ez a probléma bizonyos szempontból bonyolultabb, mint az autóvezetés a repüléssel járó extra dimenzió miatt. „A leszállásnál két fő feladat van” – mondta Dragos Margineantu, a Boeing mesterséges intelligencia vezető technológusa, „a gépet a kifutópályához igazítja, és gondoskodik arról, hogy a kifutópálya akadálymentes legyen. A Sayannel végzett munkánk magában foglalja a garanciák megszerzését erre a két funkcióra.”
"A Sayan algoritmusát használó szimulációk azt mutatják, hogy a [repülőgép leszállás előtti helyzete] valóban javul" - mondta. A következő, az év végére tervezett lépés az, hogy ezeket a rendszereket alkalmazzák egy Boeing kísérleti repülőgép leszállása közben. Margineantu megjegyezte, hogy az egyik legnagyobb kihívás az lesz, hogy kitaláljuk, mit nem tudunk – „meg kell határozni a becsléseinkben rejlő bizonytalanságot” –, és látni, hogy ez hogyan befolyásolja a biztonságot. „A legtöbb hiba akkor történik, amikor olyan dolgokat teszünk, amelyekről azt hiszik, hogy tudunk – és kiderül, hogy nem.”
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://www.quantamagazine.org/how-to-guarantee-the-safety-of-autonomous-vehicles-20240116/
- :van
- :is
- :nem
- ][p
- 000
- 2022
- 2023
- 400
- 8
- a
- Rólunk
- balesetek
- Szerint
- pontos
- ACM
- tulajdonképpen
- címzés
- igazgatás
- légtér
- AI
- repülőgép
- algoritmus
- algoritmusok
- igazítás
- Minden termék
- kizárólag
- mindig
- an
- és a
- bárki
- alkalmaz
- VANNAK
- körül
- AS
- értékelések
- Társult
- feltételezte
- At
- Augusztus
- autonóm
- autonóm járművek
- elérhető
- elkerülése érdekében
- ZENEKAR
- alapján
- BE
- mert
- viselkedés
- hogy
- lent
- Legnagyobb
- Boeing
- határokat
- Ág
- de
- by
- számítás
- hívás
- hívott
- kamerák
- TUD
- nem tud
- képességek
- autó
- Carnegie Mellon
- hordozók
- visz
- autók
- eset
- Központ
- bizonyos
- kihívások
- fő
- Város
- munkatársai
- együttesen
- jön
- elkötelezettség
- Companies
- vállalat
- bonyolult
- alkatrészek
- számítógép
- Computer Science
- aggodalmak
- építése
- szerződés
- hozzájárulások
- ellenőrzés
- kijavítására
- számolás
- Jelenleg
- dátum
- határozatok
- Fok
- függ
- meghatározás
- eltökélt
- eszköz
- DID
- meghalt
- Dimenzió
- irány
- do
- nem
- ne
- rajz
- vezetés
- zümmög
- Drónok
- könnyű
- végtől végig
- véget ért
- Mérnöki
- elég
- biztosítására
- biztosítása
- Egész
- Környezet
- hiba
- hibák
- pontosan
- példa
- kísérleti
- külön-
- Esik
- ismerős
- messze
- táplálás
- vezetéknév
- öt
- hibái
- repülő
- Köd
- A
- forma
- hivatalos
- Francisco
- Ingyenes
- ból ből
- funkciók
- jövő
- szerzés
- adott
- jó
- garancia
- garanciák
- történik
- Legyen
- he
- Cím
- segít
- Magas
- Országút
- övé
- horizont
- óra
- Hogyan
- How To
- azonban
- HTML
- HTTPS
- ötlet
- IEEE
- if
- Illinois
- fontos
- javul
- in
- jelzett
- tájékoztat
- bemenet
- példa
- Intézet
- bele
- Bemutatja
- részt
- bevonásával
- kérdés
- IT
- ITS
- éppen
- Tart
- Kulcs
- Ismer
- ismert
- Telek
- leszállási
- Ösvény
- a későbbiekben
- tanulás
- jogos
- szint
- fekszik
- LIMIT
- bejelentkezve
- hosszabb
- gép
- gépi tanulás
- magazin
- Fő
- Gyártás
- sikerült
- sok
- Massachusetts
- Massachusetts Institute of Technology
- matematikai
- Lehet..
- Találkozik
- Mellon
- módszer
- mód
- Katonai
- millió
- MIT
- Modulok
- több
- sok
- nemzeti
- közel
- Szükség
- hálózat
- hálózatok
- ideg-
- neurális hálózat
- neurális hálózatok
- NEVADA
- soha
- következő
- nem
- neves
- Most
- akadály
- akadályok
- of
- kedvezmény
- on
- ONE
- működik
- or
- Más
- mi
- ki
- teljesítmény
- kívül
- tulajdonú
- Türelem
- Emberek (People)
- mert
- észlelés
- tökéletes
- időszak
- repülőgép
- tervezett
- tervek
- Plató
- Platón adatintelligencia
- PlatoData
- lehetséges
- potenciális
- Előzetes
- Probléma
- folyamat
- Egyetemi tanár
- Program
- Bizonyít
- bizonyított
- ad
- biztosít
- amely
- tesz
- RAIN
- hatótávolság
- Nyers
- nyilvántartott
- megbízhatóság
- vakolás
- követelmények
- kutatás
- Tudástár
- tisztelet
- eredményez
- Eredmények
- Kockázat
- kifutópálya
- biztonságos
- Biztonság
- Mondott
- San
- San Francisco
- elégedett
- Tudomány
- Tudós
- látás
- érzékelők
- küldött
- különálló
- Komolyan
- készlet
- előadás
- kimutatta,
- hasonló
- helyzet
- SIX
- So
- szoftver
- szoftverfejlesztés
- nap
- néhány
- néha
- meghatározott
- sebesség
- Államok
- statisztikai
- tartózkodás
- tinó
- Lépés
- Még mindig
- Stratégia
- biztos
- rendszer
- Systems
- feladatok
- csapat
- technikák
- technológus
- Technológia
- megmondja
- teszt
- Tesztelés
- tesztek
- mint
- hogy
- A
- A jövő
- azok
- Őket
- akkor
- Ott.
- Ezek
- ők
- dolgok
- Szerintem
- ezt
- idén
- azok
- bár?
- Keresztül
- nak nek
- szerszámok
- forgalom
- fordul
- kettő
- bizonytalanságok
- Bizonytalanság
- feltárni
- Egyesült
- Egyesült Államok
- egyetemi
- -ig
- közelgő
- használt
- segítségével
- szokásos
- jármű
- Járművek
- Igazolás
- nagyon
- akar
- Út..
- módon
- we
- webp
- voltak
- Mit
- amikor
- vajon
- ami
- míg
- lesz
- val vel
- belül
- Munka
- dolgozott
- világ
- év
- te
- A te
- zephyrnet