Webinárium az NSF ajánlatkérésről: Biztonságos tanulást lehetővé tévő rendszerek

A Nemzeti Tudományos Alapítvány (NSF) webináriumot tart pályázati felhívásukhoz.Biztonságos tanulást támogató rendszerek” 5. április 2023-én, keleti idő szerint 1:00–2:00.

A webinárium összefoglalója: Ahogy a mesterséges intelligencia (AI) rendszerek mérete gyorsan növekszik, új képességekre tesznek szert, és nagy téttel rendelkező körülmények között alkalmazzák őket, biztonságuk rendkívül fontossá válik. A rendszerbiztonság biztosítása többet igényel, mint a pontosság, a hatékonyság és a méretezhetőség javítása: gondoskodni kell arról, hogy a rendszerek robusztusak legyenek a szélsőséges eseményekkel szemben, és figyelni kell őket a rendellenes és nem biztonságos viselkedésre.

A Safe Learning-Enabled Systems program, amely a National Science Foundation, az Open Philanthropy és a Good Ventures partnersége, célja olyan alapkutatás előmozdítása, amely olyan tanulást lehetővé tévő rendszerek tervezéséhez és megvalósításához vezet, amelyekben a biztonság garantált magas szintű önbizalom. Míg a hagyományos gépi tanulási rendszereket pontszerűen értékelik egy rögzített tesztkészlethez képest, az ilyen statikus lefedettség csak korlátozott biztosítékot ad, ha példátlan körülményeknek vannak kitéve nagy téttel rendelkező működési környezetekben. Nehéz lehet, ha nem lehetetlen ellenőrizni, hogy az ilyen rendszerek tanulóelemei minden lehetséges bemenetre biztosítsák a biztonsági garanciákat. Ehelyett gyakran meg kell határozni a rendszer biztonsági garanciáit a reális (de megfelelően pesszimista) működési környezetekből szisztematikusan generált adatok tekintetében. A biztonság az „ismeretlen ismeretlenekkel” szembeni ellenálló képességet is megköveteli, ami továbbfejlesztett módszereket tesz szükségessé a váratlan környezeti veszélyek vagy rendellenes rendszerviselkedések megfigyelésére, beleértve a telepítés során is. Egyes esetekben a biztonság további új módszereket igényelhet a tanult modellek belső logikájának visszafejtésére, ellenőrzésére és értelmezésére, hogy azonosítani lehessen azokat a váratlan viselkedéseket, amelyeket a feketedobozos tesztelés önmagában nem találhatna meg, valamint módszereket a teljesítmény javítására közvetlen adaptációval. a rendszerek belső logikája. Bármilyen beállítás is legyen, minden tanulásra alkalmas rendszer végponttól végpontig terjedő biztonsági garanciáit egyértelműen és pontosan meg kell határozni. Minden olyan rendszernek, amely azt állítja, hogy megfelel a biztonsági előírásoknak, szigorú bizonyítékot kell szolgáltatnia empirikusan és/vagy matematikailag alátámasztott elemzésen keresztül.

Ez a webinárium megvitatja a felkéréseket, és válaszol a kutatói közösség kérdéseire.

Regisztráljon a webinarhoz itt.