Spletni seminar o zbiranju predlogov NSF: sistemi, ki podpirajo varno učenje

Nacionalna znanstvena fundacija (NSF) bo pripravila spletni seminar za zbiranje predlogov "Sistemi, ki podpirajo varno učenje” 5. aprila 2023 od 1 do 00 po vzhodnem času.

Povzetek spletnega seminarja: Ker se sistemi umetne inteligence (AI) hitro povečujejo, pridobivajo nove zmogljivosti in se uporabljajo v okoljih z visokimi vložki, postane njihova varnost izjemno pomembna. Zagotavljanje varnosti sistema zahteva več kot samo izboljšanje natančnosti, učinkovitosti in razširljivosti: zahteva zagotavljanje, da so sistemi robustni na ekstremne dogodke, in njihovo spremljanje glede neobičajnega in nevarnega vedenja.

Cilj programa Safe Learning-Enabled Systems, ki je partnerstvo med National Science Foundation, Open Philanthropy in Good Ventures, je spodbujati temeljne raziskave, ki vodijo k oblikovanju in izvajanju sistemov, ki omogočajo učenje, v katerih je varnost zagotovljena z visoke stopnje zaupanja. Medtem ko se tradicionalni sistemi strojnega učenja ocenjujejo točkovno glede na fiksni preskusni niz, taka statična pokritost zagotavlja le omejeno zagotovilo, ko je izpostavljena razmeram brez primere v visoko tveganih delovnih okoljih. Preverjanje, ali učne komponente takih sistemov dosegajo varnostna jamstva za vse možne vnose, je lahko težavno, če ne nemogoče. Namesto tega bo pogosto treba vzpostaviti varnostna jamstva sistema glede na sistematično ustvarjene podatke iz realističnih (a ustrezno pesimističnih) delovnih okolij. Varnost zahteva tudi odpornost na "neznane neznanke", kar zahteva izboljšane metode za spremljanje nepričakovanih okoljskih nevarnosti ali neobičajnega vedenja sistema, tudi med uvajanjem. V nekaterih primerih lahko varnost dodatno zahteva nove metode za obratno inženirstvo, inšpekcijo in interpretacijo notranje logike naučenih modelov za prepoznavanje nepričakovanega vedenja, ki ga ni bilo mogoče najti samo s testiranjem črne skrinjice, in metode za izboljšanje delovanja z neposrednim prilagajanjem notranjo logiko sistema. Ne glede na nastavitev morajo biti varnostna jamstva vsakega sistema, ki podpira učenje, jasno in natančno navedena. Vsak sistem, ki trdi, da izpolnjuje varnostno specifikacijo, mora zagotoviti stroge dokaze z analizo, potrjeno empirično in/ali z matematičnimi dokazi.

Ta spletni seminar bo razpravljal o natečaju in odgovarjal na vprašanja raziskovalne skupnosti.

Prijavite se na spletni seminar tukaj.