Veebiseminar NSF-i ettepanekute kohta: ohutut õppimist võimaldavad süsteemid

Riiklik teadusfond (NSF) korraldab oma ettepanekute esitamiseks veebiseminari.Ohutu õppimist võimaldavad süsteemid” 5. aprillil 2023 kell 1–00 ida aja järgi.

Veebiseminari kokkuvõte: Kuna tehisintellekti (AI) süsteemide suurus kasvab kiiresti, omandab uusi võimalusi ja neid kasutatakse kõrge panusega seadetes, muutub nende ohutus äärmiselt oluliseks. Süsteemi ohutuse tagamine eeldab enamat kui täpsuse, tõhususe ja mastaapsuse parandamist: selleks on vaja tagada, et süsteemid oleksid vastupidavad äärmuslikele sündmustele ning jälgida neid anomaalse ja ohtliku käitumise suhtes.

Programmi Safe Learning-Enabled Systems, mis on partnerlus National Science Foundationi, Open Philanthropy ja Good Venturesi vahel, eesmärk on edendada alusuuringuid, mis viivad õppimisvõimeliste süsteemide kavandamiseni ja juurutamiseni, kus ohutus on tagatud kõrge enesekindluse tase. Kui traditsioonilisi masinõppesüsteeme hinnatakse fikseeritud testikomplekti suhtes punktipõhiselt, annab selline staatiline katvus vaid piiratud kindluse, kui see puutub kokku enneolematute tingimustega kõrge panusega töökeskkondades. Kontrollida, kas selliste süsteemide õppekomponendid tagavad kõigi võimalike sisendite ohutustagatised, võib olla keeruline, kui mitte võimatu. Selle asemel tuleb sageli kehtestada süsteemi ohutustagatised süstemaatiliselt genereeritud andmete osas realistlikust (kuid piisavalt pessimistlikust) töökeskkonnast. Ohutus nõuab ka vastupidavust "tundmatutele tundmatutele", mis nõuab täiustatud meetodeid ootamatute keskkonnaohtude või süsteemi ebanormaalse käitumise jälgimiseks, sealhulgas kasutuselevõtu ajal. Mõnel juhul võib ohutus nõuda täiendavalt uusi meetodeid õpitud mudelite sisemise loogika pöördprojekteerimiseks, kontrollimiseks ja tõlgendamiseks, et tuvastada ootamatu käitumine, mida ei leitud ainult musta kasti testimisega, ja meetodeid jõudluse parandamiseks otsese kohandamise teel. süsteemide sisemine loogika. Olenemata seadistusest tuleb iga õppimisvõimelise süsteemi täielikud ohutusgarantiid selgelt ja täpselt määratleda. Kõik süsteemid, mis väidavad, et nad vastavad ohutusnõuetele, peavad esitama rangeid tõendeid empiiriliselt ja/või matemaatiliselt kinnitatud analüüsi kaudu.

Sellel veebiseminaril arutatakse pakkumisi ja vastatakse teadlaskonna küsimustele.

Registreeru veebiseminarile siin.