Webinaari, jossa käsitellään NSF:n ehdotuspyyntöä: Safe-Learning Enabled Systems

National Science Foundation (NSF) järjestää webinaarin ehdotuspyynnöstään "Turvallista oppimista tukevat järjestelmät” 5. huhtikuuta 2023 klo 1–00 itäistä aikaa.

Webinaarin tiivistelmä: Kun tekoälyjärjestelmien (AI) koko kasvaa nopeasti, ne hankkivat uusia ominaisuuksia ja niitä otetaan käyttöön suuriin panoksiin, niiden turvallisuudesta tulee erittäin tärkeä. Järjestelmän turvallisuuden varmistaminen vaatii muutakin kuin tarkkuuden, tehokkuuden ja skaalautuvuuden parantamista: se edellyttää järjestelmien kestävyyden varmistamista äärimmäisten tapahtumien varalta ja niiden seurantaa epänormaalin ja vaarallisen toiminnan varalta.

Safe Learning-Enabled Systems -ohjelman, joka on National Science Foundationin, Open Philanthropyn ja Good Venturesin kumppanuusyhteistyö, tavoitteena on edistää perustavaa tutkimusta, joka johtaa oppimisen mahdollistavien järjestelmien suunnitteluun ja käyttöönottoon, joissa turvallisuus varmistetaan korkea luottamustaso. Vaikka perinteisiä koneoppimisjärjestelmiä arvioidaan pisteittäin suhteessa kiinteään testisarjaan, tällainen staattinen kattavuus tarjoaa vain rajoitetun varmuuden, kun se altistuu ennennäkemättömille olosuhteille korkean panoksen toimintaympäristöissä. Voi olla vaikeaa, ellei mahdotonta, varmistaa, että tällaisten järjestelmien oppimiskomponentit saavuttavat turvallisuustakuut kaikille mahdollisille syötteille. Sen sijaan järjestelmän turvallisuustakuut on usein laadittava realistisista (mutta sopivan pessimistisistä) toimintaympäristöistä systemaattisesti tuotetuille tiedoille. Turvallisuus edellyttää myös sietokykyä "tuntemattomia tuntemattomia vastaan", mikä edellyttää parannettuja menetelmiä odottamattomien ympäristövaarojen tai järjestelmän poikkeavien toiminnan seurantaan, myös käyttöönoton aikana. Joissakin tapauksissa turvallisuus saattaa vaatia uusia menetelmiä käänteissuunnitteluun, tarkastamiseen ja opittujen mallien sisäisen logiikan tulkitsemiseen, jotta voidaan tunnistaa odottamaton käyttäytyminen, jota ei voitu löytää pelkällä black-box-testauksella, sekä menetelmiä suorituskyvyn parantamiseksi suoraan mukauttamalla. järjestelmien sisäinen logiikka. Asetuksesta riippumatta minkä tahansa oppimisen mahdollistavan järjestelmän päästä päähän -turvatakuut on määriteltävä selkeästi ja tarkasti. Kaikkien järjestelmien, jotka väittävät täyttävänsä turvallisuusspesifikaatiot, on esitettävä tiukka näyttö empiirisesti ja/tai matemaattisesti vahvistetulla analyysillä.

Tässä webinaarissa keskustellaan tarjouspyynnöstä ja vastataan tutkimusyhteisön kysymyksiin.

Rekisteröidy webinariin tätä.