Webinar om NSF Proposal Solicitation: Safe-Learning Enabled Systems

National Science Foundation (NSF) vil holde et webinar for deres forslagsoppfordring "Safe-Learning-aktiverte systemer” 5. april 2023, 1:00–2:00 Eastern Time.

Webinar synopsis: Ettersom kunstig intelligens (AI)-systemer raskt øker i størrelse, får nye evner og distribueres i høyinnsatsmiljøer, blir sikkerheten deres ekstremt viktig. Å sikre systemsikkerhet krever mer enn å forbedre nøyaktighet, effektivitet og skalerbarhet: det krever å sikre at systemene er robuste mot ekstreme hendelser, og overvåke dem for unormal og usikker oppførsel.

Målet med Safe Learning-Enabled Systems-programmet, som er et partnerskap mellom National Science Foundation, Open Philanthropy og Good Ventures, er å fremme grunnleggende forskning som fører til design og implementering av læringsaktiverte systemer der sikkerheten er ivaretatt med høye nivåer av tillit. Mens tradisjonelle maskinlæringssystemer blir evaluert punktvis med hensyn til et fast testsett, gir slik statisk dekning kun begrenset sikkerhet når de utsettes for enestående forhold i driftsmiljøer med høy innsats. Å verifisere at læringskomponenter i slike systemer oppnår sikkerhetsgarantier for alle mulige innganger kan være vanskelig, om ikke umulig. I stedet vil et systems sikkerhetsgarantier ofte måtte etableres med hensyn til systematisk genererte data fra realistiske (men passende pessimistiske) driftsmiljøer. Sikkerhet krever også motstand mot "ukjente ukjente", noe som nødvendiggjør forbedrede metoder for overvåking av uventede miljøfarer eller unormal systematferd, inkludert under distribusjon. I noen tilfeller kan sikkerhet videre kreve nye metoder for omvendt utvikling, inspeksjon og tolkning av den interne logikken til innlærte modeller for å identifisere uventet atferd som ikke kunne bli funnet ved black-box-testing alene, og metoder for å forbedre ytelsen ved direkte tilpasning systemenes interne logikk. Uansett innstilling, må alle læringsaktiverte systems ende-til-ende sikkerhetsgarantier spesifiseres klart og presist. Ethvert system som hevder å tilfredsstille en sikkerhetsspesifikasjon må gi strenge bevis, gjennom analyser bekreftet empirisk og/eller med matematiske bevis.

Dette webinaret vil diskutere oppfordringen og svare på spørsmål fra forskningsmiljøet.

Registrer deg for webinar her..