Webbseminarium om NSF Proposal Solicitation: Safe-Learning Enabled Systems

National Science Foundation (NSF) kommer att hålla ett webinar för deras förslagsinfordran "Safe-Learning-aktiverade system” den 5 april 2023, 1:00–2:00 Eastern Time.

Sammanfattning av webbseminariet: Eftersom system med artificiell intelligens (AI) snabbt ökar i storlek, får nya möjligheter och distribueras i miljöer med hög insats, blir deras säkerhet extremt viktig. Att säkerställa systemsäkerhet kräver mer än att förbättra noggrannhet, effektivitet och skalbarhet: det kräver att man säkerställer att systemen är robusta mot extrema händelser och övervakar dem för avvikande och osäker beteende.

Målet med programmet Safe Learning-Enabled Systems, som är ett partnerskap mellan National Science Foundation, Open Philanthropy och Good Ventures, är att främja grundläggande forskning som leder till design och implementering av inlärningsaktiverade system där säkerheten säkerställs med höga nivåer av förtroende. Medan traditionella maskininlärningssystem utvärderas punktvis med avseende på ett fast testset, ger sådan statisk täckning endast begränsad säkerhet när de utsätts för aldrig tidigare skådade förhållanden i höginsatsmiljöer. Att verifiera att inlärningskomponenter i sådana system uppnår säkerhetsgarantier för alla möjliga indata kan vara svårt, för att inte säga omöjligt. Istället kommer ett systems säkerhetsgarantier ofta att behöva fastställas med avseende på systematiskt genererad data från realistiska (men passande pessimistiska) driftsmiljöer. Säkerhet kräver också motståndskraft mot "okända okända", vilket kräver förbättrade metoder för övervakning av oväntade miljörisker eller onormalt systembeteende, inklusive under driftsättning. I vissa fall kan säkerheten ytterligare kräva nya metoder för omvänd konstruktion, inspektion och tolkning av inlärda modellers interna logik för att identifiera oväntat beteende som inte kunde hittas med enbart black-box-testning, och metoder för att förbättra prestandan genom att direkt anpassa systemens interna logik. Oavsett inställning måste alla inlärningsaktiverade systems fullständiga säkerhetsgarantier specificeras tydligt och exakt. Alla system som hävdar att de uppfyller en säkerhetsspecifikation måste tillhandahålla rigorösa bevis, genom analys bekräftad empiriskt och/eller med matematiska bevis.

Detta webbseminarium kommer att diskutera värvningen och svara på frågor från forskarsamhället.

Registrera dig för webbseminariet här..