Webinar om NSF Proposal Solicitation: Safe-Learning Enabled Systems

National Science Foundation (NSF) vil afholde et webinar for deres forslagsindkaldelse "Safe-Learning-aktiverede systemer” den 5. april 2023, 1:00-2:00 Eastern Time.

Webinar synopsis: Efterhånden som systemer med kunstig intelligens (AI) hurtigt øges i størrelse, erhverver nye muligheder og implementeres i høje indsatser, bliver deres sikkerhed ekstremt vigtig. At sikre systemsikkerhed kræver mere end at forbedre nøjagtighed, effektivitet og skalerbarhed: det kræver at sikre, at systemerne er robuste over for ekstreme hændelser, og overvåge dem for unormal og usikker adfærd.

Målet med programmet Safe Learning-Enabled Systems, som er et partnerskab mellem National Science Foundation, Open Philanthropy og Good Ventures, er at fremme grundlæggende forskning, der fører til design og implementering af læringsaktiverede systemer, hvor sikkerheden er sikret med høj grad af tillid. Mens traditionelle maskinlæringssystemer evalueres punktvis i forhold til et fast testsæt, giver en sådan statisk dækning kun begrænset sikkerhed, når de udsættes for hidtil usete forhold i driftsmiljøer med høj indsats. Det kan være svært, hvis ikke umuligt, at verificere, at læringskomponenter i sådanne systemer opnår sikkerhedsgarantier for alle mulige input. I stedet vil et systems sikkerhedsgarantier ofte skulle etableres med hensyn til systematisk genererede data fra realistiske (men passende pessimistiske) driftsmiljøer. Sikkerhed kræver også modstandsdygtighed over for "ukendte ukendte", hvilket nødvendiggør forbedrede metoder til overvågning af uventede miljøfarer eller unormal systemadfærd, herunder under implementering. I nogle tilfælde kan sikkerhed yderligere kræve nye metoder til reverse-engineering, inspektion og fortolkning af den interne logik i lærte modeller for at identificere uventet adfærd, som ikke kunne findes ved black-box-test alene, og metoder til at forbedre ydeevnen ved direkte tilpasning systemernes interne logik. Uanset indstillingen skal ethvert læringsaktiveret systems ende-til-ende sikkerhedsgarantier specificeres klart og præcist. Ethvert system, der hævder at opfylde en sikkerhedsspecifikation, skal give strenge beviser gennem analyser, der er bekræftet empirisk og/eller med matematiske beviser.

Dette webinar vil diskutere opfordringen og besvare spørgsmål fra forskningsmiljøet.

Tilmeld dig webinar link..