Webinar privind solicitarea de propuneri NSF: sisteme activate pentru învățare sigură

Fundația Națională de Știință (NSF) va organiza un webinar pentru solicitarea de propuneri”Sisteme activate pentru învățare sigură” pe 5 aprilie 2023, 1:00-2:00 PM, ora de Est.

Sinopsis webinar: Pe măsură ce sistemele de inteligență artificială (AI) cresc rapid în dimensiune, dobândesc noi capabilități și sunt implementate în setări cu mize mari, siguranța lor devine extrem de importantă. Asigurarea siguranței sistemului necesită mai mult decât îmbunătățirea acurateței, eficienței și scalabilității: necesită asigurarea faptului că sistemele sunt robuste la evenimente extreme și monitorizarea lor pentru comportament anormal și nesigur.

Obiectivul programului Safe Learning-Enabled Systems, care este un parteneriat între Fundația Națională pentru Știință, Open Philanthropy și Good Ventures, este de a promova cercetarea fundamentală care să conducă la proiectarea și implementarea sistemelor de învățare în care siguranța este asigurată cu niveluri ridicate de încredere. În timp ce sistemele tradiționale de învățare automată sunt evaluate punctual în raport cu un set de test fix, o astfel de acoperire statică oferă doar o asigurare limitată atunci când sunt expuse la condiții fără precedent în medii de operare cu mize mari. Verificarea faptului că componentele de învățare ale unor astfel de sisteme obțin garanții de siguranță pentru toate intrările posibile poate fi dificilă, dacă nu imposibilă. În schimb, garanțiile de siguranță ale unui sistem vor trebui adesea stabilite cu privire la datele generate sistematic din medii de operare realiste (dar pesimiste în mod corespunzător). Siguranța necesită, de asemenea, rezistență la „necunoscute necunoscute”, ceea ce necesită metode îmbunătățite de monitorizare a pericolelor de mediu neașteptate sau a comportamentelor anormale ale sistemului, inclusiv în timpul implementării. În unele cazuri, siguranța poate necesita în continuare noi metode de inginerie inversă, inspectare și interpretare a logicii interne a modelelor învățate pentru a identifica comportamentul neașteptat care nu a putut fi găsit doar prin testarea cutie neagră și metode pentru îmbunătățirea performanței prin adaptarea directă. logica internă a sistemelor. Indiferent de setare, garanțiile de siguranță end-to-end ale oricărui sistem cu învățare trebuie specificate clar și precis. Orice sistem care pretinde că îndeplinește o specificație de siguranță trebuie să ofere dovezi riguroase, prin analize coroborate empiric și/sau cu dovezi matematice.

Acest webinar va discuta solicitarea și va răspunde la întrebări din partea comunității de cercetare.

Înregistrați-vă pentru webinar aici.