Webinar na temat pozyskiwania propozycji NSF: systemy z obsługą bezpiecznego uczenia się

Narodowa Fundacja Nauki (NSF) zorganizuje seminarium internetowe w celu pozyskania propozycji „Systemy obsługujące bezpieczne uczenie się” w dniu 5 kwietnia 2023 r. w godzinach 1:00–2:00 czasu wschodniego.

Streszczenie webinaru: W miarę jak systemy sztucznej inteligencji (AI) szybko się powiększają, zyskują nowe możliwości i są wdrażane w środowiskach o wysokich stawkach, ich bezpieczeństwo staje się niezwykle ważne. Zapewnienie bezpieczeństwa systemu wymaga czegoś więcej niż poprawy dokładności, wydajności i skalowalności: wymaga zapewnienia odporności systemów na ekstremalne zdarzenia oraz monitorowania ich pod kątem anomalii i niebezpiecznych zachowań.

Celem programu Safe Learning-Enabled Systems, będącego partnerstwem między National Science Foundation, Open Philanthropy i Good Ventures, jest wspieranie podstawowych badań prowadzących do projektowania i wdrażania systemów wspomagających naukę, w których bezpieczeństwo jest zapewnione przy wysoki poziom zaufania. Podczas gdy tradycyjne systemy uczenia maszynowego są oceniane punktowo w odniesieniu do ustalonego zestawu testów, takie pokrycie statyczne zapewnia jedynie ograniczoną pewność w przypadku wystawienia na niespotykane warunki w środowiskach operacyjnych o wysokich stawkach. Weryfikacja, czy komponenty uczące się takich systemów osiągają gwarancje bezpieczeństwa dla wszystkich możliwych danych wejściowych, może być trudna, jeśli nie niemożliwa. Zamiast tego często trzeba będzie ustanowić gwarancje bezpieczeństwa systemu w odniesieniu do systematycznie generowanych danych z realistycznych (ale odpowiednio pesymistycznych) środowisk operacyjnych. Bezpieczeństwo wymaga również odporności na „nieznane niewiadome”, co wymaga ulepszonych metod monitorowania nieoczekiwanych zagrożeń środowiskowych lub nietypowych zachowań systemu, w tym podczas wdrażania. W niektórych przypadkach bezpieczeństwo może dodatkowo wymagać nowych metod inżynierii wstecznej, inspekcji i interpretacji wewnętrznej logiki wyuczonych modeli w celu zidentyfikowania nieoczekiwanego zachowania, którego nie można wykryć wyłącznie za pomocą testów czarnej skrzynki, oraz metod poprawy wydajności poprzez bezpośrednie dostosowanie wewnętrzną logikę systemów. Bez względu na ustawienie, kompleksowe gwarancje bezpieczeństwa każdego systemu z możliwością uczenia się muszą być określone w sposób jasny i precyzyjny. Każdy system, który twierdzi, że spełnia specyfikację bezpieczeństwa, musi dostarczać rygorystycznych dowodów, poprzez analizę potwierdzoną empirycznie i/lub dowodem matematycznym.

Podczas tego seminarium internetowego omówione zostanie zaproszenie i odpowiedzi na pytania społeczności badawczej.

Zarejestruj się na webinarium tutaj.