Вебінар щодо збору пропозицій NSF: системи з підтримкою безпечного навчання

Національний науковий фонд (NSF) проведе вебінар для збору пропозицій "Системи з підтримкою безпечного навчання” 5 квітня 2023 р., 1:00-2:00 за східним часом.

Синопсис вебінару: Оскільки системи штучного інтелекту (AI) швидко збільшуються в розмірах, набувають нових можливостей і розгортаються в умовах високих ставок, їхня безпека стає надзвичайно важливою. Забезпечення безпеки системи вимагає більшого, ніж підвищення точності, ефективності та масштабованості: це вимагає забезпечення стійкості систем до екстремальних подій і моніторингу їхньої аномальної та небезпечної поведінки.

Метою програми Safe Learning-Enabled Systems, яка є партнерством між Національним науковим фондом, Open Philanthropy і Good Ventures, є сприяння основоположним дослідженням, які призводять до розробки та впровадження систем із підтримкою навчання, у яких безпека забезпечується високий рівень впевненості. У той час як традиційні системи машинного навчання оцінюються по точках щодо фіксованого набору тестів, таке статичне покриття забезпечує лише обмежену впевненість у безпрецедентних умовах у жорстких робочих середовищах. Перевірка того, що навчальні компоненти таких систем забезпечують гарантії безпеки для всіх можливих вхідних даних, може бути важкою, якщо не неможливою. Натомість гарантії безпеки системи часто необхідно встановлювати по відношенню до систематично створених даних з реалістичних (проте відповідно песимістичних) операційних середовищ. Безпека також вимагає стійкості до «невідомих невідомих», що вимагає вдосконалених методів моніторингу несподіваних екологічних небезпек або аномальної поведінки системи, у тому числі під час розгортання. У деяких випадках безпека може додатково вимагати нових методів зворотного проектування, перевірки та інтерпретації внутрішньої логіки вивчених моделей для виявлення неочікуваної поведінки, яку не вдалося виявити лише за допомогою тестування чорної скриньки, а також методів для покращення продуктивності шляхом прямої адаптації внутрішня логіка системи. Незалежно від налаштувань, наскрізні гарантії безпеки будь-якої системи з підтримкою навчання мають бути визначені чітко й точно. Будь-яка система, яка стверджує, що задовольняє специфікації безпеки, повинна надати суворі докази шляхом аналізу, підтвердженого емпіричним шляхом та/або математичними доказами.

На цьому вебінарі обговорюватиметься звернення та відповіді на запитання дослідницької спільноти.

Зареєструйтеся для вебінару тут.