Веб-семинар по запросу предложений NSF: системы с поддержкой безопасного обучения

Национальный научный фонд (NSF) проведет вебинар для сбора предложений «Системы с возможностью безопасного обучения5 апреля 2023 г., с 1:00 до 2:00 по восточному времени.

Сводка вебинара: Поскольку системы искусственного интеллекта (ИИ) быстро увеличиваются в размерах, приобретают новые возможности и развертываются в условиях высоких ставок, их безопасность становится чрезвычайно важной. Для обеспечения безопасности системы требуется нечто большее, чем повышение точности, эффективности и масштабируемости: необходимо обеспечить устойчивость систем к экстремальным событиям и отслеживать их аномальное и небезопасное поведение.

Целью программы Safe Learning-Enabled Systems, которая является партнерством между Национальным научным фондом, Open Philanthropy и Good Ventures, является содействие фундаментальным исследованиям, которые приводят к разработке и внедрению обучаемых систем, в которых безопасность обеспечивается с помощью высокий уровень доверия. В то время как традиционные системы машинного обучения оцениваются точечно по отношению к фиксированному набору тестов, такое статическое покрытие обеспечивает лишь ограниченную уверенность при воздействии беспрецедентных условий в операционных средах с высокими ставками. Проверка того, что обучающие компоненты таких систем обеспечивают гарантии безопасности для всех возможных входных данных, может быть трудной, если не невозможной. Вместо этого часто необходимо устанавливать гарантии безопасности системы в отношении систематически генерируемых данных из реалистичных (хотя и достаточно пессимистичных) операционных сред. Безопасность также требует устойчивости к «неизвестным неизвестным», для чего требуются улучшенные методы мониторинга непредвиденных опасностей окружающей среды или аномального поведения системы, в том числе во время развертывания. В некоторых случаях для обеспечения безопасности могут дополнительно потребоваться новые методы реинжиниринга, проверки и интерпретации внутренней логики изученных моделей для выявления неожиданного поведения, которое не может быть обнаружено только с помощью тестирования методом «черного ящика», а также методы повышения производительности путем прямой адаптации. внутренняя логика системы. Какими бы ни были настройки, сквозные гарантии безопасности любой обучаемой системы должны быть четко и точно указаны. Любая система, заявляющая, что она удовлетворяет требованиям безопасности, должна предоставлять строгие доказательства посредством анализа, подтвержденного эмпирически и/или математическими доказательствами.

На этом вебинаре мы обсудим запрос и ответим на вопросы исследовательского сообщества.

Зарегистрироваться на вебинар здесь.