Уязвимости кибербезопасности ИИ, о которых следует знать преподавателям

ИИ может быть ценным инструментом в образовании, но он также создает некоторые ключевые уязвимости в области кибербезопасности, о которых должны знать преподаватели. Растет число способов, которыми хакеры могут использовать слабые места ИИ и обходить системы безопасности ИИ. Вот взгляд на основные уязвимости безопасности ИИ, которые сегодня растут, и то, как они могут повлиять на образование.

Скомпрометированные обучающие данные ИИ

Алгоритмы ИИ могут быть чрезвычайно полезны в образовании, но природа большинства ИИ представляет собой серьезную уязвимость для кибербезопасности. Алгоритмы обучаются с использованием наборов обучающих данных, которые учат ИИ понимать или распознавать что-либо. Например, ИИ можно научить понимать задачи по алгебре для 8-го класса, чтобы он мог оценивать домашние задания.

Однако то, как алгоритмы ИИ обрабатывают информацию, скрыто в черном ящике, а это означает, что сбои и предубеждения могут остаться незамеченными. ИИ может непреднамеренно узнать что-то неправильно или сделать ложные выводы из обучающих данных. Черный ящик ИИ также означает, что отравленные обучающие данные могут остаться незамеченными.

Хакеры могут испортить обучающие данные, включив в них бэкдор, спрятанный в ИИ логика. Когда хакер хочет получить доступ к системе, в которой будет использоваться ИИ, он может просто ввести ключ от бэкдора, и ИИ распознает его по обучающим данным. Бэкдоры, подобные этому, может быть очень трудно обнаружить, потому что разработчики и пользователи не могут видеть все соединения, происходящие в «черном ящике» ИИ.

«То, как алгоритмы ИИ обрабатывают информацию, скрыто в черном ящике, а это означает, что сбои и предубеждения могут остаться незамеченными». 

Хакеры адаптируются

Создание бэкдора в обучающих данных ИИ — сложный и трудоемкий процесс, на который способны в основном только высококвалифицированные хакеры. К сожалению, хакеры адаптируют свои стратегии атак, чтобы обойти возможности ИИ по поиску угроз. На самом деле, хакеры даже создают свои собственные алгоритмы ИИ, которые могут перехитрить другие алгоритмы.

Например, хакеры разработали ИИ, которые могут самостоятельно взламывать пароли для обхода систем управления доступом. Хуже того, хакеры используют ИИ, чтобы сделать свои программы-вымогатели и вредоносное ПО достаточно умными, чтобы обходить протоколы безопасности на базе ИИ.

Это серьезная угроза для образования, поскольку школам необходимо собирать большое количество личной информации об учениках и их семьях. Школьные данные — очень привлекательная цель для хакеров, которые знают, что компрометация этих данных вызовет панику, что потенциально может привести к крупным выплатам от программ-вымогателей.

Поскольку системы безопасности ИИ находятся под угрозой, преподаватели могут быть обеспокоены тем, что они могут сделать, чтобы защитить своих учеников. Однако есть решения. Например, облачные системы искусственного интеллекта могут быть более безопасными, чем системы, основанные на обычных центрах обработки данных. Кроме того, интеллектуальные облачные системы защиты данных, созданные специально для облачных систем, может обеспечить дополнительный уровень безопасности данных школ в случае кибератаки ИИ.

Дипфейки и ошибочное распознавание изображений

Помимо бэкдоров, хакеры также могут использовать непреднамеренные сбои в алгоритмах ИИ. Например, хакер может подделать фотографии, чтобы заставить ИИ неправильно распознать изображение.

Технология Deepfake также может использоваться для маскировки видео, фото или аудио файлов под то, чем они не являются. Это может быть использовано, например, для создания мошеннического видео учителя или администратора. Дипфейки могут позволить хакерам проникнуть в системы, которые полагаются на распознавание звука или изображения для контроля доступа.

Хакеры могут сами использовать ИИ для создания высокореалистичных дипфейков, которые затем становятся способом атаки. Например, схема мошенничества 2021 года использованные дипфейки ИИ украсть 35 миллионов долларов из гонконгского банка.

Таким же образом хакеры могут использовать ИИ в качестве оружия для создания дипфейков голосов родителей, учителей или администраторов. Они запускают атаку, звоня кому-то по телефону и обманывая их голосовым дипфейком. Это может быть использовано для кражи денег или личной информации у школ, учащихся, учителей и семей.

«Школьные данные — очень привлекательная цель для хакеров, которые знают, что компрометация этих данных вызовет панику, что потенциально может привести к большим выплатам от программ-вымогателей». 

Использование ИИ для тестирования и обучения

ИИ отлично подходит для автоматизации различных аспектов образования и может даже улучшить качество обучения студентов. Например, популярный сайт для обучения языкам Duolingo. использует машинное обучение ИИ помочь учащимся учиться в своем собственном темпе. Многие другие школы и образовательные ресурсы сегодня используют аналогичные технологии. Это известно как адаптивное обучение ИИ, и это даже помогает с такими важными задачами, как оценка тестов.

К сожалению, эта зависимость от ИИ является уязвимостью кибербезопасности. Хакеры, как правило, нацелены на системы, которые имеют решающее значение для работы ключевых систем. Таким образом, если преподаватели полагаются на определенные инструменты обучения ИИ для студентов, чтобы успешно завершить курсовую работу, эта зависимость от ИИ может быть использована хакером. Они могут запустить атаку программ-вымогателей на критически важные алгоритмы обучения ИИ или, возможно, даже манипулировать самим ИИ.

Эта конкретная уязвимость представляет собой комбинацию нескольких упомянутых выше угроз. Хакеры могут создать лазейку в ИИ, которая позволит им вмешиваться в алгоритм, чтобы он выставлял неправильные оценки или обучал студентов неверной информации.

«Если преподаватели полагаются на определенные инструменты обучения ИИ для студентов, чтобы успешно завершить курсовую работу, эта зависимость от ИИ может быть использована хакером». 

Будьте в курсе киберугроз в сфере образования

Нет сомнений в том, что ИИ может быть очень ценным инструментом для педагогов. Однако использование ИИ требует осторожности и активного подхода к кибербезопасности, чтобы защитить уязвимости ИИ от использования хакерами.

По мере того, как искусственный интеллект становится повсеместным в образовании и повседневной жизни, хакеры разрабатывают новые виды кибератак, призванных помешать работе интеллектуальных систем безопасности. Оставаясь в курсе этих новых киберугроз, преподаватели могут принять меры для защиты своих систем и своих учеников.

Читайте также 5 способов, которыми робототехника поможет вам увеличить бизнес