Файл с открытым исходным кодом Google, идентифицирующий модель искусственного интеллекта Magika

В рамках своей инициативы AI Cyber ​​Defense Initiative, целью которой является предоставление защитникам ИТ-сетей и другим лицам более эффективных автоматизированных инструментов, компания Google открыла исходный код Magika, собственного идентификатора файлов на основе машинного обучения.

Выяснить истинное содержимое файла, отправленного пользователем, возможно, сложнее, чем кажется. Небезопасно предполагать тип файла, скажем, по его расширению и полагаться на эвристику и правила, созданные человеком, например, те, которые широко используются в libmagic – определение истинного характера документа по его данным, по мнению Google, «отнимает много времени и подвержено ошибкам».

По сути, если кто-то загружает .JPG в ваш онлайн-сервис, вы должны быть уверены, что это изображение JPEG, а не какой-то скрипт, маскирующийся под него, который позже может укусить вас за задницу. Введите Magika, которая использует обученную модель для быстрого определения типов файлов на основе данных файла, и этот подход, по мнению Big G, работает достаточно хорошо, чтобы использовать его в производстве. Нам сообщили, что Magika используется Gmail, Google Drive, Safe Browsing Chrome и VirusTotal для правильной идентификации и маршрутизации данных для дальнейшей обработки.

Ваш пробег может отличаться. Libmagic, например, может вам подойти. В любом случае, Magika является примером внутреннего использования искусственного интеллекта в Google для усиления своей безопасности и надеется, что другие тоже смогут извлечь выгоду из этой технологии. Другим примером может быть РЕТВек, который представляет собой многоязычную модель обработки текста, используемую для обнаружения спама. Это происходит в то время, когда нас всех предупреждают о том, что злоумышленники, очевидно, все чаще используют программное обеспечение машинного обучения для автоматизации вторжений и исследования уязвимостей.

У политиков, специалистов по безопасности и гражданского общества есть шанс, наконец, перевесить баланс кибербезопасности от злоумышленников к киберзащитникам.

«ИИ находится на окончательном перепутье — на котором у политиков, специалистов по безопасности и гражданского общества есть шанс, наконец, сместить баланс кибербезопасности от злоумышленников к киберзащитникам», — Фил Венейблс, директор по информационной безопасности Google Cloud, и Ройал Хансен, вице-президент инженерия для обеспечения конфиденциальности, безопасности и защищенности, — сказал в пятницу. 

«В тот момент, когда злоумышленники экспериментируют с ИИ, нам нужны смелые и своевременные действия, чтобы определить направление этой технологии».

Пара верит Магика может использоваться сетевыми защитниками для быстрой и масштабной идентификации истинного содержимого файлов, что является первым шагом в анализе вредоносного ПО и обнаружении вторжений. Честно говоря, эта модель глубокого обучения может быть полезна для всех, кому необходимо сканировать предоставленные пользователем документы: например, видео, которые на самом деле являются исполняемыми файлами, должны вызывать тревогу и требовать более тщательного изучения. Вложения электронной почты, которые не соответствуют заявленным, должны быть помещены в карантин. Вы поняли идею.

В более широком смысле, в контексте кибербезопасности модели ИИ могут не только проверять файлы на наличие подозрительного контента и исходный код на наличие уязвимостей, но и создавать исправления для исправления ошибок, утверждают сотрудники Google. Инженеры мегакорпорации экспериментировали с Gemini также улучшить автоматизированный фаззинг проектов с открытым исходным кодом.

Google утверждает, что Magika на 50 процентов точнее определяет типы файлов, чем предыдущая система правил, созданных вручную, требует миллисекунд для определения типа файла и, как говорят, имеет точность не менее 99 процентов в тестах. Однако он не идеален и не может классифицировать типы файлов примерно в трех процентах случаев. Он лицензирован под Apache 2.0, код здесь, а его модель весит 1 МБ.

Отойдя от Magika, «Шоколадная фабрика» также в рамках этой новой инициативы AI Cyber ​​Defense будет сотрудничать с 17 стартапами в Великобритании, США и Европе и обучать их использованию этих типов автоматизированных инструментов для повышения их безопасности. 

Он также расширит свою программу семинаров по кибербезопасности стоимостью 15 миллионов долларов, чтобы помочь университетам обучать больше европейских студентов вопросам безопасности. Ближе к дому он пообещал выделить 2 миллиона долларов в виде грантов на финансирование исследований в области киберпреступлений, а также крупных языковых моделей для поддержки ученых Чикагского университета, Карнеги-Меллона и Стэнфорда.

«Революция искусственного интеллекта уже происходит. Хотя люди справедливо аплодируют обещаниям новых лекарств и научных прорывов, мы также воодушевлены потенциалом ИИ для решения проблем безопасности поколений, одновременно приближая нас к безопасному, надежному и надежному цифровому миру, которого мы заслуживаем», — заключили Венейблс и Хансен. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/02/17/google_ai_magika/