Модель Magika AI з відкритими джерелами файлів Google

Модель Magika AI з відкритими джерелами файлів Google

Мітка часу: 16 лютого 2024 9:10
Google із відкритими джерелами, що ідентифікують файл Magika AI Model PlatoBlockchain Data Intelligence. Вертикальний пошук. Ai.

Google має відкритий вихідний код Magika, власний ідентифікатор файлів на основі машинного навчання, як частину своєї ініціативи AI Cyber ​​Defense Initiative, метою якої є надання захисникам ІТ-мереж та іншим кращим автоматизованим інструментам.

Визначити справжній вміст файлу, надісланого користувачем, можливо, складніше, ніж здається. Небезпечно припускати тип файлу, скажімо, за його розширенням і покладатися на евристичні методи та створені людиною правила, такі як ті, що широко використовуються лібмагічний – визначення фактичної природи документа за його даними, на думку Google, «забирає багато часу та може викликати помилки».

Загалом, якщо хтось завантажує .JPG у ваш онлайн-сервіс, ви хочете бути впевнені, що це зображення у форматі JPEG, а не якийсь сценарій, виданий під нього, який пізніше може вкусити вас за дупу. Введіть Magika, яка використовує навчену модель для швидкого визначення типів файлів із файлів даних, і цей підхід, на думку Big G, працює достатньо добре, щоб використовувати його у виробництві. Magika, як нам сказали, використовується Gmail, Google Drive, безпечним переглядом Chrome і VirusTotal для належної ідентифікації та маршрутизації даних для подальшої обробки.

Ваш пробіг може відрізнятися. Libmagic, наприклад, може добре працювати для вас. У будь-якому випадку, Magika є прикладом того, як Google внутрішньо використовує штучний інтелект для посилення своєї безпеки, і сподівається, що інші також зможуть скористатися цією технологією. Іншим прикладом може бути RETVec, яка є багатомовною моделлю обробки тексту, яка використовується для виявлення спаму. Це відбувається в той час, коли нас усіх попереджають про те, що зловмисники, очевидно, частіше використовують програмне забезпечення машинного навчання для автоматизації вторгнень і дослідження вразливостей.

Політики, фахівці з безпеки та громадянське суспільство мають шанс нарешті змінити баланс кібербезпеки від зловмисників до кіберзахисників

«Штучний інтелект перебуває на остаточному роздоріжжі, де політики, спеціалісти з безпеки та громадянське суспільство мають шанс нарешті змінити баланс кібербезпеки від зловмисників до кіберзахисників», — Філ Венейблс, керівник інформаційної безпеки Google Cloud, і Роял Хансен, керівник інженерія для конфіденційності, безпеки та безпеки, сказав в п'ятницю. 

«У той момент, коли зловмисники експериментують зі штучним інтелектом, нам потрібні сміливі та своєчасні дії, щоб визначити напрямок цієї технології».

Пара вірить Магіка можуть використовуватися мережевими захисниками для швидкої та масштабної ідентифікації справжнього вмісту файлів, що є першим кроком у аналізі зловмисного програмного забезпечення та виявленні вторгнень. Чесно кажучи, ця модель глибокого навчання може бути корисною для тих, хто потребує сканування документів, наданих користувачами: відео, які насправді є виконуваними файлами, наприклад, мають викликати певну тривогу та потребують більш ретельного огляду. Вкладення електронної пошти, які не є тим, за що вони кажуть, мають бути поміщені на карантин. Ви зрозуміли.

Загалом кажучи, у контексті кібербезпеки моделі штучного інтелекту можуть не лише перевіряти файли на підозрілий вміст і вихідний код на наявність вразливостей, вони також можуть генерувати патчі для виправлення помилок, стверджують співробітники Google. Інженери мега-корпорації експериментували з Близнюки також для покращення автоматизованого фаззингу проектів з відкритим кодом.

Google стверджує, що Magika на 50 відсотків точніша при визначенні типів файлів, ніж попередня система власноруч створених правил, займає мілісекунди для ідентифікації типу файлу та, як кажуть, має принаймні 99 відсотків точності в тестах. Однак він не ідеальний і не вдається класифікувати типи файлів приблизно в трьох відсотках випадків. Він ліцензований під Apache 2.0, код є тут, а його модель важить 1 Мб.

Відійшовши від Magika, Chocolate Factory також у рамках цієї нової Ініціативи кіберзахисту штучного інтелекту співпрацюватиме з 17 стартапами у Великій Британії, США та Європі та навчатиме їх використовувати ці типи автоматизованих інструментів для підвищення безпеки. 

Він також розширить свою Програму семінарів з кібербезпеки вартістю 15 мільйонів доларів, щоб допомогти університетам навчати більше європейських студентів із безпеки. Ближче до дому він пообіцяв надати 2 мільйони доларів у вигляді грантів для фінансування досліджень у сфері кіберзлочинів, а також великих мовних моделей для підтримки науковців Чиказького університету, Карнегі-Меллона та Стенфордського університету.

«Революція ШІ вже триває. Хоча люди справедливо аплодують обіцянкам нових ліків і наукових проривів, ми також в захваті від потенціалу штучного інтелекту вирішувати виклики безпеки, що виникають у поколіннях, водночас наближаючи нас до безпечного, захищеного та надійного цифрового світу, на який ми заслуговуємо», — підсумували Венейблс і Хансен. ®

Часова мітка:

Більше від Реєстр