КОМЕНТАР
Як експерти з кібербезпеки передбачили рік тому, штучний інтелект (ШІ) був центральним гравцем у кіберзлочинності 2023 року, сприяючи збільшенню кількості атак, а також сприяючи покращенню захисту від майбутніх атак. Зараз, наближаючись до 2024 року, експерти з усієї галузі очікують, що ШІ матиме ще більший вплив на кібербезпеку.
Команда Прогноз кібербезпеки Google Cloud 2024 бачить, що генеративний ШІ та великі мовні моделі сприяють збільшенню різноманітних форм кібератак. Понад 90% канадських генеральних директорів у опитування KPMG думаю, що генеративний штучний інтелект зробить їх більш уразливими до зломів. У звіті уряду Великобританії говориться, що штучний інтелект створює загроза наступним виборам у країні.
Хоча загрози, пов’язані зі штучним інтелектом, все ще перебувають на ранніх стадіях, обсяг і складність атак, керованих ШІ, зростає з кожним днем. Організації повинні підготуватися до того, що попереду.
4 способи, як кіберзлочинці використовують ШІ
Існує чотири основні способи використання зловмисниками загальнодоступних інструментів штучного інтелекту, таких як ChatGPT, Dall-E та Midjourney: автоматичні фішингові атаки, атаки з уособленням, атаки соціальної інженерії та підроблені чат-боти служби підтримки клієнтів.
Штучний інтелект посилює фішингові атаки. Раніше спроби фішингу було легше визначити лише тому, що багато з них були повні граматичних і орфографічних помилок. Вибагливі читачі могли помітити таке дивне, небажане повідомлення, припустивши, що воно, ймовірно, було створене з країни, де англійська мова не є основною.
ChatGPT майже усунув підказку. За допомогою ChatGPT кіберзлочинець може написати електронний лист з ідеальною граматикою та англійською мовою, оформлений мовою законного джерела. Кіберзлочинці можуть надсилати автоматизовані повідомлення, що імітують, наприклад, орган влади банку, вимагаючи від користувачів увійти та надати інформацію про їхні рахунки 401(k). Коли користувач натискає посилання, щоб почати надавати інформацію, хакер отримує контроль над обліковим записом.
Наскільки популярний цей трюк? SlashNext Звіт про стан фішингу за 2023 рік з четвертого кварталу 1,265 року кількість зловмисних фішингових електронних листів зросла на 2022% переважно через цільові компроміси ділової електронної пошти за допомогою інструментів ШІ.
Атаки з уособленням також зростає. Використовуючи ChatGPT та інші інструменти, шахраї видають себе за реальних осіб і організації, здійснюючи крадіжки особистих даних і шахрайство. Як і під час фішингових атак, вони використовують чат-ботів для надсилання голосових повідомлень, видаючи себе за свого довіреного друга, колегу чи члена сім’ї, щоб отримати інформацію або отримати доступ до облікового запису.
Приклад відбулося в Саскачевані, Канада, на початку 2023 року. Літній парі зателефонував хтось, видаючи себе за їхнього онука, заявивши, що він потрапив у ДТП і перебуває у в’язниці. Той, хто телефонував, розповів історію про те, що він постраждав, втратив гаманець і потребує 9,400 доларів готівкою, щоб розрахуватися з власником іншої машини, щоб уникнути звинувачень. Дідусь і бабуся пішли до свого банку, щоб зняти гроші, але уникли шахраїв, коли співробітник банку переконав їх, що запит не був законним.
Хоча галузеві експерти вважали, що це складне використання технології клонування голосу ШІ розвинеться за кілька років, мало хто очікував, що вона стане настільки ефективною настільки швидко.
Кіберзлочинці використовують ChatGPT та інші чат-боти зі штучним інтелектом для здійснення атак соціальної інженерії, які розпалюють хаос. Вони використовують комбінацію клонування голосу та технології deepfake, щоб створити враження, ніби хтось говорить щось запальне.
Це сталося в ніч перед виборами мера Чикаго ще в лютому. Хакер створив глибоке фейкове відео і опублікував його в X, раніше відомому як Twitter, показуючи кандидата Пола Валласа, який нібито робить неправдиві підбурювальні коментарі та висловлює суперечливі політичні погляди. Відео зібрало тисячі переглядів, перш ніж його було видалено з платформи.
Остання тактика, підроблені чат-боти для обслуговування клієнтів, дійсно існує, але, ймовірно, їм залишився рік-два, щоб отримати широку популярність. Шахрайський сайт банку можна створити за допомогою чат-бота служби підтримки клієнтів, який виглядає як людина. Чат-бот можна використовувати для маніпулювання жертвами, які нічого не підозрюють, щоб вони передали конфіденційну особисту інформацію та інформацію про обліковий запис.
Як кібербезпека дає відсіч
Хороша новина полягає в тому, що штучний інтелект також використовується як інструмент безпеки для боротьби з шахрайством, керованим штучним інтелектом. Ось три способи, якими індустрія кібербезпеки дає відсіч.
Розробка власного змагального ШІ
По суті, це створення «хорошого ШІ» та навчання його боротьбі з «поганим ШІ». Розробляючи власні генеративні змагальні мережі (GAN), кіберкомпанії можуть дізнатися, чого очікувати в разі атаки. GAN складаються з двох нейронних мереж: генератора, який створює нові зразки даних, і дискримінатора, який відрізняє згенеровані зразки від оригінальних зразків.
Використовуючи ці технології, GAN можуть генерувати нові шаблони атак, які нагадують шаблони атак, які ми бачили раніше. Навчаючи модель на основі цих шаблонів, системи можуть робити прогнози щодо типів атак, які ми можемо очікувати побачити, і способів, як кіберзлочинці використовують ці загрози.
Виявлення аномалії
Це розуміння того, що таке нормальна поведінка, а потім визначення того, коли хтось відхиляється від цієї поведінки. Коли хтось входить до облікового запису з місця, відмінного від звичайного, або якщо відділ бухгалтерії таємничим чином використовує систему PowerShell, яка зазвичай використовується розробниками програмного забезпечення, це може бути ознакою атаки. Хоча системи кібербезпеки вже давно використовують цю модель, додаткова технологічна потужність моделей штучного інтелекту може ефективніше позначати повідомлення, які є потенційно підозрілими.
Реакція виявлення
Використовуючи системи ШІ, інструменти та служби кібербезпеки, як-от кероване виявлення та реагування (MDR), можна краще виявляти загрози та передавати інформацію про них командам безпеки. Штучний інтелект допомагає командам безпеки швидше виявляти та усунути законні загрози, отримуючи коротку та актуальну інформацію. Менше часу, витраченого на пошук помилкових спрацьовувань і спроби розшифрувати журнали безпеки, допомагає командам ефективніше реагувати.
Висновок
Інструменти ШІ відкривають суспільству очі на нові можливості практично в усіх сферах діяльності. Оскільки хакери повніше користуються перевагами технологій великої мовної моделі, галузі потрібно буде йти в ногу, щоб тримати загрозу ШІ під контролем.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- : має
- :є
- :де
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- МЕНЮ
- доступ
- аварія
- рахунки
- бухгалтерський облік
- Рахунки
- через
- доданий
- адреса
- Перевага
- змагальність
- проти
- попереду
- AI
- Моделі AI
- Системи ШІ
- Також
- an
- та
- з'являється
- ЕСТЬ
- штучний
- штучний інтелект
- Штучний інтелект (AI)
- AS
- At
- атака
- нападки
- спроба
- спроба
- Спроби
- влада
- Автоматизований
- доступний
- уникнути
- уникати
- геть
- назад
- поганий
- Банк
- Базова лінія
- BE
- оскільки
- ставати
- було
- перед тим
- поведінка
- буття
- вважається,
- Краще
- підвищення
- порушення
- але
- by
- call
- гість
- CAN
- Канада
- Канадський
- кандидат
- автомобіль
- нести
- проведення
- готівкові гроші
- центральний
- керівники
- хаос
- вантажі
- Chatbot
- chatbots
- ChatGPT
- Чикаго
- стверджуючи,
- хмара
- колега
- боротьби з
- поєднання
- зазвичай
- спілкуватися
- Комунікація
- зв'язку
- внесок
- контроль
- спірний
- переконаний,
- може
- країна
- Пара
- створений
- створює
- створення
- клієнт
- Контакти
- підтримка клієнтів
- кібер-
- кібератаки
- кіберзлочинності
- КІБЕРЗЛОЧИНЦІВ
- кіберзлочинці
- Кібербезпека
- dall's
- дані
- день
- розшифровувати
- оборони
- відділ
- виявляти
- Виявлення
- розвивати
- розробників
- розвивається
- різний
- do
- водіння
- Рано
- легше
- Ефективний
- фактично
- Elderly
- Вибори
- усувається
- повідомлення електронної пошти
- Машинобудування
- англійська
- помилки
- Навіть
- Event
- Кожен
- кожен день
- приклад
- існувати
- очікувати
- очікуваний
- experts
- експлуатація
- очі
- облицювання
- підроблений
- false
- сім'я
- лютого
- кілька
- поле
- боротьба
- фірми
- для
- Прогноз
- раніше
- форми
- чотири
- Четвертий
- шахрайство
- шахрайський
- друг
- від
- Фуллер
- майбутнє
- набирає
- породжувати
- генерується
- генеративний
- Генеративний ШІ
- generator
- отримати
- отримання
- добре
- Уряд
- граматика
- хакер
- хакери
- було
- вручення
- сталося
- Мати
- he
- Тема
- Герой
- допомога
- допомагає
- тут
- його
- Як
- HTML
- HTTPS
- людина
- Біль
- ідентифікувати
- ідентифікує
- Особистість
- if
- поліпшення
- in
- Augmenter
- зростаючий
- індикатор
- осіб
- промисловість
- експерти галузі
- вплив
- інформація
- Інтелект
- в
- isn
- IT
- в'язниця
- JPG
- просто
- тримати
- Дитина
- відомий
- КПМГ
- ландшафт
- мова
- великий
- в значній мірі
- останній
- запуск
- УЧИТЬСЯ
- законний
- менше
- використання
- як
- Ймовірно
- LINK
- розташування
- журнал
- Довго
- подивитися
- виглядає як
- втрачений
- головний
- основний
- зробити
- malicious
- вдалося
- багато
- MDR
- член
- повідомлення
- Серед Подорожі
- модель
- Моделі
- гроші
- більше
- багато
- Необхідність
- необхідний
- мереж
- нервовий
- нейронні мережі
- Нові
- новини
- наступний
- ніч
- нормальний
- нормально
- зараз
- of
- офіційний
- on
- відкриття
- or
- організації
- оригінал
- Інше
- з
- над
- власний
- власник
- алюр
- Минуле
- моделі
- Пол
- ідеальний
- персонал
- phishing
- фішинг-атаки
- місце
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- гравець
- політика
- бідні
- популярний
- популярність
- позах
- володіти
- можливостей
- розміщені
- потенційно
- PowerShell
- Прогнози
- Готувати
- досить
- раніше
- первинний
- ймовірно
- забезпечувати
- Квартал
- швидко
- швидко
- RE
- читачі
- реальний
- отримано
- отримання
- доречний
- Вилучено
- звітом
- запросити
- прохання
- відповідь
- відповіді
- позбавлений
- Зростання
- s
- приказка
- говорить
- Шахраї
- шахрайство
- безпеку
- побачити
- бачив
- бачить
- послати
- чутливий
- обслуговування
- Послуги
- оселитися
- формуючи
- з
- сайт
- Sky
- соціальна
- Соціальна інженерія
- суспільство
- Софтвер
- Розробники ПЗ
- виключно
- Хтось
- що в сім'ї щось
- складний
- витонченість
- Source
- орфографія
- відпрацьований
- Spot
- етапи
- старт
- Як і раніше
- Історія
- такі
- підтримка
- підозрілі
- система
- Systems
- Приймати
- приймає
- команди
- технологічний
- Технології
- Технологія
- ніж
- Що
- Команда
- Майбутнє
- крадіжки
- їх
- Їх
- самі
- потім
- Ці
- вони
- думати
- це
- ті
- тисячі
- загроза
- загрози
- три
- час
- до
- прийняли
- інструмент
- інструменти
- Навчання
- Довірений
- два
- Uk
- Уряд Великобританії
- при
- розуміння
- незатребуваної
- Використання
- використання
- використовуваний
- користувач
- користувачі
- використання
- звичайний
- різний
- жертви
- Відео
- думки
- фактично
- Голос
- обсяг
- Вразливий
- Wallet
- було
- wasn
- способи
- we
- пішов
- були
- Що
- коли
- який
- в той час як
- широкий
- волі
- з
- вилучати
- Work
- б
- запис
- X
- рік
- років
- зефірнет