КОММЕНТАРИЙ
Как эксперты по кибербезопасности предсказал год назадИскусственный интеллект (ИИ) станет центральным игроком в сфере киберпреступности в 2023 году, стимулируя рост атак, а также способствуя улучшению защиты от будущих атак. Теперь, приближаясь к 2024 году, эксперты отрасли ожидают, что ИИ будет оказывать еще большее влияние на кибербезопасность.
Ассоциация Прогноз кибербезопасности облака Google на 2024 год считает, что генеративный искусственный интеллект и большие языковые модели способствуют увеличению различных форм кибератак. Более 90% канадских руководителей в опрос КПМГ думают, что генеративный ИИ сделает их более уязвимыми для взломов. В докладе правительства Великобритании говорится, что ИИ представляет собой угроза следующим выборам в стране.
Хотя угрозы, связанные с искусственным интеллектом, все еще находятся на ранних стадиях своего развития, объем и сложность атак с использованием искусственного интеллекта растут с каждым днем. Организациям необходимо подготовиться к тому, что их ждет впереди.
4 способа, которыми киберпреступники используют ИИ
Существует четыре основных способа, с помощью которых злоумышленники используют общедоступные инструменты искусственного интеллекта, такие как ChatGPT, Dall-E и Midjourney: автоматические фишинговые атаки, атаки по выдаче себя за другое лицо, атаки социальной инженерии и поддельные чат-боты поддержки клиентов.
Целенаправленные фишинговые атаки получают мощный импульс благодаря искусственному интеллекту. Раньше было легче выявить попытки фишинга только потому, что многие из них были пронизаны плохими грамматическим и орфографическими ошибками. Проницательные читатели могли бы заметить такое странное, нежелательное сообщение, если предположить, что оно, скорее всего, исходило из страны, где английский не является основным языком.
ChatGPT практически устранил наводку. С помощью ChatGPT киберпреступник может написать электронное письмо с идеальной грамматикой и использованием английского языка, оформленное на языке законного источника. Киберпреступники могут рассылать автоматические сообщения, имитируя, например, запрос представителя банка на вход в систему и предоставление информации об их учетных записях 401(k). Когда пользователь нажимает ссылку, чтобы начать предоставлять информацию, хакер получает контроль над учетной записью.
Насколько популярен этот трюк? СлэшСледующий Отчет о состоянии фишинга в 2023 г. объяснили рост количества вредоносных фишинговых писем на 1,265% с четвертого квартала 2022 года в основном целевыми компрометации деловой электронной почты с помощью инструментов ИИ.
Атаки с использованием олицетворения также находятся на подъеме. Используя ChatGPT и другие инструменты, мошенники выдают себя за реальных людей и организации, осуществляя кражу личных данных и мошенничество. Как и в случае с фишинговыми атаками, они используют чат-ботов для отправки голосовых сообщений, выдавая себя за доверенного друга, коллегу или члена семьи, пытаясь получить информацию или доступ к учетной записи.
Пример произошло в Саскачеване, Канада, в начале 2023 года. Пожилой паре позвонил кто-то, выдававший себя за их внука, и заявил, что он попал в автомобильную аварию и находится в тюрьме. Звонивший рассказал историю о том, что он пострадал, потерял свой бумажник и ему нужно было 9,400 долларов наличными, чтобы расплатиться с владельцем другой машины, чтобы избежать предъявления обвинений. Бабушка и дедушка пошли в свой банк, чтобы снять деньги, но избежали мошенничества, когда служащий банка убедил их, что запрос незаконен.
Хотя отраслевые эксперты полагали, что такое сложное использование технологии клонирования голоса с помощью искусственного интеллекта будет развиваться в течение нескольких лет, мало кто ожидал, что она станет такой эффективной и так быстро.
Киберпреступники используют ChatGPT и других чат-ботов с искусственным интеллектом для проведения атак социальной инженерии, которые сеют хаос. Они используют комбинацию клонирования голоса и технологии дипфейков, чтобы создать впечатление, будто кто-то говорит что-то зажигательное.
Это произошло накануне выборов мэра Чикаго в феврале. Хакер создал дипфейк-видео и разместил его в X, ранее известном как Twitter, где показано, что кандидат Пол Валлас якобы делает ложные подстрекательские комментарии и излагает противоречивые политические точки зрения. Видео собрало тысячи просмотров, прежде чем его удалили с платформы.
Последняя тактика — фальшивые чат-боты для обслуживания клиентов — существует, но до широкой популярности им, вероятно, осталось год или два. Мошеннический банковский сайт может быть создан с использованием чат-бота службы поддержки клиентов, который выглядит как человек. Чат-бот может использоваться для того, чтобы манипулировать ничего не подозревающими жертвами и заставлять их передавать конфиденциальную личную информацию и информацию об учетных записях.
Как кибербезопасность дает отпор
Хорошей новостью является то, что ИИ также используется в качестве инструмента безопасности для борьбы с мошенничеством, основанным на ИИ. Вот три способа, которыми индустрия кибербезопасности дает отпор.
Разработка собственного состязательного ИИ
По сути, это создание «хорошего ИИ» и обучение его борьбе с «плохим ИИ». Разрабатывая собственные генеративно-состязательные сети (GAN), киберфирмы могут узнать, чего ожидать в случае атаки. GAN состоят из двух нейронных сетей: генератора, создающего новые выборки данных, и дискриминатора, который отличает сгенерированные выборки от исходных выборок.
Используя эти технологии, сети GAN могут генерировать новые шаблоны атак, напоминающие ранее встречавшиеся шаблоны атак. Обучая модель на основе этих шаблонов, системы могут делать прогнозы о типе атак, которые мы можем ожидать, и о том, как киберпреступники используют эти угрозы.
Обнаружение аномалий
Это понимание основ нормального поведения, а затем выявление случаев, когда кто-то отклоняется от этого поведения. Когда кто-то входит в учетную запись из другого места, чем обычно, или если бухгалтерия загадочным образом использует систему PowerShell, обычно используемую разработчиками программного обеспечения, это может быть индикатором атаки. Хотя системы кибербезопасности уже давно используют эту модель, дополнительные технологические возможности моделей искусственного интеллекта позволяют более эффективно выявлять потенциально подозрительные сообщения.
Реакция обнаружения
Использование систем искусственного интеллекта, инструментов и услуг кибербезопасности, таких как управляемое обнаружение и реагирование (MDR), позволяет лучше обнаруживать угрозы и передавать информацию о них группам безопасности. ИИ помогает службам безопасности быстрее выявлять и устранять законные угрозы, получая краткую и актуальную информацию. Меньше времени, затрачиваемого на отслеживание ложных срабатываний и попытки расшифровки журналов безопасности, помогает командам принимать более эффективные меры реагирования.
Заключение
Инструменты искусственного интеллекта открывают обществу глаза на новые возможности практически во всех сферах деятельности. Поскольку хакеры все шире используют преимущества технологий больших языковых моделей, отрасли придется идти в ногу со временем, чтобы держать угрозу ИИ под контролем.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- :имеет
- :является
- :куда
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- О нас
- доступ
- авария
- Учетная запись
- Бухгалтерский учет
- Учетные записи
- через
- добавленный
- адрес
- плюс
- состязательный
- против
- впереди
- AI
- AI модели
- Системы искусственного интеллекта
- причислены
- an
- и
- появляется
- МЫ
- искусственный
- искусственный интеллект
- Искусственный интеллект (AI)
- AS
- At
- атаковать
- нападки
- попытка
- попытки
- попытки
- власть
- Автоматизированный
- доступен
- избежать
- избегать
- прочь
- назад
- Плохой
- Банка
- Базовая линия
- BE
- , так как:
- становиться
- было
- до
- поведение
- не являетесь
- распространенной
- Лучшая
- повышение
- нарушения
- но
- by
- призывают
- гость
- CAN
- Канада
- канадские
- кандидат
- автомобиль
- нести
- проведение
- Наличный расчёт
- центральный
- руководители
- Chaos
- расходы
- Chatbot
- chatbots
- ChatGPT
- Чикаго
- заявив,
- облако
- коллега
- борьбы с
- сочетание
- обычно
- общаться
- Связь
- Связь
- содействие
- контроль
- спорный
- убежден,
- может
- страна
- Пара
- создали
- создает
- Создающий
- клиент
- Служба поддержки игроков
- служба поддержки
- кибер-
- кибератаки
- киберпреступности
- КИБЕРПРЕСТУПНИК
- киберпреступники
- Информационная безопасность
- дал-и
- данным
- день
- расшифровывать
- Защита
- Кафедра
- обнаруживать
- обнаружение
- развивать
- застройщиков
- развивающийся
- различный
- do
- вождение
- Рано
- легче
- Эффективный
- фактически
- Пожилой
- выборы
- устранен
- Писем
- Проект и
- Английский
- ошибки
- Даже
- События
- Каждая
- каждый день
- пример
- существовать
- ожидать
- ожидаемый
- эксперты
- эксплуатации
- Глаза
- всего лишь пяти граммов героина
- не настоящие
- ложный
- семья
- февраль
- несколько
- поле
- борьба
- Компаний
- Что касается
- Прогноз
- раньше
- формы
- 4
- Четвертый
- мошенничество
- и мошенническими
- друг
- от
- Фуллер
- будущее
- получение
- порождать
- генерируется
- генеративный
- Генеративный ИИ
- генератор
- получить
- получающий
- хорошо
- Правительство
- грамматика
- хакер
- Хакеры
- было
- вручая
- произошло
- Есть
- he
- Заголовок
- Герой
- помощь
- помогает
- здесь
- его
- Как
- HTML
- HTTPS
- человек
- Опт
- определения
- идентифицирующий
- Личность
- if
- улучшение
- in
- Увеличение
- повышение
- Индикаторные
- лиц
- промышленность
- отраслевые эксперты
- повлиять
- информация
- Интеллекта
- в
- мобильной
- IT
- тюрьма
- JPG
- всего
- Сохранить
- Вид
- известный
- КПМГ
- пейзаж
- язык
- большой
- в значительной степени
- Фамилия
- запуск
- УЧИТЬСЯ
- законный
- Меньше
- Используя
- такое как
- Вероятно
- LINK
- расположение
- журнал
- Длинное
- посмотреть
- выглядит как
- потерянный
- Главная
- основной
- сделать
- злонамеренный
- управляемого
- многих
- MDR
- член
- Сообщения
- Середина пути
- модель
- Модели
- деньги
- БОЛЕЕ
- много
- Необходимость
- необходимый
- сетей
- нервный
- нейронные сети
- Новые
- Новости
- следующий
- ночь
- "обычные"
- нормально
- сейчас
- of
- Официальный представитель в Грузии
- on
- открытие
- or
- организации
- оригинал
- Другое
- внешний
- за
- собственный
- владелец
- Темп
- мимо
- паттеранами
- Пол
- ИДЕАЛЬНОЕ
- личного
- фишинг
- фишинговые атаки
- Часть
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- игрок
- политика
- состояния потока
- Популярное
- популярность
- представляет
- обладать
- возможности,
- размещены
- потенциально
- PowerShell
- Predictions
- Подготовить
- довольно
- предварительно
- первичный
- вероятно
- обеспечивать
- Четверть
- быстро
- быстро
- RE
- читатели
- реальные
- получила
- получение
- соответствующие
- удален
- отчету
- запросить
- запрашивающий
- ответ
- ответы
- пронизана
- Рост
- s
- поговорка
- говорит
- Мошенники
- мошенничество
- безопасность
- посмотреть
- видел
- видит
- Отправить
- чувствительный
- обслуживание
- Услуги
- урегулировать
- формирование
- с
- сайте
- Sky
- Соцсети
- Социальная инженерия
- Общество
- Software
- Разработчики программного обеспечения
- только
- Кто-то
- удалось
- сложный
- утонченность
- Источник
- орфография
- потраченный
- Спотовая торговля
- этапы
- Начало
- По-прежнему
- История
- такие
- поддержка
- подозрительный
- система
- системы
- взять
- принимает
- команды
- технологический
- технологии
- Технологии
- чем
- который
- Ассоциация
- Будущее
- кражи
- их
- Их
- сами
- тогда
- Эти
- они
- think
- этой
- те
- тысячи
- угроза
- угрозы
- три
- время
- в
- приняли
- инструментом
- инструменты
- Обучение
- надежных
- два
- Uk
- Правительство Великобритании
- под
- понимание
- Незапрошенный
- Применение
- использование
- используемый
- Информация о пользователе
- пользователей
- через
- обычный
- различный
- жертвы
- Видео
- Просмотры
- фактически
- Режимы
- объем
- Уязвимый
- Кошелек
- законопроект
- был
- способы
- we
- пошел
- были
- Что
- когда
- , которые
- в то время как
- широкий
- будете
- вывода
- Работа
- бы
- записывать
- X
- год
- лет
- зефирнет