Золотой век ИИ… или угрозы безопасности?

Мы живем в золотой век искусственного интеллекта? Трудно делать прогнозы и, вероятно, опрометчиво. Кто хочет предсказывать будущее такой новой технологии?

Однако некоторые вещи мы можем сказать наверняка. Многое делается для применения ИИ в творческих работах, от озвучки до первых набросков сценариев. Но ИИ, вероятно, будет наиболее полезен при работе с рутинной работой. Это хорошая новость для разработчиков, если обещание соответствует ранним экспериментам — можно легко создать первые наброски кода, готовые для настройки и повторения разработчиками.

Однако важно помнить, что не каждый кодер работает на законный бизнес. Точно так же, как субъекты угроз кибербезопасности подражают своим целям и становятся более деловыми, они также внедряют новые технологии и методы. Мы можем ожидать, что ИИ поможет в разработке вредоносных программ и других угроз в ближайшие годы, независимо от того, вступаем ли мы в золотой век ИИ или нет.

Составление кода и мошенничество

Одной из тенденций, которую мы наблюдаем в последние годы, является рост числа предложений «как услуга». Ранние хакеры были мастерами и хулиганами, обманывая телефонные системы или вызывая хаос в основном в качестве развлечения. Это в корне изменилось. Злоумышленники являются профессионалами и часто продают свои продукты для использования другими.

ИИ очень хорошо впишется в этот способ работы. Способный создавать код для решения конкретных проблем, ИИ может изменять код для выявления уязвимостей или брать существующий код и изменять его, поэтому его не так легко обнаружить с помощью мер безопасности, ищущих определенные шаблоны.

Но возможности неправильного использования ИИ на этом не заканчиваются. Многие фишинговые электронные письма обнаруживаются с помощью эффективных инструментов фильтрации и попадают в папки нежелательной почты. Те, которые действительно попадают в почтовый ящик, часто являются явно мошенническими, написанными настолько плохо, что почти непонятны. Но ИИ может сломать этот шаблон, создавая тысячи правдоподобных электронных писем, которые могут избежать обнаружения и быть достаточно хорошо написанными, чтобы обмануть как фильтры, так и конечных пользователей.

Целевой фишинг, более целенаправленная форма этой атаки, также может революционизироваться с помощью этой технологии. Конечно, легко проигнорировать электронное письмо от вашего начальника с просьбой перевести деньги или срочно купить подарочные карты — обучение кибербезопасности помогает сотрудникам избежать такого рода мошенничества. Но как насчет поддельного телефонного звонка или видеочата? У ИИ есть потенциал для того, чтобы транслировать выступления и подкасты и превратить их в убедительный симулякр, что гораздо сложнее игнорировать.

Противодействие кибератакам ИИ

Есть два основных способа дать отпор преимуществам, которые ИИ даст противнику. лучший ИИ и лучшее обучение — И то, и другое будет необходимо.

Появление этого нового поколения ИИ положило начало новой гонке вооружений. Как киберпреступники используют его для развития своих атак, так и группам безопасности необходимо будет использовать его для развития своей защиты.

Без искусственного интеллекта средства защиты полагаются на перегруженных работой людей и отслеживание определенных заранее запрограммированных шаблонов для предотвращения атак. Защитные инструменты ИИ смогут прогнозировать векторы атак и точно определять уязвимые области сети и систем. Они также смогут анализировать вредоносный код, что позволит лучше понять, как работают новые атаки и как их можно предотвратить.

В крайнем случае ИИ также может работать как аварийная остановка — отключать сеть при обнаружении нарушения и блокировать всю систему. Хотя это и не идеально с точки зрения непрерывности бизнеса, это может нанести гораздо меньший ущерб, чем утечка данных.

Но борьба с ИИ с помощью ИИ — не единственный ответ. Нам также нужен человеческий разум. Каким бы умным и целенаправленным он ни был, лучшей защитой от фишинговой атаки является сотрудник или клиент, который знает, что искать, и достаточно подозрительный, чтобы не попасться на удочку. Внедрение надежных политик безопасности и передовых методов кибергигиены останется ключевым фактором защиты от атак.

Это означает, что обучение необходимо будет обновить, чтобы включить в него признаки атаки ИИ… какими бы они ни были. Обучение должно будет развиваться с помощью ИИ — один учебный курс каждые несколько лет уже не поможет, когда это обучение быстро устаревает.

Хотя возможные признаки кибератаки с использованием ИИ быстро меняются, в целом атаки следующие:

• Быстрый и масштабируемый, используя несколько уязвимостей за короткий промежуток времени.
• Адаптивный и уклончивый, изменение тактики и методов, чтобы избежать обнаружения и реагирования.
• Целевые и персонализированные, используя ИИ для создания убедительных фишинговых писем или кампаний социальной инженерии.
• Обманчивый и манипулятивный, используя ИИ для создания поддельного или измененного контента, такого как дипфейки, клонирование голоса или генерация текста.
• Скрытный и настойчивый, долгое время скрываясь в сетевой инфраструктуре, не будучи замеченным.

Эти признаки не являются исчерпывающими, и некоторые атаки с использованием ИИ могут не отражать все из них. Однако они указывают уровень угрозы, которую ИИ представляет для кибербезопасности.

Чтобы эффективно бороться с кибератаками с использованием ИИ, предприятия должны думать не только об отдельных злоумышленниках, но и готовиться к скоординированным атакам со стороны спонсируемых государством субъектов или преступных организаций, которые могут использовать ИИ для запуска сложных кампаний с использованием подхода, основанного на оценке рисков. Они также должны иметь проактивная стратегия включая регулярные проверки безопасности, резервное копирование, шифрование и планы реагирования на инциденты. Этого проще всего добиться, получив общеизвестный сертификат безопасности, такой как PCI-DSS.

Наконец, крайне важно, чтобы организации улучшили кибербезопасность своих собственных систем ИИ, обеспечив их целостность, конфиденциальность и доступность, а также снизив риски со стороны злоумышленников, отравления данных и кражи моделей.

Эти стратегии помогут защитить бизнес, но они не должны быть автономными — безопасность должна быть совместной. Сотрудничая с другими организациями, исследователями и органами власти для обмена информацией, передовым опытом и ошибками, которые можно извлечь из них, предприятия будут лучше подготовлены к новой волне угроз безопасности ИИ.

ИИ — это одновременно и новая угроза, и продолжение старых угроз. Предприятиям придется изменить подход к борьбе с киберугрозами, поскольку эти угрозы становятся все более изощренными и многочисленными, но многие основные принципы остаются прежними. Получение этих прав по-прежнему имеет решающее значение. Команде безопасности не нужно отказываться от старых идей, а использовать их для обеспечения безопасности своего бизнеса.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Автомобили / электромобили, Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• Смещения блоков. Модернизация права собственности на экологические компенсации. Доступ здесь.
• Источник: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-