AWS CISO: обратите внимание на то, как ИИ использует ваши данные

Предприятия все чаще применяют генеративный искусственный интеллект для автоматизации ИТ-процессов, обнаружения угроз безопасности и принятия на себя функций обслуживания клиентов. Ан Опрос IBM в 2023 году обнаружили, что 42% крупных предприятий активно используют ИИ, а еще 40% изучают или экспериментируют с ИИ.

В условиях неизбежного пересечения ИИ и облака предприятиям необходимо подумать о том, как защитить инструменты ИИ в облаке. Один человек, который много думал об этом, — Крис Бетц, который в августе прошлого года стал директором по информационной безопасности Amazon Web Services.

До появления AWS Бетц был исполнительным вице-президентом и директором по информационной безопасности Capital One. Бетц также работал старшим вице-президентом и директором по безопасности в Lumen Technologies, а также занимал должности в сфере безопасности в Apple, Microsoft и CBS.

Дарк Ридинг недавно поговорил с Бетцем о безопасность рабочих нагрузок ИИ в облаке. Далее следует отредактированная версия этого разговора.

Dark Reading: Каковы основные проблемы, связанные с обеспечением безопасности рабочих нагрузок ИИ в облаке?

Крис Бетц: Когда я говорю со многими нашими клиентами о генеративном искусственном интеллекте, эти разговоры часто начинаются со слов: «У меня есть очень конфиденциальные данные, и я хочу предоставить эту возможность своим клиентам. Как мне сделать это безопасным и надежным способом?» Я очень ценю этот разговор, потому что очень важно, чтобы наши клиенты сосредоточились на результате, которого они пытаются достичь.

Мрачное чтение: Что больше всего беспокоит клиентов?

Бетц: Разговор необходимо начать с концепции «ваши данные — это ваши данные». У нас есть большое преимущество: я могу построить ИТ-инфраструктуру, которая действительно хорошо сохраняет данные там, где они есть. Итак, первый совет, который я даю: поймите, где находятся ваши данные. Как оно защищается? Как это используется в генеративной модели ИИ?

Второе, о чем мы говорим, это то, что при взаимодействии с генеративной моделью ИИ часто используются некоторые из наиболее конфиденциальных данных своих клиентов. Когда вы запрашиваете генеративную модель ИИ о конкретной транзакции, вы будете использовать информацию о людях, участвующих в этой транзакции.

Dark Reading: Обеспокоены ли предприятия тем, что ИИ делает с внутренними данными их компании и с данными о клиентах?

Бетц: Клиенты больше всего хотят использовать генеративный искусственный интеллект во взаимодействии со своими клиентами, а также при анализе и использовании огромных объемов данных, которые у них есть внутри, и обеспечении их работы либо для внутренних сотрудников, либо для их клиентов. Для компаний очень важно, чтобы они управляли этими невероятно конфиденциальными данными безопасным и надежным способом, потому что это источник жизненной силы их бизнеса.

Компаниям необходимо подумать о том, где находятся их данные и о том, как они защищены, когда они дают ИИ подсказки и когда получают ответы.

Dark Reading: Связаны ли качество ответов и безопасность данных?

Бетц: Пользователям ИИ всегда нужно думать о том, получают ли они качественные ответы. Причина безопасности заключается в том, чтобы люди доверяли своим компьютерным системам. Если вы собираете эту сложную систему, которая использует генеративную модель ИИ для доставки чего-либо клиенту, вам нужно, чтобы клиент поверил, что ИИ предоставляет ему правильную информацию для действий и что он защищает его информацию.

Темное чтение: есть ли конкретные способы, которыми AWS может поделиться о том, как она защищает от атак на ИИ в облаке? Я думаю о быстрых инъекциях, атаках с отравлением, состязательных атаках и тому подобном.

Бетц: Имея уже прочную основу, AWS была хорошо подготовлена ​​к решению этой задачи, поскольку мы уже много лет работаем с ИИ. У нас есть большое количество внутренних решений искусственного интеллекта и ряд услуг, которые мы предлагаем непосредственно нашим клиентам, и безопасность является основным фактором при разработке этих решений. Это то, о чем спрашивают наши клиенты, и это то, чего они ожидают.

Являясь одним из крупнейших поставщиков облачных услуг, мы имеем широкое представление о меняющихся потребностях в области безопасности по всему миру. Собираемая нами информация об угрозах агрегируется и используется для разработки действенной информации, которая используется в инструментах и ​​услугах клиентов, таких как Охранный долг. Кроме того, наша информация об угрозах используется для создания автоматических мер безопасности от имени клиентов для обеспечения безопасности их данных.

Темное чтение: мы много слышали о поставщиках кибербезопасности, использующих искусственный интеллект и машинное обучение для обнаружения угроз, отслеживая необычное поведение в своих системах. Какими еще способами компании используют ИИ для обеспечения своей безопасности?

Бетц: Я видел, как клиенты делают удивительные вещи с помощью генеративного ИИ. Мы видели, как они использовали преимущества CodeWhisperer [генератор кода AWS на базе искусственного интеллекта] для быстрого прототипирования и разработки технологий. Я видел, как команды использовали CodeWhisperer, чтобы помочь себе. создать безопасный код и убедиться, что мы устраняем пробелы в коде.

Мы также создали генеративные решения искусственного интеллекта, которые связаны с некоторыми из наших внутренних систем безопасности. Как вы понимаете, многие команды безопасности имеют дело с огромными объемами информации. Генеративный ИИ позволяет синтезировать эти данные, что делает их очень удобными для использования как строителями, так и службами безопасности, чтобы понять, что происходит в системах, задать более точные вопросы и собрать эти данные воедино.

Когда я начал думать о нехватка талантов в области кибербезопасностиГенеративный искусственный интеллект сегодня не только помогает повысить скорость разработки программного обеспечения и улучшить безопасное кодирование, но также помогает агрегировать данные. Он будет продолжать помогать нам, потому что расширяет наши человеческие способности. Искусственный интеллект помогает нам собирать информацию для решения сложных проблем и передавать данные инженерам и аналитикам по безопасности, чтобы они могли задавать более точные вопросы.

Dark Reading: Видите ли вы какие-либо угрозы безопасности, характерные для искусственного интеллекта и облака?

Бетц: Я провел много времени с исследователями в области безопасности, изучая передовые генеративные атаки с использованием искусственного интеллекта и то, как на них смотрят злоумышленники. В этом пространстве я думаю о двух классах вещей. Первый класс заключается в том, что мы видим, как злоумышленники начинают использовать генеративный искусственный интеллект, чтобы быстрее и лучше делать то, что они уже делают. Контент социальной инженерии является примером этого.

Злоумышленники также используют технологию искусственного интеллекта, чтобы ускорить написание кода. Это очень похоже на то, где находится защита. Часть силы этой технологии заключается в том, что она упрощает ряд действий, и это верно для злоумышленников, но это также очень верно и для защитников.

Другая область, на которую, как я вижу, исследователи начинают обращать больше внимания, — это тот факт, что эти генеративные модели ИИ представляют собой код. Как и другой код, они подвержены слабым местам. Важно, чтобы мы понимали, как их защитить, и обеспечивали их существование в защищенной среде.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads