Безопасность должна расширить возможности разработчиков ИИ прямо сейчас

Нет сомнений в том, что GenAI изменит методы ведения бизнеса. Исследовательские фирмы прогнозируют огромный прирост производительности во всех секторах, и если они будут реализованы, это полностью изменит каждую отрасль. Учитывая такой большой потенциальный выигрыш, становится понятно, почему каждое предприятие стремится дать своим командам возможность создавать приложения на базе искусственного интеллекта как можно быстрее. Однако группы безопасности должны действовать прямо сейчас, чтобы гарантировать, что эти приложения выдержат проверку.

Гонка за получение бизнес-ценности ИИ в первую очередь

Некоторые предприятия уже создали сотни приложений на базе искусственного интеллекта. Скорость развития просто невероятна, с такими яркими примерами, как Microsoft выпускает приложения Copilot со скоростью, намного превышающей ту, которую обычно обеспечивает огромное предприятие.

Из-за незрелости фреймворков и инструментов вокруг них Разработка приложений с искусственным интеллектом, они строятся с использованием широкого спектра технологий. Среды разработки, основанные на нескольких фундаментальных моделях, многочисленны и значительно различаются, и они продолжают появляться. Такие фреймворки, как Лангчейн и АвтоGPT завоевали значительную популярность беспрецедентными темпами. На крупном предприятии вы легко можете ожидать, что для создания этих приложений будут использоваться десятки различных платформ.

Первые организации, которые смогут добиться повышения производительности за счет ИИ раньше других, одержат огромную победу. Поэтому мы участвуем в гонке, в которой нам приходится обходиться доступными прямо сейчас фреймворками и просто добиваться цели. Вероятно, потребуется много времени, чтобы стандартизировать фреймворки, и к тому времени вы уже опоздаете в игру.

Мы должны признать реальность: бизнес переосмысливается – с использованием непроверенных инструментов, структур и моделей угроз – беспрецедентными темпами.

Безопасность: с чего нам начать?

Создание такого количества новых приложений за такой короткий период времени имеет огромные последствия для безопасности. Во-первых, это просто дополнительные приложения с теми же рисками безопасности, что и любое другое приложение; им необходимо правильно организовать идентификацию, поток данных и управление секретами, и это лишь некоторые из проблем. Во-вторых, GenAI создает некоторые уникальные проблемы безопасности, для решения которых используются такие структуры, как OWASP LLM Топ-10 помогите поймать и обучить.

Организации, занимающиеся продвинутой безопасностью, в сотрудничестве с ИТ-отделами создают специализированные центры для инвентаризации, оценки и защиты этих приложений. Обратите внимание, что это требует создания совершенно новых процессов и новых делегированных обязанностей. В идеале эти центры могут выступать в качестве вспомогательного ресурса для разработчиков, предлагая услуги по моделированию угроз и анализу проектов для обеспечения соблюдения стандартов безопасности.

Создание такого централизованного ресурса – непростая задача. Найти все проекты на базе искусственного интеллекта на предприятии — огромная задача, поскольку инвентарь всегда есть. Развитие технических навыков, необходимых для аудита этих приложений, также затруднено — особенно из-за распространения различных инфраструктур искусственного интеллекта, каждая из которых имеет свои особенности и ошибки. Мониторинг этих приложений в рабочей среде — еще одна проблема, как с технической точки зрения получения нужных данных из незрелых сред разработки, так и с точки зрения анализа безопасности, когда нужно знать, что искать.

Однако это не непреодолимые проблемы. Фактически они следуют типичной формуле проблемы безопасности приложений, состоящей из инвентаризации, оценки безопасности и защиты во время выполнения. Чтобы продвинуться вперед и позволить нашему бизнесу первыми охватить революцию в области искусственного интеллекта, мы должны начать добиваться прогресса в решении этих проблем.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://www.darkreading.com/edge/security-must-empower-ai-developers-now