Давление безопасности растет вокруг обещаний и опасностей ИИ

BLACK HAT USA — Лас-Вегас — пятница, 11 августа — Искусственный интеллект (ИИ) не новичок в мире технологий, но поскольку ChatGPT и аналогичные предложения выводят его за пределы лабораторных сред и вариантов использования, таких как Siri, Мария «Азерия» Маркстедтер, основатель и генеральный директор Azeria Labs, сказала, что специалисты по безопасности должны будьте готовы к тому, как его эволюция повлияет на их повседневную реальность.

В шутку она заявила, что ИИ «теперь находится в надежных руках крупных технологических компаний, которые соревнуются со временем, чтобы избежать уничтожения». OpenAI выпускает свою модель ChatGPT в то время как другие компании сдерживались. "С рост ChatGPT, подход Google к мирному времени закончился, и все присоединились к нему», — сказала она, выступая на основной сцене Black Hat USA на этой неделе.

Видеть, куда уходят деньги

Компании вкладывают миллионы долларов в ИИ, но всякий раз, когда мир переходит к новому типу технологий, «корпоративная гонка вооружений не вызвана заботой о безопасности, поскольку безопасность замедляет прогресс».

Она сказала, что варианты использования интегрировать ИИ развиваются, и это начинает приносить много денег, особенно тем, кто доминирует на рынке. Тем не менее, необходимо «Создатели, чтобы сломать его, и исправьте это, и, в конечном счете, не допустите, чтобы технология в ее будущих вариантах использования взорвалась у нас перед носом».

Она добавила, что компании могут испытывать иррациональное изобилие. «Каждая компания хочет прямо сейчас стать бизнес-образцом ИИ, и то, как наши компании собираются использовать эти инструменты для интеграции ИИ, окажет значительное влияние на нашу модель угроз», — сказала она. Однако быстрое внедрение ИИ означает, что его влияние на всю модель киберугроз остается неизвестным.

Рост угроз ChatGPT

Признавая, что ChatGPT было «довольно трудно избежать за последние девять месяцев», — сказал Маркстедтер, — стремительный рост числа пользователей привел к тому, что некоторые компании ограничили доступ к нему. По ее словам, предприятия были настроены скептически, поскольку OpenAI — это черный ящик, и все, что вы отправляете в ChatGPT, будет частью набора данных OpenAI.

Она сказала: «Компании не хотят передавать свои конфиденциальные данные внешнему поставщику, поэтому они начали запрет сотрудников от использования ChatGPT для работы, но каждый бизнес по-прежнему хочет и даже вынужден дополнять свои продукты и услуги для сотрудников с помощью ИИ; они просто не доверяют конфиденциальные данные… внешним поставщикам, которые могут стать частью набора данных».

Однако интенсивная направленность и быстрый темп разработки и интеграции OpenAI заставят специалистов по безопасности быстро развиваться.

«Итак, то, как наши организации собираются использовать эти вещи, довольно быстро меняется: от того, что вы проверяете для браузера, до того, что предприятия интегрируют в свою собственную инфраструктуру, до чего-то, что скоро станет родным для нашей операционной системы и мобильного устройства. ," она сказала.

Возможности для промышленности

Маркстедтер сказал, что самая большая проблема для ИИ и кибербезопасности заключается в том, что у нас недостаточно людей с навыки и знания для оценки этих систем и создания необходимых нам ограждений. «Таким образом, благодаря этим небольшим проблемам уже появляются новые виды работы», — сказала она.

В заключение Маркстедтер выделил четыре вывода: во-первых, системы ИИ, варианты их использования и возможности развиваются; во-вторых, нам нужно серьезно отнестись к возможности того, что автономные агенты ИИ станут реальностью на нашем предприятии; в-третьих, нам нужно переосмыслить наши представления об идентичности и приложениях; и в-четвертых, нам необходимо переосмыслить наши концепции безопасности данных.

«Поэтому нам нужно узнать о самой технологии, которая меняет наши системы и нашу модель угроз, чтобы решать эти возникающие проблемы, а технологические изменения не новы для нас», — сказала она. «У нас нет руководств, в которых говорилось бы, как исправить наши предыдущие проблемы. Все мы в той или иной степени самоучки, и теперь наша индустрия привлекает творческие умы с целостным складом ума. Поэтому мы знаем, как изучать новые системы и находить творческие способы их взлома».

В заключение она сказала, что это наш шанс заново изобрести себя, нашу систему безопасности и нашу защиту. «В случае возникновения следующей опасности, связанной с вызовами безопасности, нам необходимо объединиться как сообщество и способствовать исследованиям в этой области», — сказала она.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Автомобили / электромобили, Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• ЧартПрайм. Улучшите свою торговую игру с ChartPrime. Доступ здесь.
• Смещения блоков. Модернизация права собственности на экологические компенсации. Доступ здесь.
• Источник: https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril