О дивный новый мир искусственного интеллекта: что случилось с безопасностью? Конфиденциальность?

Ниже приводится гостевой пост Джона деВадоса, управляющего совета Глобального бизнес-совета по блокчейну в Женеве и соучредителя InterWork Alliance в Вашингтоне, округ Колумбия.

На прошлой неделе у меня была возможность в Вашингтоне, округ Колумбия, представить и обсудить влияние ИИ на безопасность с некоторыми членами Конгресса и их сотрудниками.

Генеративный ИИ сегодня напоминает мне Интернет конца 80-х годов – фундаментальные исследования, скрытый потенциал и академическое использование, но он еще не готов для широкой публики. На этот раз неограниченные амбиции поставщиков, подпитываемые венчурным капиталом низшей лиги и стимулируемые эхо-камерами Твиттера, ускоряют создание дивного нового мира ИИ.

Так называемые модели «общественных» фондов испорчены и не подходят для потребительского и коммерческого использования; абстракции конфиденциальности, где они существуют, просачиваются, как через решето; конструкции безопасности находятся в стадии разработки, поскольку зона атаки и векторы угроз все еще изучаются; а иллюзорные ограждения, чем меньше о них говорят, тем лучше.

Итак, как мы здесь оказались? А что случилось с охраной? Конфиденциальность?

«Скомпрометированные» модели фундамента

Так называемые «открытые» модели совсем не открыты. Различные поставщики рекламируют свою степень открытости, открывая доступ к весам моделей, документации или тестам. Тем не менее, ни один из крупных поставщиков не предоставляет ничего похожего на наборы обучающих данных, их манифесты или происхождение, чтобы иметь возможность тиражировать и воспроизводить свои модели.

Эта непрозрачность в отношении наборов обучающих данных означает, что если вы хотите использовать одну или несколько из этих моделей, то вы, как потребитель или организация, не имеете никакой возможности проверить или подтвердить степень загрязнения данных с помощью уважение интеллектуальной собственности, авторских прав и т. д., а также потенциально незаконного контента.

Крайне важно, что без манифеста наборов обучающих данных невозможно проверить несуществующий вредоносный контент. Злоумышленники, в том числе спонсируемые государством, распространяют в сети троянский контент, который модели поглощают во время обучения, что приводит к непредсказуемым и потенциально вредоносным побочным эффектам во время вывода.

Помните: если модель скомпрометирована, она не сможет отучиться, единственный вариант — уничтожить ее.

«Пористая» безопасность

Генеративные модели искусственного интеллекта являются идеальными ловушками безопасности, поскольку «все» данные собираются в один контейнер. В эпоху искусственного интеллекта возникают новые классы и категории векторов атак; отрасли еще предстоит осознать последствия как в отношении защиты этих моделей от киберугроз, так и в отношении того, как эти модели используются в качестве инструментов субъектами киберугроз.

Для отравления индекса могут использоваться методы быстрого внедрения вредоносного кода; Отравление данных может быть использовано для искажения весов; атаки на встраивание, включая методы инверсии, могут использоваться для извлечения обширных данных из вложений; Вывод о членстве может использоваться для определения того, были ли определенные данные в обучающем наборе и т. д., и это только верхушка айсберга.

Злоумышленники могут получить доступ к конфиденциальным данным посредством инверсии модели и программного запроса; они могут исказить или иным образом повлиять на скрытое поведение модели; и, как упоминалось ранее, бесконтрольный прием данных в целом приводит к угрозе встроенной спонсируемой государством киберактивности через троянских коней и многого другого.

«Дырявая» конфиденциальность

Модели ИИ полезны благодаря наборам данных, на которых они обучаются; неизбирательное получение данных в больших масштабах создает беспрецедентные риски конфиденциальности для отдельных лиц и общества в целом. В эпоху искусственного интеллекта конфиденциальность стала общественной проблемой; нормативные акты, которые в первую очередь касаются прав отдельных лиц на данные, являются неадекватными.

Помимо статических данных, крайне важно, чтобы динамические диалоговые подсказки рассматривались как интеллектуальная собственность, требующая защиты. Если вы являетесь потребителем, участвующим в совместном создании артефакта с моделью, вы хотите, чтобы ваши подсказки, направляющие эту творческую деятельность, не использовались для обучения модели или иным образом не передавались другим потребителям модели.

Если вы сотрудник, работающий с моделью для достижения бизнес-результатов, ваш работодатель ожидает, что ваши подсказки будут конфиденциальными; кроме того, подсказки и ответы требуют надежного контрольного журнала на случай возникновения проблем с ответственностью, которые всплывают у любой из сторон. В первую очередь это связано со стохастической природой этих моделей и изменчивостью их реакций во времени.

Что происходит дальше?

Мы имеем дело с технологией другого типа, непохожей ни на одну из тех, что мы видели раньше в истории вычислений, с технологией, которая демонстрирует возникающее, скрытое поведение в масштабе; вчерашние подходы к безопасности, конфиденциальности и конфиденциальности больше не работают.

Лидеры отрасли отбрасывают осторожность, не оставляя регуляторам и политикам иного выбора, кроме как вмешаться.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/