By Кенна Хьюз-Кастлберри опубликовано 02 дек 2022
Благодаря достижениям в области технологий становится все труднее сказать, что реально, а что нет. Эта проблема усугубляется использованием технологии дипфейков.аудио и видео которые используют ИИ для замены людей или их голосов. Хотя многие дипфейки успешно использовались для развлечения (например, Николас Кейдж был в Индиана Джонс: В поисках утраченного ковчега) или игры (например, в Спортсмены ФИФА), большой процент из них создан для более зловещие причины. Поскольку создавать такие поддельные видеоролики становится все проще, многие эксперты надеются, что квантовые вычисления помогут преодолеть потенциальные угрозы этой развивающейся технологии.
Как работает технология Deepfake?
Чтобы создать успешное дипфейковое видео, вам нужно обучение с помощью машины алгоритмы. «Алгоритмы глубокого обучения учатся решать проблемы на основе больших наборов данных, а затем используются для смены лиц в видео и другом цифровом контенте», — пояснил он. Пост-квантовый Генеральный директор Андерсен Ченг. Post-Quantum — ведущая компания в области кибербезопасности, специализирующаяся на квантово-резистентный безопасность, в том числе от дипфейков. «Существует несколько методов создания таких дипфейков, — заявил Ченг, — но наиболее популярным является использование глубоких нейронных сетей с использованием автокодировщиков. Ан автоэнкодер — это программа искусственного интеллекта для глубокого обучения, которая изучает видеоклипы, чтобы понять, как человек выглядит с разных ракурсов и в окружающей среде, а затем сопоставляет этого человека с человеком, находя общие черты».
Установлена технология дипфейка (ПК Wikimedia Commons)
Чтобы убедиться, что автоэнкодер работает успешно, необходимо проанализировать несколько видеоклипов с изображением лица субъекта, чтобы получить больший набор данных. Затем автоэнкодер может помочь создать композитное видео, заменив исходного человека новым субъектом. Второй тип машинного обучения, называемый общей состязательной сетью (GAN), будет обнаруживать и устранять недостатки в новом составном видео. Согласно Статья 2022 года: «GAN обучают «генератор» для создания новых изображений из скрытого представления исходного изображения и «дискриминатор» для оценки реалистичности сгенерированных материалов». Этот процесс происходит несколько раз, пока дискриминатор не сможет определить, является ли видео подделкой и завершен ли дипфейк.
Угроза технологии Deepfake
В настоящее время существует множество программ с открытым исходным кодом или бесплатных приложений, которые люди могут использовать для создания дипфейков. Хотя это может показаться выгодным для многих, особенно для тех, кто работает в индустрии развлечений, это привело к некоторым серьезным, даже преступным, проблемам. Согласно Отчет о глубокой трассировке, 96% дипфейковых видео онлайн в 2019 году, что неудивительно, были порнографией. В то время как многие из этих незаконных видеороликов были сняты для мести бывшим, другие использовались для создания скандалов среди женщин-знаменитостей и даже политиков. В 2018 году дипфейковое видео было выпущено из Бельгийская политическая партия показывая, как тогдашний президент Трамп обсуждает Парижские климатические соглашения. Поскольку фейковые новости уже становятся проблемой для широкой публики, дипфейковые видео могут стать той соломинкой, которая сломает хребет верблюду. Даже глубокое аудио сеет хаос, как один поддельный аудиофайл из Генеральный директор технологической компании помогли совершить акт мошенничества. По мнению Ченга, такие средства массовой информации могут довольно быстро подорвать общественное доверие. «У нас есть более широкий вопрос общественного доверия — как общественность сможет отличить правду от дипфейка», — добавил Ченг. «Как мы видели, есть даже доказательства того, что дипфейки используются для обхода защитных мер, таких как биометрическая аутентификация». С учетом этих растущих опасений Ченг и его команда в Post-Quantum считают, что у них есть решение в виде Номидио, специализированное сверхбезопасное программное обеспечение.
Подготовка к угрозам технологии DeepFake
Глядя на многочисленные угрозы, создаваемые квантовыми вычислениями и дипфейками, Ченг и его команда создали Nomidio, чтобы обеспечить безопасность логинов и даже биометрической аутентификации. «Nomidio — это биометрическая многофакторная биометрическая (MFB) служба без пароля, которая обеспечивает безопасную аутентификацию с помощью простого и интуитивно понятного пользовательского интерфейса», — сказал Ченг. «Он заменяет вход на основе имени пользователя и пароля и единый вход, при этом пользователи аутентифицируются по своему биометрическому профилю с многофакторной аутентификацией (MFA) за кулисами». Поскольку Ченг уже много лет является экспертом в области кибербезопасности, он позаботился о том, чтобы Nomidio также был защищен от дипфейков. «Наша основная философия при его создании заключалась в том, чтобы использовать как можно больше дополнительных входных данных и настоящую многофакторную аутентификацию (т. е. с более чем двумя факторами), поэтому на самом деле это идеальное решение для решения любых будущих разработок в технологии дипфейков. В конечном счете, это связано с тем, что традиционной многофакторной аутентификации недостаточно, но MFB может сделать атаки в реальном времени практически невозможными. То есть комбинация, например, голоса, лица и PIN-кода очень надежна благодаря тому факту, что можно подделать любой отдельный фактор, но подделать все три одновременно практически невозможно. С Nomidio комбинация биометрии голоса и лица, распознавания речи, контекстно-зависимых данных и даже поведенческого анализа может быть объединена в единую систему аутентификации. ”
Хотя сам Nomidio не использует квантовые вычисления для преодоления дипфейковых угроз, квантовые компьютеры потенциально могут работать против этих поддельных медиафайлов. В качестве квантовые компьютеры часто используют алгоритмы машинного обучения, чтобы работать быстрее и эффективнее, они могут обнаруживать поддельные видео или аудиофайлы с более высокой скоростью. Хотя технология все еще находится в стадии разработки, и мало кто рассматривает дипфейки как потенциальный вариант использования квантовых компьютеров, эти машины следующего уровня можно будет использовать в будущем, чтобы сделать наши СМИ более правдивыми и точными.
Поскольку угрозы технологии дипфейков становятся все более и более очевидными, многие правительства и компании уже пытаются найти способы борьбы с ними. В 2021 году Facebook запустил Вызов Deepfake Detection, с призом в размере 500,000 XNUMX долларов США для тех, кто создает новую технологию для обнаружения дипфейков. В США такие штаты, как Калифорния, Техас и Вирджиния, имеют законы, запрещающие использование дипфейков как для порнографии, так и для политики. Европейский парламент также установил дополнительные правила в отношении дипфейков, изменив Закон о цифровых услугах, чтобы наложить ярлыки на видео с дипфейками. Хотя этот закон не вступит в силу до 2024 года, он показывает серьезность угрозы технологии дипфейков.
Кенна Хьюз-Кастлберри — штатный писатель Inside Quantum Technology и научный коммуникатор JILA (партнерство между Колорадским университетом в Боулдере и NIST). Ее писательские приемы включают в себя глубокие технологии, метавселенную и квантовые технологии.
