Останні події, зокрема глибокий фейк, створений штучним інтелектом (ШІ). автоматичний дзвінок, що видає себе за президента Байдена закликаючи виборців у Нью-Гемпширі утриматися від первинних виборів, служить яскравим нагадуванням про те, що зловмисники все частіше розглядають сучасні генеративні платформи штучного інтелекту (GenAI) як потужну зброю для націлювання на вибори в США.
Такі платформи, як ChatGPT, Gemini від Google (раніше Bard), або будь-яка кількість спеціально створених великих мовних моделей Dark Web (LLM) можуть зіграти певну роль у підриві демократичного процесу з атаками, що охоплюють кампанії масового впливу, автоматичний тролінг і розповсюдження глибокий фейковий контент.
Насправді директор ФБР Крістофер Рей нещодавно висловлені занепокоєння про триваючу інформаційну війну з використанням дипфейків, які можуть посіяти дезінформацію під час майбутньої президентської кампанії, як підтримувані державою актори спроби похитнути геополітичні баланси.
GenAI також може автоматизувати зростання "скоординована неавтентична поведінка» мережі, які намагаються створити аудиторію для своїх кампаній з дезінформації за допомогою фейкових новин, переконливих профілів у соціальних мережах та іншими способами — з метою посіяти розбрат і підірвати довіру суспільства до виборчого процесу.
Вплив на вибори: значні ризики та кошмарні сценарії
З точки зору Падрейка О'Рейлі, директора з інновацій CyberSaint, ризик є «значним», оскільки технологія розвивається дуже швидко.
«Це обіцяє бути цікавим і, можливо, трохи тривожним, оскільки ми бачимо нові варіанти дезінформації, що використовує технологію deepfake», — говорить він.
Зокрема, каже О'Райлі, «кошмарний сценарій» полягає в тому, що мікротаргетинг із контентом, створеним ШІ, пошириться на платформах соціальних мереж. Це знайома тактика з Скандал Кембріджі Аналітіка, де компанія зібрала дані про психологічні профілі 230 мільйонів виборців США, щоб обслуговувати строго підібрані повідомлення через Facebook для людей, намагаючись вплинути на їхні переконання — і голоси. Але GenAI міг би масштабно автоматизувати цей процес і створювати дуже переконливий контент, який мав би небагато, якщо взагалі мав би ознаки «бота», які могли б відштовхнути людей.
«Викрадені цільові дані [моментальні знімки особистості користувача та його інтереси], об’єднані з контентом, створеним штучним інтелектом, становлять реальний ризик», — пояснює він. «Російські дезінформаційні кампанії 2013–2017 років свідчать про те, що ще може статися і станеться, і ми знаємо про дипфейки, створені громадянами США [як той] із зображенням Байдена, і Елізабет Уоррен».
Поєднання соціальних мереж і легкодоступна технологія deepfake може стати зброєю кінця світу для поляризації громадян США у вже глибоко розділеній країні, додає він.
«Демократія ґрунтується на певних спільних традиціях та інформації, і небезпека тут полягає в посиленні балканізації громадян, що призводить до того, що Стенфордський дослідник Рене ДіРеста назвала «реальністю на замовлення», — каже О'Рейлі, він же люди, які вірять в «альтернативні факти».
Платформи, які зловмисники використовують, щоб посіяти розбіжності, ймовірно, мало допоможуть: він додає, що, наприклад, платформа соціальних медіа X, раніше відома як Twitter, порушила систему забезпечення якості (QA) контенту.
«Інші платформи надали стандартні гарантії, що вони боротимуться з дезінформацією, але захист свободи слова та відсутність регулювання все ще залишають поле відкритим для зловмисників», – застерігає він.
AI посилює наявні фішингові TTP
За словами Скотта Смолла, директора відділу розвідки кіберзагроз у Tidal Cyber, GenAI вже використовується для створення більш правдоподібних цілеспрямованих фішингових кампаній, але в контексті безпеки виборів це явище викликає більше занепокоєння.
«Ми очікуємо, що кіберзловмисники запровадять генеративний штучний інтелект, щоб зробити фішингові атаки та атаки соціальної інженерії — провідні форми атак, пов’язаних з виборами, з огляду на постійний обсяг протягом багатьох років — більш переконливі, підвищуючи ймовірність того, що цілі взаємодітимуть зі шкідливим вмістом, – пояснює він.
Смолл каже, що впровадження штучного інтелекту також знижує бар’єр для запуску таких атак, фактор, який, ймовірно, збільшить обсяг кампаній цього року, які намагаються проникнути в кампанії або заволодіти обліковими записами кандидатів з метою видавання себе за іншу особу, серед іншого.
«Злочинці та вороги національних держав регулярно адаптують фішингові та соціальні інженерні приманки до поточних подій і популярних тем, і ці актори майже напевно намагатимуться отримати вигоду від буму цифрового контенту, пов’язаного з виборами, який поширюється в цілому цього року, щоб спробувати доставити зловмисний контент. контент для нічого не підозрюючих користувачів», – каже він.
Захист від загроз ШІ на виборах
Щоб захиститися від цих загроз, представники виборчих кампаній і виборчі кампанії повинні знати про ризики, створені GenAI, і знати, як від них захиститися.
«Офіційні особи та кандидати постійно дають інтерв’ю та прес-конференції, щоб загрозливі суб’єкти могли отримати звукові фрагменти для глибоких фейків на основі штучного інтелекту», — каже Джеймс Тургал, віце-президент із кіберризиків Optiv. «Тому вони зобов’язані переконатися, що у них є особа або команда, відповідальна за забезпечення контролю над контентом».
Вони також повинні переконатися, що волонтери та працівники пройшли навчання щодо загроз на основі штучного інтелекту, таких як розширена соціальна інженерія, суб’єкти загроз, які стоять за ними, і те, як реагувати на підозрілу активність.
З цією метою співробітники повинні брати участь у тренінгах із соціальної інженерії та відеопідробки, які містять інформацію про всі форми та вектори атак, у тому числі електронні (електронна пошта, текстові повідомлення та соціальні медіа-платформи), особисті спроби та спроби по телефону.
«Це дуже важливо — особливо для волонтерів — тому що не всі мають належну кібергігієну», — каже Тургал.
Крім того, волонтери передвиборчої кампанії та виборів повинні пройти навчання, як безпечно надавати інформацію в Інтернеті та стороннім організаціям, зокрема публікації в соціальних мережах, і бути обережними, роблячи це.
«Суб’єкти кіберзагрози можуть збирати цю інформацію, щоб адаптувати соціально створені приманки для конкретних цілей», – застерігає він.
О'Райлі каже, що довгострокове регулювання включає водяні знаки для аудіо та відео дипфейків матиме важливе значення, зазначаючи, що федеральний уряд працює з власниками LLM, щоб запровадити захист.
У самому справі, Федеральна комісія зв’язку (FCC) щойно оголосила Голосові дзвінки, згенеровані штучним інтелектом, вважаються «штучними» відповідно до Закону про захист споживачів телефонних зв’язків (TCPA), що робить використання технології клонування голосу незаконним і надає генеральним прокурорам по всій країні нові інструменти для боротьби з такими шахрайськими діями.
«Штучний інтелект рухається настільки швидко, що існує невід’ємна небезпека того, що будь-які запропоновані правила можуть стати неефективними з розвитком технологій, потенційно не досягнувши мети», — говорить О'Райлі. «У певному сенсі це Дикий Захід, і штучний інтелект виходить на ринок із дуже невеликими гарантіями».
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security
- : має
- :є
- : ні
- :де
- $UP
- 7
- a
- МЕНЮ
- За
- Рахунки
- Діяти
- діяльності
- діяльність
- актори
- пристосовувати
- адреса
- Додає
- Прийняття
- Прийняття
- аванси
- проти
- AI
- Можливість
- ака
- ВСІ
- майже
- вже
- Також
- альтернатива
- накопичений
- серед
- посилюється
- an
- та
- будь-який
- ЕСТЬ
- штучний
- штучний інтелект
- AS
- гарантія
- At
- атака
- нападки
- спроба
- Спроби
- слухання
- аудіо
- автоматизувати
- Автоматизований
- доступний
- проспекти
- знати
- поганий
- баланси
- бар'єр
- BE
- оскільки
- ставати
- за
- буття
- переконанням
- віруючи
- замовляти
- біден
- Біт
- бум
- Бот
- але
- by
- званий
- Виклики
- Кампанія
- Кампанії
- CAN
- кандидат
- кандидатів
- капіталізувати
- обережність
- застереження
- певний
- звичайно
- характеристика
- ChatGPT
- головний
- Крістофер
- громадяни
- боротьби з
- майбутній
- комісія
- зв'язку
- компанія
- щодо
- конференції
- послідовний
- постійно
- споживач
- Захист прав споживачів
- зміст
- контекст
- контроль
- може
- країна
- виробити
- створювати
- Кримінальну
- Поточний
- кібер-
- НЕБЕЗПЕЧНО
- темно
- Dark Web
- дані
- deepfakes
- глибоко
- Захист
- доставляти
- Демократія
- демократичний
- розвивати
- цифровий
- Цифровий вміст
- Директор
- розбрат
- дезінформація
- розподілений
- розділений
- Роздільна
- справи
- досудовий день
- під час
- Вибори
- Вибори
- Electronic
- ще
- охоплюючий
- кінець
- інженерії
- Машинобудування
- підвищена
- забезпечення
- юридичні особи
- запис
- особливо
- Event
- Події
- все
- еволюціонує
- існуючий
- очікувати
- Пояснює
- факт
- фактор
- Факти
- підроблений
- підроблені новини
- знайомий
- ШВИДКО
- fbi
- FCC
- Показуючи
- Федеральний
- Федеральний уряд
- кілька
- поле
- для
- Forbes
- раніше
- форми
- шахрайський
- Безкоштовна
- Свобода слова
- від
- збирати
- Близнюки
- genai
- Загальне
- в цілому
- генерується
- генеративний
- Генеративний ШІ
- геополітичний
- дає
- мета
- добре
- Уряд
- Хемпшир
- Мати
- he
- допомога
- тут
- дуже
- Як
- How To
- HTTPS
- if
- незаконний
- важливо
- in
- персонально
- includes
- У тому числі
- Augmenter
- збільшений
- все більше і більше
- Складно
- осіб
- вплив
- інформація
- притаманне
- інновація
- екземпляр
- інструментальний
- Інтелект
- взаємодіяти
- цікавий
- інтереси
- інтерв'ю
- в
- IT
- ЙОГО
- Джеймс
- JPG
- просто
- Знати
- відомий
- відсутність
- відсутність регулювання
- мова
- великий
- запуск
- провідний
- Залишати
- використання
- як
- Ймовірно
- трохи
- Довго
- зробити
- Робить
- malicious
- багато
- ринок
- Маса
- Може..
- Медіа
- обмін повідомленнями
- мільйона
- відсутній
- змішувати
- Моделі
- сучасний
- більше
- переміщення
- повинен
- Nationwide
- мереж
- Нові
- новини
- відзначивши,
- номер
- відбуваються
- of
- від
- Офіцер
- чиновників
- on
- ONE
- постійний
- онлайн
- відкрити
- or
- порядок
- Інше
- Розетки
- поза
- над
- Власники
- брати участь
- Люди
- може бути
- людина
- Особистість
- перспектива
- явище
- phishing
- місце
- платформа
- Платформи
- plato
- Інформація про дані Платона
- PlatoData
- Play
- популярний
- Пости
- сильнодіючий
- потенційно
- потенціали
- президент
- президентських
- press
- первинний
- процес
- профіль
- Профілі
- обіцяє
- запропонований
- захист
- забезпечувати
- за умови
- забезпечення
- психологічний
- громадськість
- суспільну довіру
- цілей
- put
- Питання та відповіді
- якість
- швидко
- реальний
- реалії
- регулярно
- Регулювання
- нагадування
- дослідник
- Реагувати
- відповідальний
- Зростання
- Risk
- ризики
- Роль
- Правила
- російський
- s
- гарантії
- безпечно
- говорить
- шкала
- сценарій
- сценарії
- Скотт
- безпеку
- побачити
- служити
- загальні
- Повинен
- невеликий
- So
- соціальна
- Соціальна інженерія
- соціальні медіа
- соціальні медіа-платформи
- Повідомлення в соціальних мережах
- соціально
- деякі
- Звучати
- сіяти
- конкретний
- мова
- Рекламні
- Персонал
- Станфорд
- різко
- стан
- Як і раніше
- вкрали
- істотний
- такі
- Переконайтеся
- підозрілі
- Влада
- кравець
- з урахуванням
- Приймати
- Мета
- цільове
- націлювання
- цілі
- команда
- технології
- Технологія
- термін
- terms
- текст
- Що
- Команда
- їх
- Їх
- Теми
- Там.
- отже
- Ці
- вони
- це
- У цьому році
- загроза
- актори загроз
- загрози
- через
- до
- занадто
- інструменти
- навчений
- Навчання
- тролінг
- Довіряйте
- намагатися
- ПЕРЕГЛЯД
- при
- Майбутні
- на
- переконуючи
- us
- Вибори в США
- виборців США
- використання
- використовуваний
- користувач
- користувачі
- використання
- дуже
- через
- віце
- Віцепрезидент
- Відео
- вид
- Голос
- обсяг
- добровольці
- виборців
- голосів
- шлях..
- способи
- we
- Web
- West
- Що
- коли
- ВООЗ
- широкий
- Wild
- Дикий Захід
- волі
- з
- робочі
- робочий
- б
- X
- рік
- років
- зефірнет