X шукає модераторів контенту після хаосу Тейлор Свіфт

X — модератори контенту, які шукають голови, щоб боротися з сексуальною експлуатацією дітей та іншим відвертим контентом після того, як створені ШІ зображення Тейлор Свіфт із рейтингом X стали вірусними на платформі.

Компанія соціальних медіа найме 100 штатних працівників для боротьби з розповсюдженням контенту deepfake, який зараз поширений не лише на X, але й на платформах соціальних мереж.

Центр довіри та безпеки

З додатковим персоналом компанія, що належить Ілону Маску, зараз також розглядає можливість створення «центру довіри та безпеки» в Остіні, штат Техас. Тут агенти відповідатимуть за перевірку вмісту відповідно до правила безпеки компанії.

Події також відбуваються через те, що платформи соціальних мереж тепер використовуються зловмисниками для вчинення насильства, расизму, шахрайства та сексуальної експлуатації дітей.

«X не займається бізнесом, зосередженим на дітях, але важливо, щоб ми робили ці інвестиції, щоб не дати порушникам використовувати нашу платформу для будь-якого розповсюдження або взаємодії з вмістом CSE», сказав Джо Бенаррок, який є керівником бізнес-операцій X.

Платформу розкритикували через поширення антисемітського та неонацистського контенту. Це призвело до того, що багато рекламодавців поширюють платформу.

У 2022, Маск придбав платформу соціальних медіа — тоді Twitter — за 44 мільярди доларів, щоб забезпечити свободу слова на платформі. Це виявилося невдалим, оскільки технологічний мільярдер потрапив під критику після того, як скоротив «чисельність персоналу з довіри та безпеки компанії».

Читайте також: Технологічна галузь постраждала від масових скорочень робочих місць, оскільки компанії замінюють працівників ШІ

Тимчасові заходи

Останніми тижнями платформу заповнили відверті зображення, створені ШІ Тейлор Свіфт, що спонукало легіон її шанувальників протистояти цьому власною кампанією з більш позитивними зображеннями співачки. Фанати бігли з хештегом #ProtectTaylorSwift.

Для X платформа заблокувала подальші пошуки музиканта. Відповідно до New York Post, користувачі, які намагалися знайти її ім’я в понеділок, отримали помилка повідомлення з проханням повторити спробу з додаванням: «Не хвилюйтеся — це не ваша вина».

Проте дописи з її іменем з’являлися щоразу, коли користувачі додавали її ім’я в лапки, і деякі експерти стверджували, що підхід X до вирішення проблеми залишав бажати кращого.

«Це тимчасовий захід, і ми виконуємо його з великою обережністю, оскільки ми надаємо пріоритет безпеці в цьому питанні», — сказав Бенаррок у заяві.

Однак деякі шанувальники Тейлор Свіфт повідомили про акаунти, які поширили зображення deepfake.

Відстеження проблем

Оскільки генеративний штучний інтелект продовжує набирати обертів у всьому світі, тепер існують складні інструменти, які також доступні для поширення шкідливого вмісту. Під час інциденту з Тейлор Свіфт Reality Defender, група виявлення глибоких фейків, відстежила численні порнографічні матеріали, які зображували поп-зірку, особливо на X, тоді як інші були на Facebook та інших платформах соціальних мереж.

За словами Бена Декера з групи розвідки загроз Memetica, зображення Taylor Swift вперше прийшов з кампанії під назвою Lewd DALL-E, яка спеціалізується на відверто сексуальних зображеннях жінок-знаменитостей, створених ШІ.

«Це частина давніх, ворожих відносин між тролями та платформами», — сказав Декер.

«Поки існують платформи, тролі намагатимуться їх порушити. І доки існують тролі, платформи будуть зруйновані. Тож справді постає питання: скільки разів це ще станеться, перш ніж відбудуться серйозні зміни?»

Команда Білий дім у п’ятницю взяв участь у цьому питанні, назвавши підроблені зображення «тривожними» та закликавши платформи соціальних мереж взяти на себе відповідальність щоб запобігти поширенню дезінформації.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/