X jagar efter innehållsmoderatorer efter Taylor Swift-kaos

X jagar efter innehållsmoderatorer efter Taylor Swift-kaos

Tidsstämpel: 31 januari 2024 10:18
X Jagar efter innehållsmoderatorer efter Taylor Swift Chaos PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

X letar efter innehållsmoderatorer för att ta itu med sexuellt utnyttjande av barn och annat explicit innehåll efter att AI-genererade X-klassade bilder av Taylor Swift blev virala på plattformen.

Sociala medieföretaget kommer att anställa 100 heltidsanställda för att ta itu med spridningen av deepfake-innehåll som nu är utbredd inte bara på X utan över sociala medieplattformar.

Trust and Safety Center

Med den extra personalen tittar den Elon Musk-ägda verksamheten nu också på att utveckla ett "förtroende- och säkerhetscenter" i Austin, Texas. Här kommer agenter att ansvara för att granska innehåll i linje med företagets säkerhetsregler.

Utvecklingen kommer också eftersom sociala medieplattformar nu används av dåliga aktörer för att utöva våld, rasism, bedrägerier och sexuellt utnyttjande av barn.

"X har inte en bransch som fokuserar på barn, men det är viktigt att vi gör dessa investeringar för att fortsätta att hindra brottslingar från att använda vår plattform för all distribution eller engagemang med CSE-innehåll," sade Joe Benarroch, som är chef för affärsverksamheten på X.

Plattformen har kritiserats efter spridningen av antisemitiskt och nynazistiskt innehåll. Detta har resulterat i att många annonsörer spridit plattformen.

2022, Mysk förvärvade den sociala medieplattformen – då Twitter – för 44 miljarder dollar för att tillåta yttrandefrihet på plattformen. Detta har inte visat sig bra, eftersom teknikmiljardären har hamnat under eld efter att ha minskat "antalet anställda från företagets förtroende och säkerhetsverksamhet."

Läs också: Teknisk industri drabbats av massiva nedskärningar när företag ersätter arbetare med AI

Tillfälliga åtgärder

De senaste veckorna har plattformen svämmat över av AI-genererade explicita bilder av taylor swift, vilket fick hennes legion av fans att motverka detta med sin egen kampanj med mer positiva bilder av sångerskan. Fansen sprang med hashtaggen #ProtectTaylorSwift.

För X blockerade plattformen ytterligare sökningar efter musikern. Enligt New York Post, användare som försökte söka efter hennes namn i måndags fick en fel meddelande där de uppmanas att försöka igen och lägga till: "Oroa dig inte - det är inte ditt fel."

Men inlägg med hennes namn dök upp varje gång användare lade till citat runt hennes namn, med vissa experter som hävdade att X:s inställning till att hantera problemet lämnade mycket att önska.

"Detta är en tillfällig åtgärd och utförd med en överflöd av försiktighet eftersom vi prioriterar säkerhet i denna fråga", sa Benarroch i ett uttalande.

Men några av Taylor Swifts fans började rapportera konton som delade deepfake-bilderna.

Spåra problemen

Med generativ AI som fortsätter att få dragkraft över hela världen finns det nu sofistikerade verktyg som också är tillgängliga för att sprida skadligt innehåll. Med Taylor Swift-incidenten spårade Reality Defender, en grupp för deepfake-detektion, många pornografiska material som föreställde popstjärnan, särskilt på X, medan andra fanns på Facebook och andra sociala medieplattformar.

Enligt Ben Decker från hotunderrättelsegruppen Memetica ska bilderna på Taylor Swift kom först från en kampanj som heter Lewd DALL-E, som specialiserar sig på sexuellt explicita AI-genererade bilder av kändiskvinnor.

"Det är en del av en långvarig, kontradiktorisk relation mellan troll och plattformar," sa Decker.

"Så länge det finns plattformar kommer troll att försöka störa dem. Och så länge det finns troll kommer plattformar att störas. Så frågan blir egentligen, hur många gånger till kommer detta att hända innan det blir någon allvarlig förändring?”

Smakämnen VITA HUSET på fredagen vägde in i saken och kallade de falska bilderna "larmande" och uppmanade sociala medieplattformar att ta på sig ansvaret för att förhindra spridning av felaktig information.

Tidsstämpel:

Mer från MetaNews