X jagter efter indholdsmoderatorer efter Taylor Swift-kaos

X jagter efter indholdsmoderatorer efter Taylor Swift-kaos

Tidsstempel: 31. januar 2024 kl. 10
X jagter efter indholdsmoderatorer efter Taylor Swift Chaos PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

X er på jagt efter indholdsmoderatorer for at tackle seksuel udnyttelse af børn og andet eksplicit indhold, efter at AI-genererede X-vurderede billeder af Taylor Swift gik viralt på platformen.

Det sociale mediefirma vil ansætte 100 fuldtidsansatte til at tackle spredningen af ​​deepfake-indhold, der nu er udbredt ikke kun på X, men på tværs af sociale medieplatforme.

Tillids- og sikkerhedscenter

Med det ekstra personale ser den Elon Musk-ejede virksomhed også nu på at udvikle et "tillids- og sikkerhedscenter" i Austin, Texas. Her vil agenter være ansvarlige for at gennemgå indhold i overensstemmelse med virksomhedens sikkerhedsregler.

Udviklingen kommer også, da sociale medieplatforme nu bliver brugt af dårlige aktører til at udøve vold, racisme, bedrageri og seksuel udnyttelse af børn.

"X har ikke en branche, der fokuserer på børn, men det er vigtigt, at vi foretager disse investeringer for at blive ved med at forhindre lovovertrædere i at bruge vores platform til enhver distribution eller engagement med CSE-indhold," sagde Joe Benarroch, der er chef for forretningsdrift hos X.

Platformen er blevet kritiseret efter spredningen af ​​antisemitisk og nynazistisk indhold. Dette har resulteret i, at mange annoncører har formidlet platformen.

I 2022, blev Musk købte den sociale medieplatform - dengang Twitter - for 44 milliarder dollars for at tillade ytringsfrihed på platformen. Dette har ikke vist sig godt, da tech-milliardæren er kommet under beskydning efter at have skåret "beskæftigelse fra virksomhedens tillid og sikkerhedsoperationer."

Læs også: Teknologisk industri ramt af massive jobnedskæringer, da virksomheder erstatter arbejdere med AI

Midlertidige foranstaltninger

I de seneste uger er platformen blevet oversvømmet med AI-genererede eksplicitte billeder af taylor swift, får hendes legion af fans til at imødegå dette med deres egen kampagne med mere positive billeder af sangerinden. Fansene løb med hashtagget #ProtectTaylorSwift.

For X blokerede platformen yderligere søgninger efter musikeren. Ifølge New York Post, brugere, der forsøgte at søge efter hendes navn i mandags, fik en fejl besked, der beder dem om at prøve igen og tilføjer: "Bliv ikke bekymret - det er ikke din skyld."

Men indlæg med hendes navn dukkede dog op, hver gang brugere tilføjede citater omkring hendes navn, med nogle eksperter, der hævdede, at X's tilgang til at håndtere problemet lod meget tilbage at ønske.

"Dette er en midlertidig handling og udført med en overflod af forsigtighed, da vi prioriterer sikkerhed i dette spørgsmål," sagde Benarroch i en erklæring.

Nogle af Taylor Swifts fans begyndte dog at rapportere konti, der delte de deepfake billeder.

Opsporing af problemerne

Med generativ kunstig intelligens, der fortsætter med at vinde indpas over hele kloden, er der nu sofistikerede værktøjer, der også er tilgængelige til at sprede ondsindet indhold. Med Taylor Swift-hændelsen sporede Reality Defender, en deepfake-detektionsgruppe, adskillige pornografiske materialer, der skildrede popstjernen, især på X, mens andre var på Facebook og andre sociale medieplatforme.

Ifølge Ben Decker fra trusselsefterretningsgruppen Memetica er billederne af Taylor Swift kom først fra en kampagne kaldet Lewd DALL-E, som har specialiseret sig i seksuelt eksplicitte AI-genererede billeder af kendte kvinder.

"Det er en del af et langvarigt, modstridende forhold mellem trolde og platforme," sagde Decker.

"Så længe platforme eksisterer, vil trolde forsøge at forstyrre dem. Og så længe der eksisterer trolde, vil platforme blive forstyrret. Så spørgsmålet bliver i virkeligheden, hvor mange gange mere skal dette ske, før der er nogen alvorlig ændring?”

Hvide Hus fredag ​​vejede ind i sagen, kaldte de falske billeder "alarmerende" og opfordrede sociale medieplatforme til at tage ansvaret på sig for at forhindre spredning af misinformation.

Tidsstempel:

Mere fra MetaNews