X jakter på innholdsmoderatorer etter Taylor Swift-kaos

X jakter på innholdsmoderatorer etter Taylor Swift-kaos

Tidsstempel: 31. januar 2024 10:18
X jakter på innholdsmoderatorer etter Taylor Swift Chaos PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

X jakter på innholdsmoderatorer for å takle seksuell utnyttelse av barn og annet eksplisitt innhold etter at AI-genererte X-vurderte bilder av Taylor Swift gikk viralt på plattformen.

Det sosiale medieselskapet vil ansette 100 heltidsansatte for å takle spredningen av dypfalsk innhold som nå er utbredt ikke bare på X, men på tvers av sosiale medieplattformer.

Tillits- og sikkerhetssenter

Med den ekstra staben ser den Elon Musk-eide virksomheten nå også på å utvikle et "tillits- og sikkerhetssenter" i Austin, Texas. Her vil agenter være ansvarlige for å gjennomgå innhold i tråd med selskapets sikkerhetsregler.

Utviklingen kommer også ettersom sosiale medieplattformer nå brukes av dårlige skuespillere til å utøve vold, rasisme, svindel og seksuell utnyttelse av barn.

"X har ikke en bransje som er fokusert på barn, men det er viktig at vi gjør disse investeringene for å fortsette å hindre lovbrytere fra å bruke plattformen vår til distribusjon eller engasjement med CSE-innhold," sa Joe Benarroch, som er leder for forretningsdrift i X.

Plattformen har blitt kritisert etter spredningen av antisemittisk og nynazistisk innhold. Dette har resultert i at mange annonsører har spredd plattformen.

I 2022, Musk kjøpte den sosiale medieplattformen – den gang Twitter – for 44 milliarder dollar for å tillate ytringsfrihet på plattformen. Dette har ikke vist seg bra, ettersom teknologimilliardæren har kommet under ild etter å ha kuttet "ansatte fra selskapets tillits- og sikkerhetsoperasjoner."

Les også: Teknisk industri rammet av massive nedskjæringer ettersom bedrifter erstatter arbeidere med kunstig intelligens

Midlertidige tiltak

De siste ukene har plattformen blitt oversvømmet med AI-genererte eksplisitte bilder av taylor swift, som får hennes legion av fans til å motvirke dette med sin egen kampanje med mer positive bilder av sangeren. Fansen løp med hashtaggen #ProtectTaylorSwift.

For X blokkerte plattformen ytterligere søk etter musikeren. Ifølge New York Post, brukere som forsøkte å søke etter navnet hennes på mandag, fikk en feil melding som ber dem om å prøve på nytt, og legger til: "Ikke bekymre deg - det er ikke din feil."

Men innlegg med navnet hennes dukket imidlertid opp hver gang brukere la til sitater rundt navnet hennes, med noen eksperter som hevdet at Xs tilnærming til å håndtere problemet overlot mye å være ønsket.

"Dette er en midlertidig handling og gjort med stor forsiktighet da vi prioriterer sikkerhet i denne saken," sa Benarroch i en uttalelse.

Noen av Taylor Swifts fans tok imidlertid til å rapportere kontoer som delte de dypfalske bildene.

Å spore problemene

Med generativ kunstig intelligens som fortsetter å få gjennomslag over hele verden, er det nå sofistikerte verktøy som også er tilgjengelige for å spre skadelig innhold. Med Taylor Swift-hendelsen sporet Reality Defender, en deepfake-deteksjonsgruppe, en rekke pornografiske materialer som avbildet popstjernen, spesielt på X, mens andre var på Facebook og andre sosiale medieplattformer.

Ifølge Ben Decker i trusseletterretningsgruppen Memetica er bildene av Taylor Swift kom først fra en kampanje kalt Lewd DALL-E, som spesialiserer seg på seksuelt eksplisitte AI-genererte bilder av kjendiskvinner.

"Det er en del av et langvarig, motstridende forhold mellom troll og plattformer," sa Decker.

"Så lenge plattformer eksisterer, kommer troll til å prøve å forstyrre dem. Og så lenge troll eksisterer, kommer plattformene til å bli forstyrret. Så spørsmålet blir egentlig: Hvor mange ganger til skal dette skje før det er noen alvorlig endring?»

De White House fredag ​​vektet saken, kalt de falske bildene "alarmerende" og oppfordret sosiale medieplattformer til å ta på seg ansvaret for å hindre spredning av feilinformasjon.

Tidstempel:

Mer fra MetaNews