X Zoekt naar contentmoderators na Taylor Swift Chaos

X is op zoek naar contentmoderators om seksuele uitbuiting van kinderen en andere expliciete inhoud aan te pakken nadat door AI gegenereerde X-rated afbeeldingen van Taylor Swift viraal gingen op het platform.

Het sociale-mediabedrijf zal 100 fulltime werknemers in dienst nemen om de verspreiding van deepfake-inhoud aan te pakken die nu niet alleen op X voorkomt, maar ook op sociale-mediaplatforms.

Vertrouwens- en veiligheidscentrum

Met het extra personeel overweegt het bedrijf van Elon Musk nu ook de ontwikkeling van een ‘vertrouwens- en veiligheidscentrum’ in Austin, Texas. Hier zijn agenten verantwoordelijk voor het beoordelen van de inhoud in overeenstemming met de veiligheidsregels van het bedrijf.

De ontwikkelingen komen ook omdat sociale-mediaplatforms nu door slechte actoren worden gebruikt om geweld, racisme, fraude en seksuele uitbuiting van kinderen te plegen.

“X heeft geen bedrijfstak die zich richt op kinderen, maar het is belangrijk dat we deze investeringen doen om overtreders ervan te weerhouden ons platform te gebruiken voor enige distributie of betrokkenheid bij CSE-inhoud,” zei Joe Benarroch, hoofd bedrijfsvoering bij X.

Het platform is bekritiseerd vanwege de verspreiding van antisemitische en neonazistische inhoud. Dit heeft ertoe geleid dat veel adverteerders het platform hebben verspreid.

In 2022, Muskus kocht het sociale mediaplatform – en vervolgens Twitter – voor 44 miljard dollar om vrije meningsuiting op het platform mogelijk te maken. Dit is niet goed uitgepakt, omdat de technologiemiljardair onder vuur is komen te liggen nadat hij “het personeelsbestand van de vertrouwens- en veiligheidsactiviteiten van het bedrijf had teruggeschroefd.”

Lees ook: De technische industrie wordt getroffen door een groot banenverlies omdat bedrijven werknemers vervangen door AI

Tijdelijke maatregelen

De afgelopen weken werd het platform overspoeld met door AI gegenereerde expliciete beelden van Taylor Swift, wat haar legioen fans ertoe aanzette dit tegen te gaan met een eigen campagne met positievere beelden van de zangeres. De fans liepen met de hashtag #ProtectTaylorSwift.

Voor X blokkeerde het platform verdere zoekopdrachten naar de muzikant. Volgens de New York Post, gebruikers die maandag probeerden naar haar naam te zoeken, kregen een fout bericht waarin hen wordt gevraagd het opnieuw te proberen, met de toevoeging: "Maak je geen zorgen, het is niet jouw schuld."

Maar berichten met haar naam verschenen echter telkens wanneer gebruikers citaten rond haar naam toevoegden, waarbij sommige experts beweerden dat X's aanpak van het probleem veel te wensen overliet.

“Dit is een tijdelijke actie en wordt met grote voorzichtigheid uitgevoerd, aangezien we in deze kwestie prioriteit geven aan de veiligheid”, zei Benarroch in een verklaring.

Sommige fans van Taylor Swift maakten echter melding van accounts die de deepfake-beelden deelden.

Het opsporen van de problemen

Nu generatieve AI steeds meer terrein wint over de hele wereld, zijn er nu ook geavanceerde tools beschikbaar om kwaadaardige inhoud te verspreiden. Met het Taylor Swift-incident volgde Reality Defender, een deepfake-detectiegroep, talloze pornografisch materiaal waarop de popster werd afgebeeld, vooral op X, terwijl anderen zich op Facebook en andere sociale mediaplatforms bevonden.

Volgens Ben Decker van de threat intelligence-groep Memetica zijn de beelden van Taylor Swift kwam voor het eerst voort uit een campagne genaamd Lewd DALL-E, die gespecialiseerd is in seksueel expliciete, door AI gegenereerde beelden van beroemde vrouwen.

"Het maakt deel uit van een langdurige, vijandige relatie tussen trollen en platforms", zei Decker.

“Zolang er platforms bestaan, zullen trollen proberen deze te ontwrichten. En zolang er trollen bestaan, zullen platforms verstoord worden. Dus de vraag wordt eigenlijk: hoe vaak gaat dit nog gebeuren voordat er sprake is van enige serieuze verandering?”

De Witte Huis op vrijdag hebben ze zich over de zaak gebogen, waarbij ze de nepbeelden “alarmerend” noemden en sociale-mediaplatforms opriepen om dat ook te doen de verantwoordelijkheid op zich nemen om de verspreiding van desinformatie te voorkomen.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/