X à la recherche de modérateurs de contenu après le chaos de Taylor Swift

X recherche des modérateurs de contenu pour lutter contre l'exploitation sexuelle des enfants et d'autres contenus explicites après que des images classées X générées par l'IA de Taylor Swift soient devenues virales sur la plateforme.

La société de médias sociaux embauchera 100 employés à temps plein pour lutter contre la prolifération du contenu deepfake qui prévaut désormais non seulement sur X mais sur toutes les plateformes de médias sociaux.

Centre de confiance et de sécurité

Avec le personnel supplémentaire, l’entreprise appartenant à Elon Musk envisage également de développer un « centre de confiance et de sécurité » à Austin, au Texas. Ici, les agents seront chargés d'examiner le contenu conformément aux les règles de sécurité de l'entreprise.

Ces évolutions surviennent également alors que les plateformes de médias sociaux sont désormais utilisées par de mauvais acteurs pour perpétrer la violence, le racisme, la fraude et l’exploitation sexuelle des enfants.

« X n'a ​​pas d'activité axée sur les enfants, mais il est important que nous réalisions ces investissements pour continuer à empêcher les délinquants d'utiliser notre plateforme pour toute distribution ou interaction avec du contenu CSE » a affirmé Valérie Plante. Joe Benarroch, responsable des opérations commerciales chez X.

La plateforme a été critiquée suite à la multiplication de contenus antisémites et néo-nazis. Cela a conduit de nombreux annonceurs à diffuser la plateforme.

En 2022, Musc a acquis la plateforme de médias sociaux, puis Twitter, pour 44 milliards de dollars afin de permettre la liberté d'expression sur la plateforme. Cela ne s'est pas bien passé, car le milliardaire de la technologie a été critiqué après avoir réduit « les effectifs des opérations de confiance et de sécurité de l'entreprise ».

A lire également: L’industrie technologique frappée par des suppressions d’emplois massives alors que les entreprises remplacent leurs travailleurs par l’IA

Mesures temporaires

Ces dernières semaines, la plateforme a été inondée d’images explicites générées par l’IA. Taylor Swift, incitant sa légion de fans à contrer cela avec leur propre campagne avec des images plus positives de la chanteuse. Les fans ont couru avec le hashtag #ProtectTaylorSwift.

Pour X, la plateforme a bloqué toute recherche ultérieure du musicien. Selon le New York Post, les utilisateurs qui ont tenté de rechercher son nom lundi ont reçu un erreur » message leur demandant de réessayer, ajoutant : « Ne vous inquiétez pas, ce n'est pas de votre faute.

Mais des messages portant son nom apparaissaient chaque fois que les utilisateurs ajoutaient des guillemets autour de son nom, certains experts affirmant que l'approche de X pour gérer le problème laissait beaucoup à désirer.

"Il s'agit d'une action temporaire et réalisée avec beaucoup de prudence alors que nous accordons la priorité à la sécurité sur cette question", a déclaré Benarroch dans un communiqué.

Cependant, certains fans de Taylor Swift ont commencé à signaler des comptes partageant les images deepfake.

Traquer les problèmes

Alors que l’IA générative continue de gagner du terrain à travers le monde, il existe désormais des outils sophistiqués également disponibles pour diffuser des contenus malveillants. Avec l'incident de Taylor Swift, Reality Defender, un groupe de détection de deepfake, a suivi de nombreux documents pornographiques représentant la pop star, en particulier sur X, tandis que d'autres étaient sur Facebook et d'autres plateformes de médias sociaux.

Selon Ben Decker du groupe de renseignement sur les menaces Memetica, les images de Taylor Swift est venu pour la première fois d’une campagne appelée Lewd DALL-E, spécialisée dans les images sexuellement explicites de femmes célèbres générées par l’IA.

"Cela fait partie d'une relation conflictuelle de longue date entre les trolls et les plateformes", a déclaré Decker.

« Tant qu’il y aura des plateformes, les trolls tenteront de les perturber. Et tant que les trolls existeront, les plateformes seront perturbées. La question qui se pose alors est la suivante : combien de fois cela va-t-il se produire avant qu’il y ait un changement sérieux ? »

La maison Blanche vendredi, il s'est prononcé sur la question, qualifiant les fausses images d'"alarmantes" et appelant les plateformes de médias sociaux à assumer la responsabilité pour empêcher la propagation de la désinformation.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/