X caută moderatori de conținut după Taylor Swift Chaos

X caută moderatori de conținut pentru a aborda exploatarea sexuală a copiilor și alte conținuturi explicite după ce imaginile X-rated generate de AI ale lui Taylor Swift au devenit virale pe platformă.

Compania de social media va angaja 100 de angajați cu normă întreagă pentru a aborda proliferarea conținutului deepfake care este acum răspândit nu numai pe X, ci și pe platformele de social media.

Centru de încredere și siguranță

Cu personalul suplimentar, compania deținută de Elon Musk caută acum să dezvolte un „centru de încredere și siguranță” în Austin, Texas. Aici, agenții vor fi responsabili pentru revizuirea conținutului în conformitate cu regulile de siguranță ale companiei.

Evoluțiile au loc și pe măsură ce platformele de social media sunt acum folosite de actori răi pentru a comite violență, rasism, fraudă și exploatare sexuală a copiilor.

„X nu are o linie de afaceri axată pe copii, dar este important să facem aceste investiții pentru a-i împiedica pe infractorii să folosească platforma noastră pentru orice distribuție sau implicare cu conținutul CSE.” a spus Joe Benarroch, care este șeful operațiunilor de afaceri la X.

Platforma a fost criticată în urma proliferării conținutului antisemit și neo-nazist. Acest lucru a dus la diseminarea platformei de mulți agenți de publicitate.

În 2022, Mosc a achiziționat platforma social media – apoi Twitter – pentru 44 de miliarde de dolari pentru a permite libertatea de exprimare pe platformă. Acest lucru nu a ieșit bine, deoarece miliardarul din tehnologie a fost criticat după ce a redus „numărul personalului din operațiunile de încredere și siguranță ale companiei”.

De asemenea, se va citi: Industria tehnologică lovită de reduceri masive de locuri de muncă, deoarece firmele înlocuiesc angajații cu inteligența artificială

Măsuri provizorii

În ultimele săptămâni, platforma a fost inundată cu imagini explicite generate de AI Taylor Swift, determinând legiunea ei de fani să contracareze acest lucru cu propria lor campanie cu imagini mai pozitive ale cântăreței. Fanii au alergat cu hashtag-ul #ProtectTaylorSwift.

Pentru X, platforma a blocat căutările ulterioare ale muzicianului. In conformitate cu New York Post, utilizatorii care au încercat să-i caute numele luni au primit un eroare mesaj prin care le cere să reîncerce, adăugând: „Nu vă supărați, nu este vina dumneavoastră”.

Dar postările cu numele ei, totuși, apăreau ori de câte ori utilizatorii adăugau ghilimele în jurul numelui ei, unii experți susținând că abordarea lui X de a gestiona problema lăsa foarte mult de dorit.

„Aceasta este o acțiune temporară și făcută cu multă prudență, deoarece acordăm prioritate siguranței în această problemă”, a spus Benarroch într-un comunicat.

Cu toate acestea, unii dintre fanii lui Taylor Swift au început să raporteze conturi care au distribuit imaginile deepfake.

Urmărirea problemelor

Odată cu IA generativă care continuă să câștige acțiune pe tot globul, acum există instrumente sofisticate care sunt, de asemenea, disponibile pentru a răspândi conținut rău intenționat. Odată cu incidentul Taylor Swift, Reality Defender, un grup de detectare a falsurilor, a urmărit numeroase materiale pornografice care o înfățișau pe starul pop, în special pe X, în timp ce altele erau pe Facebook și alte platforme de socializare.

Potrivit lui Ben Decker de la grupul de informații despre amenințări Memetica, imaginile lui Taylor Swift prima dată a venit dintr-o campanie numită Lewd DALL-E, care este specializată în imagini sexuale explicite generate de AI cu femei celebre.

„Face parte dintr-o relație de lungă durată, contradictorie, între troli și platforme”, a spus Decker.

„Atâta timp cât există platforme, trolii vor încerca să le perturbe. Și atâta timp cât vor exista trolii, platformele vor fi perturbate. Deci întrebarea devine cu adevărat: De câte ori se va mai întâmpla acest lucru înainte de o schimbare serioasă?”

Casă albă vineri a intervenit asupra chestiunii, considerând imaginile false „alarmante” și făcând apel la platformele de socializare să asumă responsabilitatea pentru a preveni răspândirea dezinformării.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/