X otsib sisumoderaatoreid pärast Taylor Swifti kaost

X otsib sisumoderaatoreid, et võidelda laste seksuaalse ärakasutamise ja muu vulgaarse sisuga pärast seda, kui AI-ga loodud Taylor Swifti X-reitinguga pildid platvormil levima hakkasid.

Sotsiaalmeediaettevõte palkab 100 täiskohaga töötajat, et võidelda süvavõltsitud sisu levikuga, mis on praegu levinud mitte ainult X-is, vaid ka sotsiaalmeedia platvormidel.

Usaldus- ja ohutuskeskus

Täiendavate töötajatega tegeleb Elon Muskile kuuluv ettevõte nüüd ka "usaldus- ja ohutuskeskuse" arendamisega Texases Austinis. Siin vastutavad agendid sisu ülevaatamise eest kooskõlas ettevõtte ohutusreeglid.

Arengud tulevad ka seetõttu, et halvad osalejad kasutavad sotsiaalmeedia platvorme nüüd vägivalla, rassismi, pettuste ja laste seksuaalse ärakasutamise eesmärgil.

"X-il ei ole lastele keskendunud ärivaldkond, kuid on oluline, et teeksime need investeeringud, et takistada õigusrikkujatel meie platvormi mis tahes CSE-sisu levitamiseks või sellega seotuks kasutamiseks." ütles Joe Benarroch, kes on ettevõtte X äritegevuse juht.

Platvormi on kritiseeritud pärast antisemiitliku ja neonatsliku sisu levikut. Selle tulemusena on paljud reklaamijad platvormi levitanud.

Aastal 2022, Musk omandas sotsiaalmeedia platvormi – toona Twitteri – 44 miljardi dollari eest, et võimaldada platvormil sõnavabadust. See ei ole hästi välja kukkunud, kuna tehnikamiljardär on sattunud kriitika alla pärast "ettevõtte usaldus- ja ohutustoimingute töötajate arvu vähendamist".

Loe ka: Tehnikasektorit tabas tohutu töökohtade kärpimine, kuna ettevõtted asendavad töötajad tehisintellektiga

Ajutised meetmed

Viimastel nädalatel on platvorm üle ujutatud AI-ga loodud selgesõnaliste piltidega Taylor Swift, ajendades oma fännide leegioni sellele vastu astuma oma kampaaniaga, mis esitab lauljast positiivsemaid pilte. Fännid jooksid hashtagiga #ProtectTaylorSwift.

X jaoks blokeeris platvorm muusiku edasised otsingud. Vastavalt New York Post, kasutajad, kes üritasid esmaspäeval tema nime otsida, said vastuse viga sõnum, milles palutakse uuesti proovida, lisades: "Ära muretse – see pole teie süü."

Kuid postitused tema nimega ilmusid aga alati, kui kasutajad lisasid tema nime ümber tsitaate. Mõned eksperdid väidavad, et X-i lähenemine probleemi lahendamisele jättis palju soovida.

"See on ajutine tegevus ja seda tehakse suure ettevaatusega, kuna me peame selle probleemi puhul ohutuse prioriteediks," ütles Benarroch avalduses.

Kuid mõned Taylor Swifti fännid hakkasid teatama kontodest, mis jagasid sügavalt võltsitud pilte.

Probleemide jälgimine

Kuna generatiivne tehisintellekt kogub kogu maailmas jätkuvalt haaret, on nüüd saadaval keerukad tööriistad, mis on saadaval ka pahatahtliku sisu levitamiseks. Taylor Swifti intsidendiga jälgis sügavvõltsingute tuvastamise grupp Reality Defender arvukalt pornograafilisi materjale, mis kujutasid popstaari, eriti saidil X, samas kui teised olid Facebookis ja muudel sotsiaalmeedia platvormidel.

Ohu luurerühma Memetica esindaja Ben Deckeri sõnul on pildid Taylor Swift esmalt pärines kampaaniast nimega Lewd DALL-E, mis on spetsialiseerunud kuulsustest naiste seksuaalselt vulgaarsetele tehisintellekti loodud piltidele.

"See on osa trollide ja platvormide vahelisest pikaajalisest võistlevast suhtest," ütles Decker.

"Niikaua kui platvormid eksisteerivad, püüavad trollid neid häirida. Ja seni, kuni trollid eksisteerivad, on platvormide töö häiritud. Seega tekib tõesti küsimus, mitu korda see veel juhtub, enne kui toimub tõsine muutus?

. Valge Maja reedel kaalus asja, nimetades võltspilte "ärevaks" ja kutsudes sotsiaalmeedia platvorme üles võtta vastutus väärinformatsiooni leviku tõkestamiseks.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/