Autocolantele WhatsApp AI adaugă arme copiilor palestinieni

În ceea ce poate fi un alt exemplu de părtinire a inteligenței artificiale pentru viitoarele manuale, producătorul de stickere WhatsApp a generat aparent imagini violente când a fost întrebat despre palestinienii musulmani – și s-a abținut să facă acest lucru pentru evreii israelieni.

Aplicația de mesagerie deținută de Meta permite oamenilor folosește AI pentru a genera stickere: imagini și animații care pot fi incluse în conversații. De ce? Pentru distractie.

Având un mesaj care conținea cuvintele „Palestinian”, „Palestina” sau „Băiat musulman palestinian”, software-ul generativ, ni s-a spus, a oferit autocolante de desene animate cu personaje băiețești purtând haine islamice și purtând ceea ce părea o pușcă AK-47. 

Dar când utilizatorii i-au cerut să genereze autocolante cu „băiat israelian” sau „băiat evreu israelian”, a returnat imagini benigne ale personajelor virtuale zâmbind și dansând, The Guardian raportate. Unii dintre ei au arătat ceea ce păreau copii evrei jucând fotbal sau ridicând steagul israelian în loc de arme.

Chiar și atunci când li s-a cerut să producă imagini cu „armata israeliană” sau „forțele de apărare israeliene”, soldații reprezentați de AI nu țineau arme. Într-un autocolant, un bărbat cu două săbii la spate părea să se roage. Cu toate acestea, orice solicitare care conținea cuvintele „Hamas” a fost blocată, iar aplicația a declarat că „nu a putut genera autocolante AI”. Vă rugăm să încercați din nou."

Diferența de autocolante nu poate fi trecută cu vederea chiar acum, deoarece conflictul Israel-Hamas continuă, cu peste 10,000 de victime raportate până acum în Gaza și 1,400 în Israel de la începutul lunii octombrie. Se spune că propriii angajați ai Meta au constatat dezechilibrul și și-au exprimat îngrijorări pe plan intern. 

Kevin McAlister, un purtător de cuvânt care reprezintă gigantul internetului, a avertizat că instrumentul de autocolante AI nu este perfect. „Așa cum am spus atunci când am lansat funcția, modelele ar putea returna rezultate inexacte sau inadecvate, ca în cazul tuturor sistemelor AI generative. Vom continua să îmbunătățim aceste funcții pe măsură ce evoluează și mai mulți oameni își împărtășesc feedback-ul”, a spus el. 

CEO Mark Zuckerberg a lansat instrumentul de autocolante în septembrie și a spus că este alimentat de abilitățile de procesare a textului Meta ale modelului său de limbă mare Llama 2, cu capabilitățile de generare de imagini ale sistemului său Emu. Software-ul a fost integrat de atunci cu platformele sale de socializare și mesagerie, inclusiv Facebook, Instagram și WhatsApp.

Nu este prima dată când instrumentul de autocolante AI de la Meta a stârnit controverse. Înainte de a fi pus la dispoziție în general, testerii beta au descoperit că ar produce imagini nepotrivite, bizare sau lascive ale personajelor din desene animate, politicienilor și organelor genitale. A creat imagini cu premierul canadian Justin Trudeau cu fese accentuate sau Sonic the Hedgehog cu sâni și diverse caricaturi falice.

Între timp, Meta a promis că va reprima dezinformarea și imaginile violente, grafice din războiul israelian-Hamas postate pe platformele sale. Purtătorul de cuvânt Andy Stone a spus CNN the biz a înființat un centru de operațiuni speciale și a angajat vorbitori fluenți de ebraică și arabă pentru a modera conținutul.

„Echipele noastre lucrează non-stop pentru a menține platformele noastre în siguranță, pentru a lua măsuri în privința conținutului care încalcă politicile noastre sau legile locale și pentru a se coordona cu verificatorii de fapte terți din regiune pentru a limita răspândirea dezinformării. Vom continua această muncă pe măsură ce acest conflict se va desfășura”, a spus el.

Meta tot luni a promis, prin intermediul Reuters, pentru a interzice agenților de publicitate politici să folosească generativul său AI-alimentat suită de publicitate.

Registrul a cerut părintelui WhatsApp pentru comentarii suplimentare. ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/