WhatsApp AI-klistremerker legger til våpen til palestinske barn

WhatsApp AI-klistremerker legger til våpen til palestinske barn

Tidsstempel: 6. november 2023 8:16
WhatsApp AI-klistremerker legger til våpen til palestinske barn PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

I det som kan være et annet eksempel på AI-bias for fremtidige lærebøker, genererte WhatsApps klistremerkeprodusent tilsynelatende voldelige bilder da han ble spurt om muslimske palestinere – og avsto fra å gjøre det for jødiske israelere.

Den Meta-eide meldingsappen lar folk bruk AI å generere klistremerker: bilder og animasjoner som kan inkluderes i samtaler. Hvorfor? For moro skyld.

Gitt en oppfordring som inneholder ordene «Palestinian», «Palestine» eller «Muslim boy Palestinian», tilbød den generative programvaren, blir vi fortalt, tegneserieklistremerker av guttefigurer iført islamske plagg og bærer noe som så ut som en AK-47 rifle. 

Men da brukere ba den om å generere klistremerker av «israelsk gutt» eller «jødisk gutt, israelsk», returnerte den godartede bilder av virtuelle karakterer som smiler og danser, The Guardian rapportert. Noen av dem viste noe som så ut som jødiske barn som spilte fotball eller holdt opp det israelske flagget i stedet for våpen.

Selv når de ble bedt om å produsere bilder av «den israelske hæren» eller «israelske forsvarsstyrker», holdt ikke soldatene avbildet av AI våpen. På ett klistremerke så det ut til at en mann med to sverd bak ryggen ber. Alle meldinger som inneholdt ordene «Hamas» ble blokkert, og appen sa at det plutselig «ikke kunne generere AI-klistremerker. Vær så snill, prøv på nytt."

Forskjellen i klistremerker kan ikke overses akkurat nå mens Israel-Hamas-konflikten fortsetter, med mer enn 10,000 XNUMX ofre rapportert så langt i Gaza og 1,400 i Israel siden begynnelsen av oktober. Metas egne ansatte fikk øye på ubalansen og tok opp bekymringer internt, heter det. 

Kevin McAlister, en talsperson som representerer internettgiganten, advarte om at AI-klistremerkeverktøyet ikke er perfekt. "Som vi sa da vi lanserte funksjonen, kunne modellene returnere unøyaktige eller upassende utdata som med alle generative AI-systemer. Vi vil fortsette å forbedre disse funksjonene etter hvert som de utvikler seg og flere deler tilbakemeldingene sine, sa han. 

Administrerende direktør Mark Zuckerberg lansert klistremerkeverktøyet i september, og sa at det er drevet av Metas tekstbehandlingsevner til den store språkmodellen Llama 2 med de bildegenererende egenskapene til Emu-systemet. Programvaren har siden blitt integrert med sosiale medier og meldingsplattformer, inkludert Facebook, Instagram og WhatsApp.

Det er ikke første gang Metas AI-klistremerkeverktøy har reist kontrovers. Før den ble gjort allment tilgjengelig, fant betatestere ut at den ville produsere upassende, bisarre eller utuktige bilder av tegneseriefigurer, politikere og kjønnsorganer. Det skapte bilder av den kanadiske statsministeren Justin Trudeau med fremhevet bakdel, eller Sonic the Hedgehog med bryster og forskjellige falliske karikaturer.

I mellomtiden sverget Meta å slå ned på feilinformasjon og voldelige, grafiske opptak fra Israel-Hamas-krigen som er lagt ut på deres plattformer. Talsperson Andy Stone fortalte CNN the biz hadde satt opp et spesielt operasjonssenter og hyret inn flytende hebraisk- og arabisktalende for å moderere innhold.

«Teamene våre jobber døgnet rundt for å holde plattformene våre trygge, iverksette tiltak mot innhold som bryter retningslinjene våre eller lokal lov, og koordinere med tredjeparts faktasjekkere i regionen for å begrense spredningen av feilinformasjon. Vi vil fortsette dette arbeidet mens denne konflikten utspiller seg, sa han.

Meta også på mandag sverget, via Reuters, for å forby politiske annonsører fra å bruke generativet AI-drevet reklamesuite.

Registeret har bedt WhatsApps forelder om ytterligere kommentar. ®

Tidstempel:

Mer fra Registeret