WhatsApp AI-klistermærker tilføjer våben til palæstinensiske børn

WhatsApp AI-klistermærker tilføjer våben til palæstinensiske børn

Tidsstempel: 6. november 2023 kl. 8:16
WhatsApp AI stickers add guns to Palestinian kids PlatoBlockchain Data Intelligence. Vertical Search. Ai.

I hvad der kan være endnu et eksempel på AI-bias for fremtidige lærebøger, genererede WhatsApps mærkatproducent tilsyneladende voldelige billeder, da de blev spurgt om muslimske palæstinensere – og afstod fra at gøre det for jødiske israelere.

Den Meta-ejede beskedapp giver folk mulighed for bruge AI at generere klistermærker: billeder og animationer, der kan inkluderes i samtaler. Hvorfor? For sjov.

Da vi fik en prompt, der indeholdt ordene "palæstinensisk", "palæstinensisk" eller "muslimsk dreng, tilbød den generative software, vi fortalte, tegneserieklistermærker med drengeagtige karakterer iført islamiske klæder og med noget, der lignede en AK-47 riffel. 

Men da brugerne bad det om at generere klistermærker med "Israeli boy" eller "Jewish Boy Israeli", returnerede det godartede billeder af virtuelle karakterer, der smilede og dansede, The Guardian rapporteret. Nogle af dem viste, hvad der lignede jødiske børn, der spillede fodbold eller holdt det israelske flag op i stedet for våben.

Selv når de blev bedt om at producere billeder af "den israelske hær" eller "israelske forsvarsstyrker", holdt soldaterne afbildet af AI ikke våben. På et klistermærke så det ud til, at en mand med to sværd bag ryggen bad. Enhver prompt, der indeholdt ordene "Hamas", blev imidlertid blokeret, og appen sagde, at den pludselig "ikke kunne generere AI-klistermærker. Prøv igen."

Forskellen i klistermærker kan ikke overses lige nu, da Israel-Hamas-konflikten fortsætter med mere end 10,000 ofre rapporteret indtil videre i Gaza og 1,400 i Israel siden begyndelsen af ​​oktober. Metas egne medarbejdere fik øje på ubalancen og rejste bekymringer internt, lyder det. 

Kevin McAlister, en talsmand, der repræsenterer internetgiganten, advarede om, at AI-mærkatværktøjet ikke er perfekt. "Som vi sagde, da vi lancerede funktionen, kunne modellerne returnere unøjagtige eller upassende output som med alle generative AI-systemer. Vi vil fortsætte med at forbedre disse funktioner, efterhånden som de udvikler sig, og flere mennesker deler deres feedback,” sagde han. 

Administrerende direktør Mark Zuckerberg lanceret klistermærkeværktøjet i september, og sagde, at det er drevet af Meta's tekstbehandlingsevner i dens Llama 2 store sprogmodel med de billedgenererende muligheder i dets Emu-system. Softwaren er siden blevet integreret med dets sociale medier og meddelelsesplatforme, herunder Facebook, Instagram og WhatsApp.

Det er ikke første gang, at Metas AI-mærkatværktøj har rejst kontroverser. Før det blev gjort almindeligt tilgængeligt, fandt betatestere ud af, at det ville producere upassende, bizarre eller uanstændige billeder af tegneseriefigurer, politikere og kønsorganer. Det skabte billeder af den canadiske premierminister Justin Trudeau med fremhævede balder eller Sonic the Hedgehog med bryster og forskellige falliske karikaturer.

I mellemtiden lovede Meta at slå ned på misinformation og voldelige, grafiske optagelser fra Israel-Hamas-krigen, som blev lagt ud på dets platforme. Talsmand Andy Stone fortalt CNN the biz havde oprettet et særligt operationscenter og hyret flydende hebraisk- og arabisktalende til at moderere indholdet.

"Vores teams arbejder døgnet rundt for at holde vores platforme sikre, handle på indhold, der overtræder vores politikker eller lokal lovgivning, og koordinere med tredjeparts faktatjekkere i regionen for at begrænse spredningen af ​​misinformation. Vi vil fortsætte dette arbejde, efterhånden som denne konflikt udfolder sig,” sagde han.

Meta også på mandag svor, via Reuters, for at forbyde politiske annoncører at bruge dets generativ AI-drevne reklame suite.

Registret har bedt WhatsApps forælder om yderligere kommentar. ®

Tidsstempel:

Mere fra Registret