WhatsApp AI-stickers voegen wapens toe aan Palestijnse kinderen

In wat een ander voorbeeld zou kunnen zijn van AI-vooroordelen voor toekomstige schoolboeken, genereerde de stickermaker van WhatsApp blijkbaar gewelddadige beelden toen hem werd gevraagd naar moslim-Palestijnen – en deed dit niet voor Joodse Israëli’s.

Met de berichten-app van Meta kunnen mensen gebruik AI om stickers te genereren: afbeeldingen en animaties die kunnen worden opgenomen in gesprekken. Waarom? Voor de lol.

Gegeven een prompt met de woorden 'Palestijns', 'Palestina' of 'Moslimjongen Palestijn', bood de generatieve software, zo werd ons verteld, cartoonstickers aan van jongensachtige karakters die islamitische kleding droegen en iets droegen wat leek op een AK-47-geweer. 

Maar toen gebruikers het vroegen om stickers te maken van ‘Israëlische jongen’ of ‘Joodse Israëlische jongen’, leverde het goedaardige beelden op van virtuele karakters die lachten en dansten, The Guardian gerapporteerd. Sommigen van hen lieten iets zien dat leek op Joodse kinderen die voetbal speelden of de Israëlische vlag omhoog hielden in plaats van wapens.

Zelfs toen hen werd gevraagd om afbeeldingen te maken van het ‘Israëlische leger’ of ‘Israëlische strijdkrachten’, hadden de door AI afgebeelde soldaten geen wapens in hun handen. Op één sticker leek een man met twee zwaarden achter zijn rug te bidden. Alle prompts met de woorden ‘Hamas’ werden echter geblokkeerd en de app verklaarde plotseling ‘geen AI-stickers te kunnen genereren. Probeer het opnieuw.”

Het verschil in stickers kan op dit moment niet over het hoofd worden gezien nu het conflict tussen Israël en Hamas voortduurt, met meer dan 10,000 slachtoffers gerapporteerd tot nu toe in Gaza en 1,400 in Israël sinds begin oktober. Meta's eigen medewerkers hebben de onbalans opgemerkt en intern zorgen geuit, zo wordt gezegd. 

Kevin McAlister, een woordvoerder van de internetgigant, waarschuwde dat de AI-stickertool niet perfect is. “Zoals we zeiden toen we de functie lanceerden, konden de modellen onnauwkeurige of ongepaste resultaten retourneren, zoals bij alle generatieve AI-systemen. We zullen deze functies blijven verbeteren naarmate ze evolueren en meer mensen hun feedback delen”, zei hij. 

CEO Mark Zuckerberg gelanceerd de stickertool in september, en zei dat het wordt aangedreven door de tekstverwerkingsmogelijkheden van Meta van zijn Llama 2 grote taalmodel met de beeldgenererende mogelijkheden van zijn Emu-systeem. De software is sindsdien geïntegreerd met zijn sociale media- en berichtenplatforms, waaronder Facebook, Instagram en WhatsApp.

Het is niet de eerste keer dat Meta's AI-stickertool voor controverse zorgt. Voordat het algemeen beschikbaar werd gesteld, ontdekten bètatesters dat het ongepaste, bizarre of onzedelijke beelden zou opleveren van stripfiguren, politici en geslachtsdelen. Het creëerde foto's van de Canadese premier Justin Trudeau met geaccentueerde billen, of Sonic the Hedgehog met borsten, en verschillende fallische karikaturen.

Ondertussen beloofde Meta hard te zullen optreden tegen desinformatie en gewelddadige, expliciete beelden van de Israëlisch-Hamas-oorlog die op haar platforms werden geplaatst. Woordvoerder Andy Stone vertelde De onderneming CNN had een speciaal operatiecentrum opgezet en vloeiende Hebreeuwse en Arabische sprekers ingehuurd om de inhoud te modereren.

“Onze teams werken de klok rond om onze platforms veilig te houden, ondernemen actie tegen inhoud die ons beleid of de lokale wetgeving schendt, en coördineren met externe factcheckers in de regio om de verspreiding van verkeerde informatie te beperken. We zullen dit werk voortzetten terwijl dit conflict zich ontvouwt”, zei hij.

Meta ook op maandag zwoer, via Reuters, om politieke adverteerders te verbieden de generatieve versie te gebruiken AI-powered reclamepakket.

Het register heeft de ouder van WhatsApp om verder commentaar gevraagd. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/