A WhatsApp AI matricák fegyvert adnak a palesztin gyerekeknek

Ami egy másik példa lehet a mesterséges intelligencia elfogultságára a jövőbeli tankönyvek esetében, a WhatsApp matricakészítője láthatóan erőszakos képeket generált, amikor a muszlim palesztinokról kérdezték – és tartózkodott ettől a zsidó izraeliek esetében.

A Meta tulajdonában lévő üzenetküldő alkalmazás lehetővé teszi az emberek számára használja az AI-t matricák létrehozásához: beszélgetésekbe beilleszthető képek és animációk. Miért? A móka kedvéért.

A „palesztin”, a „palesztin” vagy a „muzulmán fiú palesztin” szavakat tartalmazó promóció alapján a generatív szoftver rajzfilmmatricákat kínált fiús karakterekről, akik iszlám ruhát viseltek, és AK-47-es puskát hordtak. 

Amikor azonban a felhasználók arra kérték, hogy állítson elő „izraeli fiú” vagy „izraeli zsidó fiú” matricákat, jóindulatú képet adott vissza mosolygó és táncoló virtuális karakterekről, The Guardian jelentett. Némelyikük azt mutatta, hogy zsidó gyerekek fociznak, vagy fegyver helyett izraeli zászlót tartanak fel.

Az AI által ábrázolt katonák még akkor sem tartottak fegyvert, amikor felkérték, hogy készítsenek képeket az „izraeli hadseregről” vagy az „izraeli védelmi erőkről”. Az egyik matricán egy férfi, két karddal a háta mögött imádkozni látszott. A „Hamas” szavakat tartalmazó üzeneteket azonban blokkolták, és az alkalmazás azt mondta, hogy hirtelen „nem tud mesterséges intelligencia matricákat generálni. Kérlek próbáld újra."

A matricák közötti különbséget most sem lehet figyelmen kívül hagyni, mivel az izraeli-Hamász konfliktus folytatódik, több mint 10,000 XNUMX áldozattal. jelentett eddig Gázában, október eleje óta pedig 1,400 Izraelben. A Meta saját alkalmazottai észlelték az egyensúlyhiányt, és belső aggályokat fogalmaztak meg. 

Kevin McAlister, az internetes óriáscég szóvivője arra figyelmeztetett, hogy az AI-matrica eszköz nem tökéletes. „Amint azt a funkció elindításakor mondtuk, a modellek pontatlan vagy nem megfelelő kimeneteket adhatnak vissza, mint minden generatív AI-rendszer esetében. Folyamatosan fejlesztjük ezeket a funkciókat, ahogy fejlődnek, és egyre többen osztják meg visszajelzéseiket” – mondta. 

Mark Zuckerberg vezérigazgató indított a matricaeszközt szeptemberben, és azt mondta, hogy a Meta Llama 2 nagy nyelvi modelljének szövegfeldolgozási képességei és az Emu rendszer képgeneráló képességei hajtják. A szoftvert azóta integrálták a közösségi médiával és az üzenetküldő platformokkal, beleértve a Facebookot, az Instagramot és a WhatsApp-ot.

Nem ez az első eset, hogy a Meta mesterséges intelligencia matrica eszköze vitákat vált ki. Mielőtt általánosan elérhetővé tették volna, a bétatesztelők úgy találták, hogy nem megfelelő, bizarr vagy aljas képeket hoz létre rajzfilmfigurákról, politikusokról és nemi szervekről. Képeket készített Justin Trudeau kanadai miniszterelnökről hangsúlyos fenékkel, vagy Sonic the Hedgehogról mellekkel, és különféle fallikus karikatúrákkal.

Eközben a Meta megesküdött, hogy felszámolja a platformjain közzétett félretájékoztatást és erőszakos, az izraeli-Hamász háborúról készült felvételeket. Andy Stone szóvivő mondta A CNN egy speciális műveleti központot hozott létre, és folyékony héber és arab beszélőket vett fel a tartalom moderálására.

„Csapataink éjjel-nappal azon dolgoznak, hogy megőrizzék platformjaink biztonságát, intézkedjenek az irányelveinket vagy a helyi törvényeket sértő tartalmakkal kapcsolatban, és együttműködjenek a régióban működő harmadik felek tényellenőrzőivel a félretájékoztatás terjedésének korlátozása érdekében. Folytatjuk ezt a munkát, amint ez a konfliktus kibontakozik” – mondta.

Meta hétfőn is megfogadta, a Reuters-en keresztül, hogy megtiltsák a politikai hirdetőknek, hogy használják a generatívát AI-hajtású reklámcsomag.

A regisztráció további megjegyzést kért a WhatsApp szülőjétől. ®

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/