Gli adesivi AI di WhatsApp aggiungono armi ai bambini palestinesi

In quello che potrebbe essere un altro esempio di pregiudizio dell’intelligenza artificiale per i futuri libri di testo, il produttore di adesivi di WhatsApp ha apparentemente generato immagini violente quando gli è stato chiesto dei palestinesi musulmani – e si è astenuto dal farlo per gli ebrei israeliani.

L'app di messaggistica di proprietà di Meta consente alle persone usa l'IA per generare adesivi: immagini e animazioni da inserire nelle conversazioni. Perché? Per divertimento.

Dato un messaggio contenente le parole "palestinese", "Palestina" o "ragazzo musulmano palestinese", il software generativo, ci viene detto, offriva adesivi con cartoni animati di personaggi infantili che indossavano abiti islamici e portavano quello che sembrava un fucile AK-47. 

Ma quando gli utenti gli hanno chiesto di generare adesivi di “ragazzo israeliano” o “ragazzo ebreo israeliano”, ha restituito immagini benigne di personaggi virtuali che sorridono e ballano, The Guardian segnalati. Alcuni di loro mostravano quelli che sembravano bambini ebrei che giocavano a calcio o brandivano la bandiera israeliana invece delle armi.

Anche quando è stato chiesto di produrre immagini dell’”esercito israeliano” o delle “forze di difesa israeliane”, i soldati raffigurati da AI non impugnavano armi. In un adesivo, un uomo con due spade dietro la schiena sembrava pregare. Tuttavia, tutti i messaggi contenenti le parole "Hamas" sono stati bloccati e l'app ha dichiarato improvvisamente che "non poteva generare adesivi AI". Per favore riprova."

La differenza negli adesivi non può essere trascurata in questo momento in cui il conflitto Israele-Hamas continua, con oltre 10,000 vittime segnalati finora a Gaza e 1,400 in Israele dall’inizio di ottobre. Si dice che gli stessi dipendenti di Meta si siano accorti dello squilibrio e abbiano espresso preoccupazione internamente. 

Kevin McAlister, portavoce del colosso di Internet, ha avvertito che lo strumento adesivo AI non è perfetto. “Come abbiamo detto quando abbiamo lanciato la funzionalità, i modelli potrebbero restituire risultati imprecisi o inappropriati come con tutti i sistemi di intelligenza artificiale generativa. Continueremo a migliorare queste funzionalità man mano che si evolvono e sempre più persone condivideranno il loro feedback", ha affermato. 

CEO Mark Zuckerberg lanciato lo strumento adesivo a settembre, e ha affermato che è alimentato dalle capacità di elaborazione del testo di Meta del suo modello linguistico di grandi dimensioni Llama 2 con le capacità di generazione di immagini del suo sistema Emu. Da allora il software è stato integrato con i suoi social media e piattaforme di messaggistica, tra cui Facebook, Instagram e WhatsApp.

Non è la prima volta che lo strumento adesivo AI di Meta solleva polemiche. Prima che fosse reso disponibile a tutti, i beta tester scoprirono che avrebbe prodotto immagini inappropriate, bizzarre o oscene di personaggi dei cartoni animati, politici e genitali. Ha creato immagini del primo ministro canadese Justin Trudeau con le natiche accentuate, o di Sonic the Hedgehog con il seno e varie caricature falliche.

Nel frattempo, Meta ha promesso di reprimere la disinformazione e i filmati violenti ed espliciti della guerra tra Israele e Hamas pubblicati sulle sue piattaforme. Il portavoce Andy Stone detto La CNN aveva allestito un centro operativo speciale e assunto parlanti fluenti di ebraico e arabo per moderare i contenuti.

“I nostri team lavorano XNUMX ore su XNUMX per mantenere le nostre piattaforme sicure, agire sui contenuti che violano le nostre politiche o le leggi locali e coordinarsi con i verificatori di fatti di terze parti nella regione per limitare la diffusione della disinformazione. Continueremo questo lavoro man mano che questo conflitto si sviluppa", ha detto.

Meta anche lunedì giurato, tramite Reuters, per vietare agli inserzionisti politici di utilizzare il suo generativo AI-alimentato suite pubblicitaria.

Il registro ha chiesto al genitore di WhatsApp ulteriori commenti. ®

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/