La demo del chatbot Internet AI di Meta inizia rapidamente a vomitare notizie false e commenti razzisti

In breve Un altro giorno, un altro chatbot di intelligenza artificiale canaglia su Internet.

La scorsa settimana Meta scatenato Blenderbot 3, un modello linguistico loquace, sul web come esperimento ed è andato come ci si aspetterebbe.

BlenderBot 3 si è affrettato a confermare che Donald Trump è ancora e continuerà ad essere il presidente degli Stati Uniti oltre il 2024, e vomita opinioni antisemetiche quando vengono poste domande controverse come mostrato di Business Insider. In altre parole, BlenderBot 3 è incline a diffondere notizie false e a sostenere opinioni distorte da stereotipi razziali come tutti i modelli linguistici formati da testo raschiato da Internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta ha avvertito i netizen che il suo chatbot potrebbe fare "dichiarazioni false o offensive" e sta mantenendo la demo live online per raccogliere più dati per i suoi esperimenti. Le persone sono incoraggiate a apprezzare o non apprezzare le risposte di BlenderBot 3 e avvisare i ricercatori se pensano che sia perché un determinato messaggio è inappropriato, privo di senso o scortese. L'obiettivo è utilizzare questo feedback per sviluppare in futuro un chatbot più sicuro, meno tossico e più efficace.

Frammenti di ricerca di Google per interrompere la diffusione di notizie false

Il gigante della ricerca ha implementato un modello di intelligenza artificiale per aiutare a rendere più accurate le caselle di testo che a volte vengono visualizzate quando gli utenti digitano domande nella Ricerca Google.

Queste descrizioni, note come frammenti di funzionalità, possono essere utili se le persone cercano fatti specifici. Ad esempio, digitando "quanti pianeti ha il Sistema Solare?" genererà un frammento di funzionalità che afferma "otto pianeti". I netizen non devono fare clic su pagine Web casuali e leggere le informazioni per ottenere la risposta, i frammenti di funzionalità lo fanno automaticamente.

Ma le risposte di Google non sono sempre accurate e a volte hanno indicato una data specifica per un evento fittizio come l'assassinio di Abraham Lincoln da parte del cane dei cartoni animati Snoopy, secondo a The Verge. Google ha detto che il suo sistema, il Modello unificato multitasking (MUM), dovrebbe ridurre del 40% la generazione di frammenti di funzionalità in domande false; spesso semplicemente non viene fornita alcuna descrizione di testo.

"Utilizzando il nostro ultimo modello di intelligenza artificiale, i nostri sistemi possono ora comprendere la nozione di consenso, ovvero quando più fonti di alta qualità sul Web concordano tutte sullo stesso fatto", afferma ha spiegato in un post sul blog.

"I nostri sistemi possono confrontare i callout degli snippet (la parola o le parole richiamate sopra lo snippet in primo piano in un carattere più grande) rispetto ad altre fonti di alta qualità sul Web, per vedere se c'è un consenso generale per quel callout, anche se le fonti usano parole diverse o concetti per descrivere la stessa cosa”.

DALL-E 2 di OpenAI ha contribuito a realizzare una pubblicità di Heinz Ketchup

Heinz, il gigante alimentare statunitense, ha collaborato con un'agenzia creativa per creare una pubblicità utilizzando le immagini AI generate dal modello DALL-E 2 di OpenAI per promuovere il suo prodotto più noto: il ketchup. La pubblicità è l'ultima puntata della campagna "Draw Ketchup" di Heinz, ma invece di rivolgersi agli umani per i loro schizzi, Rethink, un'agenzia pubblicitaria canadese, ha consultato le macchine. 

"Quindi, come molti dei nostri brief, il compito era dimostrare il ruolo iconico di Heinz nella cultura pop di oggi", il direttore creativo esecutivo di Rethink, Mike Dubrick, detto Il tamburo questa settimana. “Il passo successivo è stato presentare l'idea al marchio. Dopo il brief, raramente aspettiamo la presentazione formale quando condividiamo qualcosa che pensiamo sia fantastico".

Il risultato finale è una pubblicità intelligente con un messaggio chiaro e semplice: dati numerosi tipi di messaggi di testo contenenti la parola "ketchup", DALL-E 2 genererà qualcosa che assomiglia inconfondibilmente a una bottiglia Heinz. In altre parole, spunto dallo slogan dell'azienda, “deve essere Heinz”. Puoi guardare l'annuncio qui sotto.

Youtube Video

DALL-E 2 ha anche recentemente aiutato un artista a creare a copertina della rivista per Cosmopolita; è un altro esempio di come questi strumenti di conversione da testo a immagine possono essere utilizzati commercialmente nelle industrie creative. ®