La démo de chatbot Internet AI de Meta commence rapidement à cracher de fausses nouvelles et des remarques racistes

En bref Un autre jour, un autre chatbot IA voyou sur Internet.

Méta de la semaine dernière Blenderbot 3 déchaîné, un modèle de langage bavard, sur le Web à titre d'expérience et tout s'est déroulé comme prévu.

BlenderBot 3 n'a pas tardé à confirmer que Donald Trump est toujours et continuera d'être président des États-Unis au-delà de 2024, et a émis des opinions antisémites lorsqu'on lui a posé des questions controversées comme montré par Business Insider. En d'autres termes, BlenderBot 3 est enclin à diffuser de fausses nouvelles et à avoir des opinions biaisées à partir de stéréotypes raciaux comme tous les modèles de langage formés à partir de textes extraits d'Internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta a averti les internautes que son chatbot pourrait faire des "déclarations fausses ou offensantes" et maintient la démo en direct en ligne pour collecter plus de données pour ses expériences. Les gens sont encouragés à aimer ou à ne pas aimer les réponses de BlenderBot 3 et à informer les chercheurs s'ils pensent que c'est parce qu'un certain message est inapproprié, absurde ou grossier. L'objectif est d'utiliser ces commentaires pour développer un chatbot plus sûr, moins toxique et plus efficace à l'avenir.

Des extraits de recherche Google pour arrêter de diffuser de fausses nouvelles

Le géant de la recherche a déployé un modèle d'intelligence artificielle pour aider à rendre plus précises les zones de texte qui apparaissent parfois lorsque les utilisateurs saisissent des questions dans la recherche Google.

Ces descriptions, appelées extraits de fonctionnalités, peuvent être utiles si les utilisateurs recherchent des faits spécifiques. Par exemple, en tapant "combien de planètes le système solaire a-t-il ?" affichera un extrait de fonctionnalité indiquant "huit planètes". Les internautes n'ont pas à cliquer sur des pages Web aléatoires et à lire des informations pour obtenir la réponse, les extraits de fonctionnalités le font automatiquement.

Mais les réponses de Google ne sont pas toujours exactes et ont parfois indiqué une date précise pour un événement fictif comme l'assassinat d'Abraham Lincoln par le chien de bande dessinée Snoopy, selon à La Verge. Google a déclaré que son système, le Modèle unifié multitâche (MUM), devrait réduire de 40 % la génération d'extraits de fonctionnalité en fausses questions ; il ne proposera souvent aucune description textuelle.

"En utilisant notre dernier modèle d'IA, nos systèmes peuvent désormais comprendre la notion de consensus, c'est-à-dire lorsque plusieurs sources de haute qualité sur le Web s'accordent toutes sur le même fait", a-t-il déclaré. expliqué dans un billet de blog.

"Nos systèmes peuvent vérifier les légendes d'extraits (le ou les mots appelés au-dessus de l'extrait présenté dans une police plus grande) par rapport à d'autres sources de haute qualité sur le Web, pour voir s'il existe un consensus général pour cette légende, même si les sources utilisent des mots différents. ou des concepts pour décrire la même chose.

DALL-E 2 d'OpenAI a aidé à faire une publicité pour Heinz Ketchup

Heinz, le géant américain de l'alimentation, s'est associé à une agence créative pour créer une publicité utilisant des images d'IA générées par le modèle DALL-E 2 d'OpenAI pour promouvoir son produit le plus connu : le ketchup. L'annonce est le dernier épisode de la campagne "Draw Ketchup" de Heinz, mais au lieu de se tourner vers les humains pour leurs croquis, Rethink, une agence de publicité canadienne, a consulté des machines. 

"Donc, comme beaucoup de nos mémoires, la tâche consistait à démontrer le rôle emblématique de Heinz dans la culture pop d'aujourd'hui", a déclaré le directeur exécutif de la création de Rethink, Mike Dubrick, dit Le Tambour cette semaine. « Présenter l'idée à la marque était la prochaine étape. Après le briefing, nous attendons rarement la présentation officielle pour partager quelque chose que nous pensons être formidable. »

Le résultat final est une publicité intelligente avec un message clair et simple : étant donné de nombreux types d'invites de texte contenant le mot "ketchup", DALL-E 2 générera quelque chose qui ressemble sans aucun doute à une bouteille Heinz. En d'autres termes, rappelez-vous le slogan de l'entreprise, « ça doit être Heinz ». Vous pouvez regarder l'annonce ci-dessous.

Youtube Video

DALL-E 2 a également récemment aidé un artiste à créer un couverture de magazine pour Cosmopolite ; c'est un autre exemple de la façon dont ces outils de conversion de texte en image peuvent être utilisés commercialement dans les industries créatives. ®