La demostración del chatbot de Internet AI de Meta rápidamente comienza a arrojar noticias falsas y comentarios racistas

En breve Otro día, otro chatbot de IA deshonesto en Internet.

Meta de la semana pasada Blenderbot desatado 3, un modelo de lenguaje hablador, en la web como un experimento y salió tan bien como cabría esperar.

BlenderBot 3 se apresuró a confirmar que Donald Trump sigue siendo y seguirá siendo presidente de EE. UU. más allá de 2024, y arrojó puntos de vista antisemitas cuando se le hicieron preguntas mostrado por Business Insider. En otras palabras, BlenderBot 3 es propenso a difundir noticias falsas y tener opiniones sesgadas de estereotipos raciales como todos los modelos de lenguaje formados a partir de textos extraídos de Internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta advirtió a los internautas que su chatbot podría hacer "declaraciones falsas u ofensivas" y mantiene la demostración en vivo en línea para recopilar más datos para sus experimentos. Se alienta a las personas a que les guste o no les gusten las respuestas de BlenderBot 3 y notifiquen a los investigadores si creen que es porque cierto mensaje es inapropiado, sin sentido o grosero. El objetivo es utilizar estos comentarios para desarrollar un chatbot más seguro, menos tóxico y más efectivo en el futuro.

Fragmentos de la Búsqueda de Google para dejar de difundir noticias falsas

El gigante de las búsquedas ha implementado un modelo de inteligencia artificial para ayudar a que los cuadros de texto que a veces aparecen cuando los usuarios escriben preguntas en la Búsqueda de Google sean más precisos.

Estas descripciones, conocidas como fragmentos de funciones, pueden ser útiles si las personas buscan hechos específicos. Por ejemplo, escribir "¿cuántos planetas tiene el Sistema Solar?" arrojará un fragmento de función que dice "ocho planetas". Los internautas no tienen que hacer clic en páginas web aleatorias y leer información para obtener la respuesta, los fragmentos de características lo hacen automáticamente.

Pero las respuestas de Google no siempre son precisas y, en ocasiones, han indicado una fecha específica para un evento ficticio como el asesinato de Abraham Lincoln por el perro de dibujos animados Snoopy. conforme a El Borde. Google dijo que su sistema, el Modelo Unificado Multitarea (MUM), debería disminuir la generación de fragmentos de características a preguntas falsas en un 40 por ciento; a menudo simplemente no se le ocurrirá ninguna descripción de texto.

“Al usar nuestro último modelo de IA, nuestros sistemas ahora pueden comprender la noción de consenso, que es cuando varias fuentes de alta calidad en la web están de acuerdo en el mismo hecho”, dijo. explicado en un blog.

“Nuestros sistemas pueden comparar las llamadas de fragmentos (la palabra o palabras mencionadas arriba del fragmento destacado en una fuente más grande) con otras fuentes de alta calidad en la web, para ver si hay un consenso general para esa llamada, incluso si las fuentes usan palabras diferentes. o conceptos para describir la misma cosa.”

DALL-E 2 de OpenAI ayudó a hacer un anuncio de Heinz Ketchup

Heinz, el gigante de la alimentación estadounidense, se asoció con una agencia creativa para crear un anuncio utilizando imágenes de IA generadas por el modelo DALL-E 2 de OpenAI para promocionar su producto más conocido: el ketchup. El anuncio es la última entrega de la campaña "Draw Ketchup" de Heinz, pero en lugar de recurrir a los humanos para sus bocetos, Rethink, una agencia de publicidad canadiense, consultó a las máquinas. 

“Entonces, como muchos de nuestros informes, la tarea era demostrar el papel icónico de Heinz en la cultura pop actual”, dijo el director creativo ejecutivo de Rethink, Mike Dubrick, les dijo a El Tambor esta semana. “Lanzar la idea a la marca fue lo siguiente. Después del resumen, rara vez esperamos hasta la presentación formal cuando compartimos algo que creemos que es genial”.

El resultado final es un anuncio inteligente con un mensaje claro y simple: Dados los numerosos tipos de indicaciones de texto que contienen la palabra "ketchup", DALL-E 2 generará algo que se parece inequívocamente a una botella de Heinz. En otras palabras, sigue el eslogan de la empresa, “tiene que ser Heinz”. Puedes ver el anuncio a continuación.

Youtube Video

DALL-E 2 también ayudó recientemente a un artista a crear un portada de revista para cosmopolita; es otro ejemplo de cómo estas herramientas de texto a imagen pueden usarse comercialmente en las industrias creativas. ®