Demo-ul de chatbot de internet AI al Meta începe rapid să arunce știri false și remarci rasiste

Pe scurt În altă zi, un alt chatbot AI necinstiți pe internet.

Săptămâna trecută Meta a dezlănțuit Blenderbot 3, un model de limbaj vorbăreț, pe web ca experiment și a mers la fel de bine cum v-ați aștepta.

BlenderBot 3 s-a grăbit să confirme că Donald Trump este și va continua să fie președintele SUA după 2024 și a emis opinii antisemetice atunci când i-a fost adresat întrebări controversate, deoarece indicat de Business Insider. Cu alte cuvinte, BlenderBot 3 este predispus să răspândească știri false și să dețină opinii părtinitoare din stereotipuri rasiale, cum ar fi toate modelele de limbă instruite din text răzuit de pe internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta a avertizat internauții chatbot-ul său ar putea face „declarații neadevărate sau ofensatoare” și menține online demonstrația live pentru a colecta mai multe date pentru experimentele sale. Oamenii sunt încurajați să-și placă sau să nu le placă răspunsurile lui BlenderBot 3 și să notifice cercetătorii dacă cred că este din cauza unui anumit mesaj nepotrivit, lipsit de sens sau nepoliticos. Scopul este de a folosi acest feedback pentru a dezvolta un chatbot mai sigur, mai puțin toxic și mai eficient în viitor.

Fragmente de căutare Google pentru a opri răspândirea de știri false

Gigantul căutării a lansat un model AI pentru a face casetele de text care uneori apar atunci când utilizatorii introduc întrebări în Căutarea Google mai precise.

Aceste descrieri, cunoscute sub numele de fragmente de caracteristici, pot fi utile dacă oamenii caută fapte specifice. De exemplu, tastând „câte planete are Sistemul Solar?” va arunca un fragment de caracteristică care menționează „opt planete”. Internauții nu trebuie să facă clic pe pagini web aleatoare și să citească informații pentru a obține răspunsul, fragmentele de caracteristici fac acest lucru automat.

Dar răspunsurile Google nu sunt întotdeauna exacte și au precizat uneori o anumită dată pentru un eveniment fictiv precum asasinarea lui Abraham Lincoln de către câinele de desene animate Snoopy, conform spre The Verge. Google a spus că sistemul său, the Model unificat multitask (MUM), ar trebui să scadă cu 40 la sută generarea de fragmente de caracteristici la întrebări false; de multe ori pur și simplu nu va veni cu nicio descriere text.

„Folosind cel mai recent model al nostru AI, sistemele noastre pot înțelege acum noțiunea de consens, adică atunci când mai multe surse de înaltă calitate de pe web sunt toate de acord asupra aceluiași fapt”, se spune. a explicat într-un post pe blog.

„Sistemele noastre pot verifica înștiințările pentru fragmente (cuvântul sau cuvintele numite deasupra fragmentului prezentat într-un font mai mare) cu alte surse de înaltă calitate de pe web, pentru a vedea dacă există un consens general pentru înștiințarea respectivă, chiar dacă sursele folosesc cuvinte diferite. sau concepte care să descrie același lucru.”

DALL-E 2 de la OpenAI a ajutat la realizarea unei reclame Heinz Ketchup

Heinz, gigantul alimentar american, a făcut echipă cu o agenție de creație pentru a crea o reclamă folosind imagini AI generate de modelul DALL-E 2 de la OpenAI pentru a-și promova cel mai cunoscut produs: ketchup-ul. Reclama este cea mai recentă tranșă din campania „Draw Ketchup” a lui Heinz, dar în loc să apeleze la oameni pentru schițele lor, Rethink, o agenție de publicitate canadiană, a consultat aparate. 

„Așadar, la fel ca multe dintre slipurile noastre, sarcina a fost să demonstrăm rolul emblematic al lui Heinz în cultura pop de astăzi”, directorul executiv de creație al Rethink, Mike Dubrick, a spus Toba săptămâna aceasta. „Prezentarea ideii către brand a fost următoarea. După brief, rareori așteptăm până la prezentarea oficială când împărtășim ceva ce ni se pare grozav.”

Rezultatul final este o reclamă inteligentă, cu un mesaj clar și simplu: Având în vedere numeroase tipuri de mesaje text care conțin cuvântul „ketchup”, DALL-E 2 va genera ceva care arată fără îndoială ca o sticlă Heinz. Cu alte cuvinte, remarcați sloganul companiei, „trebuie să fie Heinz”. Puteți urmări anunțul de mai jos.

Youtube Video

De asemenea, DALL-E 2 a ajutat recent un artist să creeze a copertă de revistă pentru Cosmopolitan; este un alt exemplu al modului în care aceste instrumente text-to-image pot fi utilizate comercial în industriile creative. ®