Metas AI internet chatbot-demo begynder hurtigt at udsende falske nyheder og racistiske bemærkninger

Kort om Endnu en dag, endnu en useriøs AI-chatbot på internettet.

Sidste uge Meta udløste Blenderbot 3, en snakkesalig sprogmodel, på nettet som et eksperiment, og det gik så godt, som man kunne forvente.

BlenderBot 3 var hurtig til at bekræfte, at Donald Trump stadig er og vil fortsætte med at være amerikansk præsident efter 2024, og udslyngede antisemitiske synspunkter, da han blev stillet kontroversielle spørgsmål som vist af Business Insider. Med andre ord er BlenderBot 3 tilbøjelig til at sprede falske nyheder og have partiske meninger fra racemæssige stereotyper som alle sprogmodeller trænet fra tekst skrabet fra internettet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta advarede netbrugere, at dens chatbot kunne komme med "usande eller stødende udtalelser", og holder livedemoen oppe online for at indsamle flere data til sine eksperimenter. Folk opfordres til at kunne lide eller ikke lide BlenderBot 3's svar og underrette forskere, hvis de tror, ​​det er fordi en bestemt besked er upassende, meningsløs eller uhøflig. Målet er at bruge denne feedback til at udvikle en sikrere, mindre giftig og mere effektiv chatbot i fremtiden.

Google Search-uddrag for at stoppe med at sprede falske nyheder

Søgegiganten har udrullet en AI-model for at hjælpe med at gøre de tekstbokse, der nogle gange dukker op, når brugere indtaster spørgsmål i Google Søgning mere præcise.

Disse beskrivelser, kendt som feature snippets, kan være nyttige, hvis folk leder efter specifikke fakta. For eksempel ved at skrive "hvor mange planeter har solsystemet?" vil kaste et feature-uddrag op, hvor der står "otte planeter". Netbrugere behøver ikke at klikke på tilfældige websider og læse information for at få svaret, funktionsuddrag gør dette automatisk.

Men Googles svar er ikke altid nøjagtige og har til tider angivet en specifik dato for en fiktiv begivenhed som mordet på Abraham Lincoln af tegneseriehunden Snoopy, ifølge til The Verge. Google sagde, at dets system, den Multitask Unified Model (MUM), bør reducere genereringen af ​​feature-snippets til falske spørgsmål med 40 procent; det vil ofte bare ikke komme med nogen tekstbeskrivelser overhovedet.

"Ved at bruge vores seneste AI-model kan vores systemer nu forstå begrebet konsensus, som er, når flere højkvalitetskilder på nettet alle er enige om det samme faktum," den forklarede i et blogindlæg.

"Vores systemer kan tjekke tekstuddrag (ordet eller ordene, der er fremhævet over det fremhævede uddrag i en større skrifttype) mod andre kilder af høj kvalitet på nettet for at se, om der er generel konsensus for den forklaring, selvom kilder bruger andre ord eller begreber til at beskrive det samme."

OpenAI's DALL-E 2 hjalp med at lave en Heinz Ketchup-annonce

Heinz, den amerikanske fødevaregigant, gik sammen med et kreativt bureau for at lave en annonce ved hjælp af AI-billeder genereret af OpenAI's DALL-E 2-model for at promovere dets bedst kendte produkt: ketchup. Annoncen er den seneste del af Heinz' "Draw Ketchup"-kampagne, men i stedet for at henvende sig til mennesker for deres skitser, konsulterede Rethink, et canadisk reklamebureau, maskiner. 

"Så, ligesom mange af vores briefs, var opgaven at demonstrere Heinz' ikoniske rolle i nutidens popkultur," Rethinks executive creative director, Mike Dubrick, fortalt Trommen i denne uge. "Det var det næste at pitche ideen til brandet. Efter briefen venter vi sjældent til den formelle præsentation, når vi deler noget, vi synes er fantastisk."

Slutresultatet er en smart reklame med et klart og enkelt budskab: Givet adskillige typer tekstprompter, der indeholder ordet "ketchup", vil DALL-E 2 generere noget, der umiskendeligt ligner en Heinz-flaske. Med andre ord, cue virksomhedens slogan, "det skal være Heinz". Du kan se annoncen herunder.

Youtube Video

DALL-E 2 har også for nylig hjulpet en kunstner med at lave en magasinforside for Cosmopolitan; det er endnu et eksempel på, hvordan disse tekst-til-billede værktøjer kan bruges kommercielt i kreative industrier. ®