Meta's AI internet chatbot-demo begint snel nepnieuws en racistische opmerkingen te spuwen

In het kort Een nieuwe dag, een nieuwe malafide AI-chatbot op internet.

Vorige week Meta ontketende Blenderbot 3, een spraakzaam taalmodel, op het web als experiment en het ging zoals je zou verwachten.

BlenderBot 3 was er snel bij om te bevestigen dat Donald Trump nog steeds president van de VS is en zal blijven na 2024, en antisemitische standpunten spuugde toen hem controversiële vragen werden gesteld als getoond door Business Insider. Met andere woorden, BlenderBot 3 is vatbaar voor het verspreiden van nepnieuws en vooringenomen meningen van raciale stereotypen, zoals alle taalmodellen die zijn getraind met tekst die van internet is geschraapt.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta waarschuwde netizens dat zijn chatbot "onware of beledigende uitspraken" zou kunnen doen, en houdt de live demo online om meer gegevens te verzamelen voor zijn experimenten. Mensen worden aangemoedigd om de antwoorden van BlenderBot 3 leuk of niet leuk te vinden en onderzoekers op de hoogte te stellen als ze denken dat het komt omdat een bepaald bericht ongepast, onzinnig of grof is. Het doel is om deze feedback te gebruiken om in de toekomst een veiligere, minder giftige en effectievere chatbot te ontwikkelen.

Google Search-fragmenten om te stoppen met het verspreiden van nepnieuws

De zoekgigant heeft een AI-model uitgerold om de tekstvakken die soms verschijnen wanneer gebruikers vragen in Google Zoeken intypen, nauwkeuriger te maken.

Deze beschrijvingen, ook wel feature snippets genoemd, kunnen handig zijn als mensen op zoek zijn naar specifieke feiten. Typ bijvoorbeeld "hoeveel planeten heeft het zonnestelsel?" zal een feature-fragment overgeven met de vermelding "acht planeten". Netizens hoeven niet op willekeurige webpagina's te klikken en informatie te lezen om het antwoord te krijgen, feature snippets doen dit automatisch.

Maar de antwoorden van Google zijn niet altijd accuraat en hebben soms een specifieke datum vermeld voor een fictieve gebeurtenis zoals de moord op Abraham Lincoln door cartoonhond Snoopy, volgens naar De Verge. Google zei dat zijn systeem, de Multitask uniform model (MUM), zou het genereren van feature snippets naar foutieve vragen met 40 procent moeten verminderen; het zal vaak gewoon helemaal geen tekstbeschrijvingen bedenken.

"Door ons nieuwste AI-model te gebruiken, kunnen onze systemen nu het begrip consensus begrijpen, dat wil zeggen wanneer meerdere hoogwaardige bronnen op internet het allemaal eens zijn over hetzelfde feit," het uitgelegd in een blog post.

“Onze systemen kunnen snippet-callouts (het woord of de woorden die boven het featured snippet in een groter lettertype worden genoemd) vergelijken met andere hoogwaardige bronnen op internet, om te zien of er een algemene consensus is voor die callout, zelfs als bronnen andere woorden gebruiken. of concepten om hetzelfde te beschrijven.”

OpenAI's DALL-E 2 hielp bij het maken van een Heinz Ketchup-advertentie

Heinz, de Amerikaanse voedselgigant, werkte samen met een creatief bureau om een ​​advertentie te maken met behulp van AI-afbeeldingen die zijn gegenereerd door het DALL-E 2-model van OpenAI om zijn bekendste product te promoten: ketchup. De advertentie is de nieuwste aflevering in Heinz' 'Draw Ketchup'-campagne, maar in plaats van zich tot mensen te wenden voor hun schetsen, raadpleegde Rethink, een Canadees reclamebureau, machines. 

"Dus, zoals veel van onze instructies, was het de taak om de iconische rol van Heinz in de hedendaagse popcultuur te demonstreren," Mike Dubrick, uitvoerend creatief directeur van Rethink, vertelde De Trommel deze week. “Het idee aan het merk pitchen was de volgende stap. Na de briefing wachten we zelden tot de formele presentatie als we iets delen waarvan we denken dat het geweldig is.”

Het eindresultaat is een slimme advertentie met een duidelijke en eenvoudige boodschap: gegeven talrijke soorten tekstprompts met het woord "ketchup", zal DALL-E 2 iets genereren dat onmiskenbaar op een Heinz-fles lijkt. Met andere woorden, cue de slogan van het bedrijf, "het moet Heinz zijn". Je kunt de advertentie hieronder bekijken.

Youtube Video

DALL-E 2 heeft onlangs ook een kunstenaar geholpen om een tijdschrift omslag voor kosmopolitisch; het is een ander voorbeeld van hoe deze tekst-naar-beeld-tools commercieel kunnen worden gebruikt in creatieve industrieën. ®