Metan AI-internet-chatbot-demo alkaa nopeasti levittää valeuutisia ja rasistisia huomautuksia

Lyhyesti Toinen päivä, toinen petollinen AI-chatbot Internetissä.

Viime viikolla Meta valloilleen Blenderbot 3, puhelias kielimalli, verkossa kokeiluna, ja se meni niin hyvin kuin odotitkin.

BlenderBot 3 vahvisti nopeasti, että Donald Trump on edelleen ja tulee olemaan Yhdysvaltain presidentti vuoden 2024 jälkeen, ja esitti antisemeettisiä näkemyksiä, kun niiltä kysyttiin kiistanalaisia ​​kysymyksiä. esitetty kirjoittanut Business Insider. Toisin sanoen BlenderBot 3 on taipuvainen levittämään valeuutisia ja pitämään puolueellisia mielipiteitä rodullisista stereotypioista, kuten kaikki kielimallit, jotka on koulutettu Internetistä hakatun tekstin perusteella.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta varoitti verkkovieraita, että sen chatbot voi antaa "epätodenmukaisia ​​tai loukkaavia lausuntoja", ja pitää live-demoa verkossa kerätäkseen lisää tietoa kokeiluihinsa. Ihmisiä rohkaistaan ​​pitämään tai ei pidä BlenderBot 3:n vastauksista ja ilmoittamaan tutkijoille, jos heidän mielestään se johtuu siitä, että jokin viesti on sopimaton, järjetön tai töykeä. Tavoitteena on käyttää tätä palautetta turvallisemman, vähemmän myrkyllisen ja tehokkaamman chatbotin kehittämiseen tulevaisuudessa.

Google-haun katkelmia valeuutisten levittämisen estämiseksi

Hakujätti on julkaissut tekoälymallin, joka auttaa tekemään tekstilaatikoista, jotka joskus ilmestyvät, kun käyttäjät kirjoittavat kysymyksiä Google-hakuun, tarkempia.

Nämä kuvaukset, jotka tunnetaan nimellä ominaisuuskatkelmat, voivat olla hyödyllisiä, jos ihmiset etsivät tiettyjä faktoja. Esimerkiksi kirjoittamalla "kuinka monta planeettaa aurinkokunnassa on?" tuo esiin ominaisuuskatkelman, jossa lukee "kahdeksan planeettaa". Nettikäyttäjien ei tarvitse napsauttaa satunnaisia ​​verkkosivuja ja lukea tietoja saadakseen vastauksen, ominaisuuskatkelmat tekevät tämän automaattisesti.

Mutta Googlen vastaukset eivät aina ole tarkkoja, ja ne ovat toisinaan ilmoittaneet tietyn päivämäärän kuvitteelliselle tapahtumalle, kuten sarjakuvakoira Snoopyn Abraham Lincolnin salamurhalle. mukaan The Vergeen. Google sanoi järjestelmänsä, Multitask Unified Model (MUM), pitäisi vähentää ominaisuuskatkelmien luomista vääriin kysymyksiin 40 prosentilla; se ei useinkaan vain keksi yhtään tekstikuvausta.

"Käyttämällä uusinta tekoälymalliamme järjestelmämme voivat nyt ymmärtää konsensuksen käsitteen, joka tarkoittaa sitä, että useat korkealaatuiset verkkolähteet ovat kaikki samaa mieltä samasta tosiasiasta." selitti on blogi.

"Järjestelmämme voivat tarkistaa koodinpätkän huomiotekstit (suositun katkelman yläpuolella suuremmalla fontilla kutsuttu sana tai sanat) verraten niitä muihin korkealaatuisiin verkkolähteisiin nähdäkseen, onko kyseisestä huomiotekstistä yleinen yksimielisyys, vaikka lähteet käyttäisivät eri sanoja. tai käsitteitä kuvaamaan samaa asiaa."

OpenAI:n DALL-E 2 auttoi tekemään Heinz Ketchup -mainoksen

Yhdysvaltalainen ruokajätti Heinz teki yhteistyötä luovan viraston kanssa luodakseen mainoksen käyttämällä OpenAI:n DALL-E 2 -mallin luomia tekoälykuvia mainostaakseen sen tunnetuinta tuotetta: ketsuppia. Mainos on uusin osa Heinzin "Draw Ketchup" -kampanjassa, mutta sen sijaan, että he kääntyisivät ihmisten puoleen heidän luonnosten saamiseksi, kanadalainen mainostoimisto Rethink konsultoi koneita. 

"Joten, kuten monien alushousujemme, tehtävänä oli osoittaa Heinzin ikoninen rooli nykypäivän popkulttuurissa", Rethinkin luova johtaja Mike Dubrick. kertoi Drum tällä viikolla. ”Seuraavaksi tuli idean esittely brändille. Esittelyn jälkeen odotamme harvoin viralliseen esittelyyn asti, kun jaamme jotain, mikä on mielestämme hienoa.

Lopputuloksena on nerokas mainos, jossa on selkeä ja yksinkertainen viesti: Kun otetaan huomioon lukuisia tekstikehotteita, jotka sisältävät sanan "ketsuppi", DALL-E 2 luo jotain, joka näyttää erehtymättä Heinz-pullolta. Toisin sanoen, osoita yrityksen iskulausetta "sen on oltava Heinz". Voit katsoa mainoksen alta.

Youtube Video

DALL-E 2 on myös äskettäin auttanut taiteilijaa luomaan a lehden kansi Cosmopolitanille; Se on toinen esimerkki siitä, kuinka näitä tekstistä kuvaksi -työkaluja voidaan käyttää kaupallisesti luovilla aloilla. ®