Meta AI Interneti-vestlusroboti demo hakkab kiiresti paiskama võltsuudiseid ja rassistlikke märkusi

Põgusalt Veel üks päev, järjekordne petturlik AI-vestlusbot Internetis.

Eelmisel nädalal Meta vallandanud Blenderbot 3, jutukas keelemudel, veebis eksperimendina ja see läks nii hästi, nagu arvata võis.

BlenderBot 3 kinnitas kiiresti, et Donald Trump on endiselt ja jääb USA presidendiks ka pärast 2024. aastat, ning avaldas antisemeetilisi seisukohti, kui neile esitati vastuolulisi küsimusi. näidatud Business Insideri poolt. Teisisõnu, BlenderBot 3 on kalduvus levitada võltsuudiseid ja omada kallutatud arvamusi rassiliste stereotüüpide alusel, nagu kõik keelemudelid, mis on koolitatud Internetist väljakraabitud tekstist.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta hoiatas netikoijaid, et selle vestlusrobot võib esitada "tõevastaseid või solvavaid avaldusi" ning hoiab reaalajas demo üleval, et koguda oma katsete jaoks rohkem andmeid. Inimesi julgustatakse BlenderBot 3 vastuseid meeldima või mitte meeldima ning teadlasi teavitama, kui nad arvavad, et teatud sõnum on sobimatu, mõttetu või ebaviisakas. Eesmärk on kasutada seda tagasisidet turvalisema, vähem toksilise ja tõhusama vestlusroboti väljatöötamiseks tulevikus.

Google'i otsingu väljavõtted võltsuudiste levitamise peatamiseks

Otsinguhiiglane on kasutusele võtnud tehisintellekti mudeli, mis aitab muuta täpsemaks tekstikastid, mis mõnikord ilmuvad, kui kasutajad Google'i otsingusse küsimusi sisestavad.

Need kirjeldused, mida nimetatakse funktsioonijuppideks, võivad olla abiks, kui inimesed otsivad konkreetseid fakte. Näiteks sisestades "mitu planeeti päikesesüsteemil on?" kuvab funktsioonilõigu, mis ütleb "kaheksa planeeti". Netisõbrad ei pea vastuse saamiseks klõpsama juhuslikel veebilehtedel ja lugema teavet, funktsioonijupid teevad seda automaatselt.

Kuid Google'i vastused ei ole alati täpsed ja on mõnikord nimetanud konkreetse kuupäeva väljamõeldud sündmuseks, näiteks Abraham Lincolni mõrv koomiksikoer Snoopy poolt, vastavalt The Verge'ile. Google ütles, et tema süsteem on Multitegumi ühtne mudel (MUM), peaks vähendama funktsioonijuppide genereerimist valeküsimusteks 40 protsenti; sageli ei leia see tekstikirjeldusi üldse.

"Kasutades meie uusimat tehisintellekti mudelit, saavad meie süsteemid nüüd aru konsensuse mõistest, mis tähendab, et mitu kvaliteetset veebiallikat nõustuvad kõik samas faktis," ütles ta. selgitas aastal blogi postitus.

"Meie süsteemid saavad kontrollida väljalõigete tähelepanulaiendeid (sõna või sõnad, mida nimetatakse esiletõstetud lõigu kohal suuremas kirjas) teiste kvaliteetsete veebiallikatega, et näha, kas selle tähelepanulaiendi suhtes on üldine üksmeel, isegi kui allikad kasutavad erinevaid sõnu. või mõisted sama asja kirjeldamiseks.

OpenAI DALL-E 2 aitas teha Heinzi ketšupi reklaami

USA toiduhiiglane Heinz tegi koostööd loovagentuuriga, et luua reklaam, kasutades OpenAI mudeli DALL-E 2 loodud tehisintellekti pilte, et reklaamida oma tuntuimat toodet: ketšupit. Reklaam on Heinzi kampaania "Joonista ketšup" viimane osa, kuid selle asemel, et visandite saamiseks inimeste poole pöörduda, konsulteeris Kanada reklaamiagentuur Rethink masinatega. 

"Niisiis, nagu paljud meie püksikud, oli ülesanne demonstreerida Heinzi ikoonilist rolli tänapäeva popkultuuris," ütles Rethinki tegevdirektor Mike Dubrick. ütles Trumm sel nädalal. "Järgmine oli idee tutvustamine kaubamärgile. Pärast lühiülevaadet ootame harva ametliku esitluseni, kui jagame midagi, mis meie arvates on suurepärane.

Lõpptulemuseks on nutikas reklaam, millel on selge ja lihtne sõnum: Arvestades mitut tüüpi tekstiviipasid, mis sisaldavad sõna "ketšup", loob DALL-E 2 midagi, mis näeb eksimatult välja nagu Heinzi pudel. Teisisõnu järgige ettevõtte loosungit "see peab olema Heinz". Kuulutust saate vaadata allpool.

Youtube'i video

DALL-E 2 on hiljuti aidanud ka kunstnikul meisterdada a ajakirja kaas Cosmopolitani jaoks; see on veel üks näide sellest, kuidas neid tekstist pildiks muutmise tööriistu saab loomemajanduses äriliselt kasutada. ®