A Meta mesterséges intelligenciájú internetes chatbot-demója gyorsan álhíreket és rasszista megjegyzéseket kezd okádni

Röviden Egy másik nap, egy újabb szélhámos AI chatbot az interneten.

Múlt héten Meta elszabadult Blenderbot 3, egy csevegő nyelvi modell, kísérletként az interneten, és a várakozásoknak megfelelően sikerült.

A BlenderBot 3 gyorsan megerősítette, hogy Donald Trump még mindig az Egyesült Államok elnöke, és 2024 után is az lesz, és antiszemetikus nézeteket vetett fel, amikor ellentmondásos kérdéseket tesznek fel. mutatott a Business Insider által. Más szóval, a BlenderBot 3 hajlamos az álhírek terjesztésére és a faji sztereotípiákból fakadó elfogult véleményekre, mint minden, az internetről kikapart szövegből kiképzett nyelvi modell.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

A Meta figyelmeztette a netezőket, hogy chatbotja „valótlan vagy sértő kijelentéseket” tehet, és az élő demót online is fenntartja, hogy több adatot gyűjtsön kísérleteihez. Az embereket arra ösztönzik, hogy tetszenek vagy ne tetszenek a BlenderBot 3 válaszai, és értesítsék a kutatókat, ha úgy gondolják, hogy ez azért van, mert egy bizonyos üzenet nem helyénvaló, értelmetlen vagy durva. A cél az, hogy ezt a visszajelzést felhasználva biztonságosabb, kevésbé mérgező és hatékonyabb chatbotot fejlesszünk ki a jövőben.

Google keresési kivonatok az álhírek terjesztésének megállításához

A keresőóriás kifejlesztett egy mesterséges intelligencia-modellt, hogy pontosabbá tegye azokat a szövegdobozokat, amelyek néha felbukkannak, amikor a felhasználók kérdéseket írnak be a Google Keresőbe.

Ezek a funkciórészletekként ismert leírások hasznosak lehetnek, ha az emberek konkrét tényeket keresnek. Például beírja, hogy „hány bolygója van a Naprendszernek?” feldob egy funkciórészletet, amely azt mondja, hogy „nyolc bolygó”. A netezőknek nem kell véletlenszerű weboldalakra kattintaniuk és információkat olvasniuk, hogy megkapják a választ, a funkciórészletek ezt automatikusan megteszik.

A Google válaszai azonban nem mindig pontosak, és időnként konkrét dátumot adtak meg egy-egy fiktív eseményhez, például Abraham Lincoln meggyilkolásához, amelyet Snoopy rajzfilmkutya végez. szerint a The Verge-be. A Google azt mondta, hogy rendszere, a Multitask Unified Model (MUM), 40%-kal csökkentenie kell a hamis kérdésekre szánt jellemzőrészletek generálását; gyakran nem fog szöveges leírásokat adni.

„Legújabb mesterséges intelligencia-modellünk használatával rendszereink most már megértik a konszenzus fogalmát, ami azt jelenti, hogy a weben található több, jó minőségű forrás egyet ért ugyanabban a tényben” magyarázható egy blogbejegyzésben.

„Rendszereink össze tudják hasonlítani a kivonatfeliratokat (a kiemelt kivonat fölött nagyobb betűtípussal megnevezett szót vagy szavakat) más, jó minőségű internetes forrásokkal összehasonlítva, hogy megállapítsák, van-e általános konszenzus az adott felirattal kapcsolatban, még akkor is, ha a források eltérő szavakat használnak. vagy fogalmak ugyanazon dolog leírására.”

Az OpenAI DALL-E 2-je segített egy Heinz Ketchup reklám elkészítésében

A Heinz, az amerikai élelmiszeripari óriás egy kreatív ügynökséggel összefogott, hogy reklámot hozzon létre az OpenAI DALL-E 2 modellje által generált mesterséges intelligencia képek felhasználásával, hogy népszerűsítse legismertebb termékét: a ketchupot. A hirdetés Heinz „Draw Ketchup” kampányának legújabb része, de ahelyett, hogy az emberekhez fordultak volna a vázlatokért, egy kanadai reklámügynökség, a Rethink gépekkel konzultált. 

„Tehát, mint sok rövidnadrágunk, a feladat az volt, hogy bemutassuk Heinz ikonikus szerepét a mai popkultúrában” – mondta Mike Dubrick, a Rethink ügyvezető kreatív igazgatója. mondta A dob ezen a héten. „A következő volt az ötlet bemutatása a márkának. A tájékoztató után ritkán várunk a hivatalos bemutatóig, amikor megosztunk valamit, amit nagyszerűnek tartunk.”

A végeredmény egy okos reklám, világos és egyszerű üzenettel: A „ketchup” szót tartalmazó számos szöveges felszólítás miatt a DALL-E 2 olyasmit generál, ami összetéveszthetetlenül úgy néz ki, mint egy Heinz-palack. Más szóval, idézze a cég szlogenjét: „Heinznek kell lennie”. A hirdetést lentebb tekintheti meg.

Youtube Video

A DALL-E 2 nemrégiben egy művésznek is segített abban, hogy a magazin borító a Cosmopolitan számára; ez egy újabb példa arra, hogyan lehet ezeket a szöveg-képké alakító eszközöket kereskedelmileg használni a kreatív iparágakban. ®