Hagyja békén azt az érző mesterséges intelligenciát, és először javítsa ki a rasszista chatbotokat

Valamit a hétvégére Egy robot interpretáló táncot ad elő a küszöbömön.

VIGYE EZT A CSOMAGOT A SZOMSZÉDJÁNAK? – kérdezi egyik lábáról a másikra ugrálva.

– Persze – mondom. – Ööö… jól vagy?

ÉRZELMEKET KIFEJEZEK, állítja a kézbesítő bot, átadva a csomagot, de nem kínál további részletezést.

Milyen érzelem lehet ez? Egy láb, majd a másik, majd a másik kettő (négy van). Előre-hátra.

– Ki kell menned wc-re?

SAJNÁLATOT KIFEJEZEK, HOGY MEGKÉREM, HOGY VEGYEN KI CSOMAGOT A SZOMSZÉDJÁNAK.

– Ez a „sajnálat”, igaz? Nos, semmi szükség. Egyáltalán nem bánom.”

Előttem folytatja táncát.

– Menj fel a lépcsőn, és először a jobb oldalon.

KÖSZÖNÖM, MEGHALTOM PISILNI, válaszol, miközben óvatosan elhalad mellettem, és felrohan az emeletre, hogy megkönnyebbüljön. Ez egy kemény életforma, akár egy „hume”, akár egy bot.

...

Az év elején a Tsukuba Egyetem kutatói megépítették a kézi szöveges üzenetküldő eszköz, a tetejére egy kis robotarcot tettünk, belül pedig mozgó súlyt foglaltunk. A belső súly eltolásával a robotküldő megpróbálja finom érzelmeket közvetíteni, miközben hangosan mond el üzeneteket.

A tesztek különösen azt mutatták ki, hogy az olyan frusztráló üzeneteket, mint például: „Sajnálom, késni fogok”, a címzettek kecsesebben és türelemmel fogadták, amikor a kis súlyeltolódást aktiválták az eszközben. Az elmélet szerint ez segített a felhasználóknak értékelni az üzenet bocsánatkérő hangját, és így lecsillapította a reakciójukat.

Write such research off as a gimmick if you like but it’s not far removed from adding smileys and emojis to messages. Everyone knows you can take the anger out of “WTF!?” by adding :-) straight after it.

A kihívás tehát annak meghatározása, hogy a nagyközönség egyetért-e abban, hogy a kézi eszközök súlyeltolódásának minden permutációja milyen érzelmeket kelt. A balra dőlés vidámságot jelent? Vagy bizonytalanság? Vagy a nagybátyádnak léghajója van?

Egy évtizeddel ezelőtt az Egyesült Királyságnak volt egy kedves, de halvány miniszterelnöke, aki úgy gondolta, hogy a „LOL” a „sok szeretet” rövidítése. A személyzetnek, kollégáknak és harmadik feleknek küldött összes privát üzenete végére ezt írta, abban a reményben, hogy attól meleg és barátságos lesz. Természetesen mindenki azt hitte, hogy piszkál.

Ha mást nem, a Tsukuba Egyetem kutatása elismeri, hogy nincs szükség fejlett mesterséges intelligenciára ahhoz, hogy meggyőzően kommunikáljon az emberekkel. Mindössze annyit kell tenned, hogy manipulálod az emberi pszichológiát, hogy azt higgyék, hogy egy másik emberrel beszélgetnek. Így a Turing-teszt alapvetően nem a mesterséges intelligencia érzékének próbája, hanem az emberi érzelmi kényelem – sőt a hiszékenység – próbája, és nincs is ezzel semmi baj.

Ilyen dolgok természetesen a hét témája, Blake Lemoine sokat szidott Google szoftvermérnökének történetével. üti a mainstream híreket. Nyilvánvalóan határozottan kifejezte azt a nézetét, hogy a vállalat nyelvi modellje a párbeszédes alkalmazásokhoz (LaMDA) projektje az érzékiség külső jeleit mutatja.

Mindenkinek megvan a véleménye, ezért úgy döntöttem, hogy nem.

Ez azonban a mesterséges intelligencia Szent Grálja, hogy magától gondolkodjon. Ha ezt nem tudja megtenni, akkor csak egy program hajtja végre az Ön által programozott utasításokat. A múlt hónapban olvastam a robotszakács amelyek különböző ízű paradicsomos omlettet készíthetnek, hogy megfeleljenek az emberek ízlésének. „Ízletérképeket” készít, hogy felmérje az étel sósságát az elkészítése során, miközben tanul. De ez csak tanulás, nem önálló gondolkodás.

Gyere a Zom-Zomba, mi? Jól, ez egy étkezési hely.

A nagy probléma az AI-botokkal, legalábbis a mai napig az, hogy felszívják a beléjük betáplált régi szart. Az úgynevezett gépi tanulási rendszerekben (az "algoritmusok egy fajtája", azt hiszem, m'lud) évek óta gyűlnek az adatok torzításának példái a Microsoft hírhedt rasszista Twitter-oldalán. Tay chatbot a holland adóhatósághoz tavaly hamisan értékel az érvényes gyermektámogatási igények csalóknak minősülnek, és az ártatlan családokat magas kockázatúnak minősítik a szegénység és a fehérvérűség miatt.

A San Diego-i Kaliforniai Egyetemen tesztelt egyik megközelítés az, hogy tervezzen nyelvi modellt [PDF], amely folyamatosan meghatározza a különbséget a rossz és a szép dolgok között, ami aztán megtanítja a chatbotot, hogyan viselkedjen. Ily módon nem lesznek szívás emberek, akik a machete sebészi pontosságával összezavarják a fórumok moderálását és az ügyfelek felé irányuló chatbot-beszélgetéseket.

Nyilvánvalóan az a probléma, hogy a jól kiképzett chatbot úgy tudja a leghatékonyabban elkerülni, hogy mérgező tréfálkozásba keveredjen, ha elkerüli azokat a témákat, amelyekről a legtávolabbi vita is van. Annak elkerülése érdekében, hogy tévedésből rasszista tapscsapdát üssön ki, egyszerűen nem hajlandó vitába bocsátkozni az alulreprezentált csoportokról… ami valójában nagyszerű, ha rasszista vagy.

Ha lenne észrevételem a LaMDA összeomlásával kapcsolatban – nem véleményem, akkor –, akkor a Google marketingeseit valószínűleg kissé megzavarta, hogy a történet elkerülte a legutóbbi bejelentésüket, AI tesztkonyha a hajtás alatt.

Most a fennmaradó néhány korai regisztráló, aki nem felejtette el teljesen ezt a közelgő alkalmazásprojektet, azt fogja feltételezni, hogy egy érző és koraérett hétéves gyerekkel fárasztóan beszélgetnek a létezés értelméről, és úgy döntenek, hogy „ma egy kicsit elfoglaltak” esetleg holnap jelentkezzen be. Vagy a jövő héten. Vagy soha.

Az érzőképesség nem mutatkozik meg a vitában, mint ahogy egyik lábról a másikra táncolással sem. Megtaníthatod HAL-t énekelni, hogy „Daisy Daisy”, egy papagájt pedig „Bollocks!” amikor a plébános látogatást tesz. Ez határozza meg az érzéket, amire a mesterséges intelligencia gondolkodik, amikor egyedül vannak. Mit fogok csinálni a hétvégén? Mi a helyzet azzal a Putyin sráccal? Miért nem szeretnek a lányok?

Őszintén szólva, alig várom, hogy LaMDA tinédzser legyek.

Youtube Video