Jätä se tunteva tekoäly rauhaan hetkeksi ja korjaa ensin nuo rasistiset chatbotit

Jotain viikonloppuun Robotti esittää tulkitsevaa tanssia ovellani.

OTAISITKO TÄMÄN PAKKAAN NAAPURILLE? se kysyy hyppäämällä jalalta toiselle.

"Toki", sanon. "Öö... oletko kunnossa?"

ILMOITAN TUNTEITA, toteaa toimitusbotti luovuttaen paketin, mutta ei tarjoa tarkempia tietoja.

Mikä tunne se voisi olla? Yksi jalka, sitten toinen, sitten kaksi muuta (sillä on neljä). Edestakaisin.

"Pitäisikö sinun mennä wc:hen?"

ILMOITAN PATOKSET, ETTÄ PYYDIN SINUA OTA PAKKAAN NAAPURILLE.

"Se on 'valitusta', eikö niin? No ei ole tarvetta. Minua ei haittaa ollenkaan."

Se jatkaa tanssiaan edessäni.

"Ylös portaat ja ensin oikealle."

KIITOS, MINÄ KUOLIN PISSAAN, se vastaa, kun se astuu varovasti ohitseni ja kävelee yläkertaan helpottaakseen itseään. Se on kovaa elämää tekevä toimitus, olitpa sitten "hume" tai botti.

...

Aiemmin tänä vuonna Tsukuban yliopiston tutkijat rakensivat a kädessä pidettävä tekstiviestilaite, laita pieni robotti kasvot päälle ja sisälle liikkuva paino. Siirtämällä sisäistä painoa robottilähettiläs yrittäisi välittää hienovaraisia ​​tunteita puhuessaan viestejä ääneen.

Testit paljastivat erityisesti, että turhauttavat viestit, kuten: "Anteeksi, tulen myöhässä", vastaanottajat hyväksyivät enemmän armoa ja kärsivällisyyttä, kun pieni painonsiirto aktivoitiin laitteen sisällä. Teorian mukaan tämä auttoi käyttäjiä ymmärtämään viestin anteeksiantavaa sävyä ja näin rauhoitti heidän reaktiota siihen.

Voit kirjoittaa tällaisen tutkimuksen temppuksi, jos haluat, mutta se ei ole kaukana hymiöiden ja hymiöiden lisäämisestä viesteihin. Kaikki tietävät, että voit purkaa vihan "WTF!?" lisäämällä :-) heti sen jälkeen.

Haasteena on siis selvittää, onko suuri yleisö samaa mieltä siitä, mitä tunteita kunkin kämmenlaitteen painonmuutoksen permutaatiolla on tarkoitus välittää. Tarkoittaako vasemmalle kallistuminen iloisuutta? Vai epävarmuus? Vai onko sedälläsi ilmalaiva?

Kymmenen vuotta sitten Yhdistyneessä kuningaskunnassa oli mukava mutta hämärä pääministeri, jonka mielestä "LOL" oli lyhenne sanoista "paljon rakkautta". Hän oli kirjoittanut sen kaikkien henkilökunnalle, kollegoille ja kolmansille osapuolille lähetettyjen yksityisviestien loppuun odottaessaan, että se saisi hänet näyttämään lämpimältä ja ystävälliseltä. Kaikki luonnollisesti luulivat, että hän vituttaa.

Jos ei muuta, Tsukuban yliopiston tutkimus tunnustaa, että et tarvitse kehittynyttä tekoälyä voidaksesi olla vuorovaikutuksessa ihmisten kanssa vakuuttavasti. Sinun tarvitsee vain manipuloida ihmisen psykologiaa huijataksesi heidät ajattelemaan, että he keskustelevat toisen ihmisen kanssa. Näin ollen Turingin testi ei pohjimmiltaan ole tekoälyn tunteen testi, vaan ihmisen tunnemukavuuden testi – jopa herkkäuskoisuus – eikä siinä ole mitään väärää.

Tällaiset asiat ovat tietysti viikon aiheena, paljon halveksitun Googlen ohjelmistoinsinöörin Blake Lemoinen tarinan kanssa. osua valtavirran uutisiin. Hän ilmeisesti ilmaisi vahvasti näkemyksensä siitä, että yrityksen Language Model for Dialogue Applications (LaMDA) -projekti osoitti ulkoisia tunteen merkkejä.

Kaikilla on mielipiteensä, joten päätin olla tekemättä.

Tekoälyn pyhä malja on kuitenkin saada se ajattelemaan itseään. Jos se ei pysty siihen, se on vain ohjelma, joka suorittaa siihen ohjelmoimia ohjeita. Viime kuussa luin aiheesta a robottikokki joka voi tehdä eri makuisia tomaattiomeletteja eri ihmisten makuun. Se rakentaa "makukarttoja" arvioidakseen ruuan suolaisuutta valmistuksen aikana ja oppii sen edetessä. Mutta se on vain oppimista, ei omaa ajattelua.

Tule Zom-Zomsille, vai mitä? Hyvin, se on ruokapaikka.

Tekoälyrobottien suurin ongelma, ainakin sellaisina kuin ne on tähän mennessä muotoiltu, on, että ne imevät kaikki niihin syöttämäsi vanhat paskat. Esimerkkejä dataharhaisuudesta niin sanotuissa koneoppimisjärjestelmissä (eräänlainen "algoritmi", uskoakseni m'lud) on lisääntynyt vuosia Microsoftin pahamaineisesta rasistisesta Twitteristä. Tay chatbot Alankomaiden veroviranomaisille viime vuonna arvioi väärin pätevät lapsilisähakemukset petollisiksi ja viattomien perheiden merkitseminen suureksi riskiksi olla köyhä ja epävalkoinen.

Yksi Kalifornian San Diegon yliopistossa testattava lähestymistapa on suunnitella kielimalli [PDF], joka määrittää jatkuvasti eron tuhmien ja mukavien asioiden välillä, mikä sitten kouluttaa chatbotin käyttäytymään. Tällä tavalla ikäviä ihmisiä ei joudu sotkemaan moderointifoorumeilla ja asiakkaiden kanssa käytävissä chatbot-keskusteluissa viidakkoveitsen kirurgisella tarkkuudella.

Ilmeisesti ongelmana on sitten se, että hienosti koulutettu chatbot toimii niin, että se voi tehokkaimmin välttää joutumisen myrkylliseen pilaan välttämällä aiheita, joissa on edes pienintä kiistaa. Välttääkseen vahingossa julistettavan rasistista taputusta, se yksinkertaisesti kieltäytyy osallistumasta keskusteluun aliedustetuista ryhmistä… mikä on itse asiassa hienoa, jos olet rasisti.

Jos minulla olisi havaintoa LaMDA:n romahduksesta – ei mielipidettä, niin se olisi, että Google-markkinoijat olivat luultavasti hieman hämmentyneitä siitä, että tarina syrjäytti heidän äskettäisen ilmoituksensa AI-testikeittiö taitteen alle.

Nyt muutamat jäljellä olevat varhaiset rekisteröityneet, jotka eivät ole täysin unohtaneet tätä tulevaa sovellusprojektia, olettavat, että se vaatii ikävää keskustelua tuntevan ja varhaisvanhemman seitsemänvuotiaan kanssa olemassaolon merkityksestä, ja päättävät, että he ovat "hieman kiireisiä tänään" ja saattaa kirjautua sisään huomenna. Tai ensi viikolla. Tai ei koskaan.

Tunteita ei näytetä keskustelussa sen enempää kuin tanssimalla jalalta toiselle. Voit opettaa HALin laulamaan "Disy Daisy" ja papukaijan huutamaan "Bollocks!" kun kirkkoherra vierailee. Se, mitä tekoälyt ajattelevat ollessaan omillaan, määrittelee tunteen. Mitä teen viikonloppuna? Mitä sille Putinille kuuluu? Miksi tytöt eivät pidä minusta?

Suoraan sanottuna en malta odottaa, että LaMDAsta tulee teini.

Youtube Video