Voivatko koneet olla itsetietoisia? Uusi tutkimus selittää, kuinka tämä voi tapahtua

Julkaissut Platon

seuraajia: 0

Koneen rakentamiseksi on tiedettävä, mitkä sen osat ovat ja miten ne sopivat yhteen. Koneen ymmärtämiseksi on tiedettävä, mitä kukin osa tekee ja miten se edistää sen toimintaa. Toisin sanoen pitäisi pystyä selittämään sen toiminnan "mekaniikka".

Mukaan filosofinen lähestymistapa Mekanismiksi kutsuttu ihminen on luultavasti eräänlainen kone – ja kykymme ajatella, puhua ja ymmärtää maailmaa on tulosta mekaanisesta prosessista, jota emme ymmärrä.

Ymmärtääksemme itseämme paremmin voimme yrittää rakentaa koneita, jotka jäljittelevät kykyjämme. Näin tehdessämme meillä olisi mekaaninen käsitys näistä koneista. Ja mitä enemmän koneellamme on käyttäytymistämme, sitä lähempänä saatamme olla mekaanista selitystä omalle mielellemme.

Tämä tekee tekoälystä mielenkiintoisen filosofisesta näkökulmasta. Edistyneet mallit, kuten GPT-4 ja Midjourney voi nyt jäljitellä ihmisten keskustelua, läpäistä ammattikokeet ja luoda kauniita kuvia vain muutamalla sanalla.

Kaikesta edistymisestä huolimatta kysymykset jäävät kuitenkin vastaamatta. Kuinka voimme tehdä jostakin itsetietoiseksi tai tietoiseksi siitä, että muut ovat tietoisia? Mikä on identiteetti? Mikä on tarkoitus?

Vaikka näistä asioista on monia kilpailevia filosofisia kuvauksia, ne ovat kaikki vastustaneet mekanistista selitystä.

Jonkin sisällä paperisarja hyväksytty 16. yleisen tekoälyn vuosikonferenssi Tukholmassa esitän näille ilmiöille mekaanisen selityksen. He selittävät, kuinka voimme rakentaa koneen, joka on tietoinen itsestään, muista, itsestään sellaisina kuin muut näkevät ja niin edelleen.

Älykkyys ja tahto

Suuri osa siitä, mitä kutsumme älykkyydeksi, tiivistyy siihen, että tehdään ennusteita maailmasta epätäydellisillä tiedoilla. Mitä vähemmän tietoa kone tarvitsee tarkkojen ennusteiden tekemiseen, sitä "älykkäämpi" se on.

Tietyssä tehtävässä on raja, kuinka paljon älykkyydestä on todella hyötyä. Esimerkiksi useimmat aikuiset ovat tarpeeksi älykkäitä oppiakseen ajamaan autoa, mutta älykkyys ei todennäköisesti tee heistä parempia kuljettajia.

Paperit kuvaavat älykkyyden yläraja tiettyä tehtävää varten ja mitä vaaditaan sen saavuttavan koneen rakentamiseen.

Nimesin idean Bennettin partaveitsiksi, joka ei-teknisesti tarkoittaa, että "selitysten ei pitäisi olla tarkempia kuin on tarpeen". Tämä eroaa Ockham's Razorin suositusta tulkinnasta (ja niiden matemaattiset kuvaukset), mikä suosii yksinkertaisempia selityksiä.

Ero on hienovarainen, mutta merkittävä. Vuonna an kokeilu verrattaessa sitä, kuinka paljon dataa tekoälyjärjestelmät tarvitsevat yksinkertaisen matematiikan oppimiseen, vähemmän tarkkoja selityksiä suosinut tekoäly ylitti yksinkertaisempia selityksiä suosivan peräti 500 prosentilla.

Tämän löydön seurausten tutkiminen johti minut mekanistiseen merkityksen selitykseen - johonkin nimeltä "Gricean pragmatiikkaa.” Tämä on kielifilosofian käsite, joka tarkastelee, miten merkitys liittyy tarkoitukseen.

Selviytyäkseen eläimen on ennakoitava, miten sen ympäristö, mukaan lukien muut eläimet, toimii ja reagoi. Et epäröisi jättää autoa valvomatta koiran lähelle, mutta samaa ei voi sanoa rintapihvilounastasi.

Älykäs yhteisössä tarkoittaa kykyä päätellä muiden aikomukset, jotka johtuvat heidän tunteistaan ja mieltymyksistään. Jos kone saavuttaa älykkyyden ylärajan tehtävässä, joka riippuu vuorovaikutuksesta ihmisen kanssa, sen olisi myös pääteltävä oikein aikomus.

Ja jos kone voi liittää sitä kohtaaviin tapahtumiin ja kokemuksiin tarkoituksen, tämä herättää kysymyksen identiteetistä ja siitä, mitä tarkoittaa olla tietoinen itsestään ja muista.

Kausaalisuus ja identiteetti

Näen Johnin pukeutuneena sadetakkiin, kun sataa. Jos pakotan Johnin käyttämään sadetakkia aurinkoisena päivänä, tuoko se sateen?

Ei tietenkään! Ihmiselle tämä on itsestään selvää. Mutta syyn ja seurauksen hienouksia on vaikeampi opettaa koneelle (kiinnostuneet lukijat voivat tarkistaa Miksi kirja kirjoittaneet Judea Pearl ja Dana Mackenzie).

Voidakseen pohtia näitä asioita, koneen on opittava, että "minä aiheutin sen tapahtuvan" on eri asia kuin "näin sen tapahtuvan". Tyypillisesti olisimme ohjelma tämä ymmärrys siihen.

Työni kuitenkin selittää, kuinka voimme rakentaa koneen, joka toimii älykkyyden ylärajalla tehtävässä. Tällaisen koneen on määritelmän mukaan tunnistettava oikein syy ja seuraus – ja siksi myös pääteltävä syy-suhteet. Omat paperit tutkia tarkalleen kuinka.

Tämän vaikutukset ovat syvällisiä. Jos kone oppii "Minä aiheutin sen", sen täytyy rakentaa käsitteet "minä" (identiteetti itselleen) ja "se".

Kyky päätellä tarkoitusta, oppia syy ja seuraus sekä rakentaa abstrakteja identiteettejä ovat kaikki yhteydessä toisiinsa. Koneen, joka saavuttaa älykkyyden ylärajan tehtävää varten, on esitettävä kaikki nämä kyvyt.

Tämä kone ei vain rakenna identiteettiä itselleen, vaan jokaiselle esineelle, joka auttaa tai estää sen kykyä suorittaa tehtävä. Silloin se voi käyttää omia mieltymyksiään kuten lähtötaso ennustaa mitä muut voivat tehdä. Tämä on samanlainen kuin miten ihmisillä on tapana syyttää tarkoitettu muille kuin ihmiseläimille.

Joten mitä se tarkoittaa tekoälylle?

Tietysti ihmismieli on paljon enemmän kuin yksinkertainen ohjelma, jota käytetään kokeiden suorittamiseen tutkimuksessani. Työni tarjoaa matemaattisen kuvauksen mahdollisesta kausaalireitistä sellaisen koneen luomiseen, joka on luultavasti itsetietoinen. Tällaisen asian suunnittelun erityispiirteet eivät kuitenkaan ole kaukana ratkaistu.

Esimerkiksi ihmisen kaltainen aikomus vaatisi ihmisen kaltaisia kokemuksia ja tunteita, joita on vaikea suunnitella. Lisäksi emme voi helposti testata ihmistietoisuuden täyttä rikkautta. tajunta on laaja ja moniselitteinen käsite, joka kattaa yllä olevat suppeammat väitteet, mutta se on erotettava niistä.

Olen antanut mekaanisen selityksen näkökohdat tietoisuudesta – mutta tämä ei yksinään kaappaa tietoisuuden täyttä rikkautta sellaisena kuin ihmiset sen kokevat. Tämä on vasta alkua, ja tulevan tutkimuksen on laajennettava näitä väitteitä.

Tämä artikkeli julkaistaan uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Kuva pistetilanne: Deepmind on Unsplash