Ali se lahko stroji zavedajo samega sebe? Nova raziskava pojasnjuje, kako bi se to lahko zgodilo

Ponovno objavil Platon

Spremljevalci: 0

Če želite zgraditi stroj, morate vedeti, kateri deli so in kako se prilegajo skupaj. Da bi razumeli stroj, je treba vedeti, kaj vsak del počne in kako prispeva k njegovi funkciji. Z drugimi besedami, človek bi moral biti sposoben razložiti "mehaniko", kako deluje.

Glede na filozofski pristop imenovan mehanizem, smo ljudje nedvomno vrsta stroja – in naša sposobnost razmišljanja, govorjenja in razumevanja sveta je rezultat mehanskega procesa, ki ga ne razumemo.

Da bi bolje razumeli sebe, lahko poskusimo zgraditi stroje, ki posnemajo naše sposobnosti. Pri tem bi imeli mehanistično razumevanje teh strojev. In več našega vedenja kot stroj pokaže, bližje smo lahko mehanični razlagi lastnega uma.

To je tisto, zaradi česar je umetna inteligenca zanimiva s filozofskega vidika. Napredni modeli, kot npr GPT-4 in Midjourney lahko zdaj posnema človeški pogovor, opravi strokovne izpite in ustvari čudovite slike z le nekaj besedami.

Kljub vsemu napredku vprašanja ostajajo neodgovorjena. Kako lahko naredimo nekaj samozavednega ali ozavestiti, da se drugi zavedajo? Kaj je identiteta? Kaj je pomen?

Čeprav obstaja veliko nasprotujočih si filozofskih opisov teh stvari, so se vsi uprli mehanični razlagi.

V zaporedje papirjev sprejet za 16. letna konferenca o umetni splošni inteligenci v Stockholmu predstavljam mehanistično razlago za te pojave. Pojasnjujejo, kako lahko zgradimo stroj, ki se zaveda samega sebe, drugih, samega sebe, kot ga dojemajo drugi, in tako naprej.

Inteligenca in namera

Veliko tega, čemur pravimo inteligenca, se skrči na napovedovanje sveta z nepopolnimi informacijami. Manj informacij kot stroj potrebuje za natančne napovedi, bolj je "inteligenten".

Za katero koli dano nalogo obstaja omejitev, koliko inteligence je dejansko koristno. Na primer, večina odraslih je dovolj pametnih, da se naučijo voziti avto, vendar več inteligence verjetno ne bo naredilo boljših voznikov.

Moji papirji opisujejo zgornja meja inteligence za določeno nalogo in kaj je potrebno za izdelavo stroja, ki to doseže.

Idejo sem poimenoval Bennettova britev, kar v netehničnem smislu pomeni, da "razlage ne smejo biti bolj specifične, kot je potrebno." To se razlikuje od priljubljene interpretacije Ockhamove britve (in njihove matematične opise), kar daje prednost preprostejšim razlagam.

Razlika je subtilna, a pomembna. V an poskus Če primerjamo, koliko podatkov sistemi umetne inteligence potrebujejo za učenje preproste matematike, je umetna inteligenca, ki je imela raje manj specifične razlage, za kar 500 odstotkov presegla tisto, ki je imela raje enostavnejše razlage.

Raziskovanje posledic tega odkritja me je pripeljalo do mehanične razlage pomena - nečesa imenovanega "Gricejeva pragmatika.” To je koncept v filozofiji jezika, ki obravnava, kako je pomen povezan z namenom.

Za preživetje mora žival predvideti, kako bo njeno okolje, vključno z drugimi živalmi, ravnalo in reagiralo. Brez oklevanja bi pustili avto brez nadzora v bližini psa, a tega ne moremo reči za kosilo z ramstekom.

Biti inteligenten v skupnosti pomeni biti sposoben sklepati o nameri drugih, ki izhaja iz njihovih občutkov in preferenc. Če bi stroj želel doseči zgornjo mejo inteligence za nalogo, ki je odvisna od interakcij s človekom, bi moral prav tako pravilno sklepati o nameri.

In če lahko stroj dogodkom in izkušnjam, ki se mu zgodijo, pripiše namen, se postavlja vprašanje identitete in kaj pomeni zavedati se sebe in drugih.

Vzročnost in identiteta

Ko dežuje, vidim Johna oblečenega v dežni plašč. Če Johna prisilim, da obleče dežni plašč na sončen dan, ali bo to prineslo dež?

Seveda ne! Človeku je to očitno. Toda stroj je težje naučiti podrobnosti vzroka in posledice (zainteresirani bralci si lahko ogledajo Knjiga Zakaj Judea Pearl in Dana Mackenzie).

Da bi razmišljal o teh stvareh, se mora stroj naučiti, da je "jaz sem povzročil, da se je to zgodilo" drugačno od "sem videl, da se je zgodilo." Običajno bi Program to razumevanje vanj.

Vendar pa moje delo pojasnjuje, kako lahko zgradimo stroj, ki deluje na zgornji meji inteligence za nalogo. Takšen stroj mora po definiciji pravilno identificirati vzrok in posledico – in torej tudi sklepati o vzročnih razmerjih. Moji papirji natančno raziščite, kako.

Posledice tega so globoke. Če se stroj nauči "jaz sem povzročil, da se je to zgodilo", potem mora zgraditi koncepta "jaz" (identiteta zase) in "to".

Sposobnosti sklepanja o nameri, učenja vzroka in posledice ter konstruiranja abstraktnih identitet so vse povezane. Stroj, ki doseže zgornjo mejo inteligence za nalogo, mora pokazati vse te sposobnosti.

Ta stroj ne ustvari samo identitete zase, ampak za vsak vidik vsakega predmeta, ki pomaga ali ovira njegovo sposobnost dokončanja naloge. Potem lahko uporablja svoje lastne nastavitve kot izhodišče za napovedovanje kaj lahko storijo drugi. To je podobno temu, kako ljudje ponavadi pripisujejo namere nečloveškim živalim.

Torej, kaj to pomeni za AI?

Seveda je človeški um veliko več kot preprost program, ki se uporablja za izvajanje eksperimentov v mojih raziskavah. Moje delo zagotavlja matematični opis možne vzročne poti do ustvarjanja stroja, ki se nedvomno zaveda samega sebe. Vendar specifike inženiringa take stvari še zdaleč niso rešene.

Na primer, namen, podoben človeku, bi zahteval izkušnje in občutke, podobne človeku, kar je težko oblikovati. Poleg tega ne moremo enostavno preizkusiti celotnega bogastva človeške zavesti. Zavest je širok in dvoumen koncept, ki zajema – vendar ga je treba razlikovati od – ožjih trditev zgoraj.

Podal sem mehanično razlago vidiki zavesti – vendar to samo po sebi ne zajame celotnega bogastva zavesti, kot jo ljudje doživljajo. To je šele začetek in prihodnje raziskave bodo morale razširiti te argumente.

Ta članek je ponovno objavljen Pogovor pod licenco Creative Commons. Preberi Originalni članek.

Kreditno slike: Deepmind on Unsplash