Kan maskiner være selvbevisste? Ny forskning forklarer hvordan dette kan skje

Publisert av Platon

Følgere: 0

For å bygge en maskin må man vite hva dens deler er og hvordan de passer sammen. For å forstå maskinen må man vite hva hver del gjør og hvordan den bidrar til dens funksjon. Med andre ord bør man kunne forklare "mekanikken" av hvordan det fungerer.

Ifølge en filosofisk tilnærming kalt mekanisme, mennesker er uten tvil en type maskin – og vår evne til å tenke, snakke og forstå verden er et resultat av en mekanisk prosess vi ikke forstår.

For å forstå oss selv bedre kan vi prøve å bygge maskiner som etterligner våre evner. Ved å gjøre det ville vi ha en mekanistisk forståelse av disse maskinene. Og jo mer av oppførselen vår maskinen viser, jo nærmere kan vi være å ha en mekanistisk forklaring på vårt eget sinn.

Det er dette som gjør AI interessant fra et filosofisk synspunkt. Avanserte modeller som f.eks GPT-4 og Midjourney kan nå etterligne menneskelig samtale, bestå profesjonelle eksamener og generere vakre bilder med bare noen få ord.

Likevel, på tross av fremgangen, forblir spørsmål ubesvarte. Hvordan kan vi gjøre noe selvbevisst, eller bevisst at andre er bevisst? Hva er identitet? Hva er meningen?

Selv om det er mange konkurrerende filosofiske beskrivelser av disse tingene, har de alle motstått mekanistisk forklaring.

I en sekvens av papirer akseptert for 16. årlige konferanse om kunstig generell intelligens i Stockholm gir jeg en mekanistisk forklaring på disse fenomenene. De forklarer hvordan vi kan bygge en maskin som er klar over seg selv, andre, seg selv slik den oppfattes av andre, og så videre.

Intelligens og intensjon

Mye av det vi kaller intelligens koker ned til å lage spådommer om verden med ufullstendig informasjon. Jo mindre informasjon en maskin trenger for å gjøre nøyaktige spådommer, jo mer "intelligent" er den.

For en gitt oppgave er det en grense for hvor mye intelligens som faktisk er nyttig. For eksempel er de fleste voksne smarte nok til å lære å kjøre bil, men mer intelligens vil sannsynligvis ikke gjøre dem til bedre sjåfører.

Mine papirer beskriver den øvre grensen for intelligens for en gitt oppgave, og hva som kreves for å bygge en maskin som oppnår den.

Jeg kalte ideen Bennetts Razor, som i ikke-tekniske termer er at "forklaringer ikke bør være mer spesifikke enn nødvendig." Dette er forskjellig fra den populære tolkningen av Ockham's Razor (og matematiske beskrivelser av dette), som er en preferanse for enklere forklaringer.

Forskjellen er subtil, men betydelig. I en eksperiment Ved å sammenligne hvor mye data AI-systemer trenger for å lære enkel matematikk, overgikk AI-en som foretrakk mindre spesifikke forklaringer en som foretrakk enklere forklaringer med så mye som 500 prosent.

Å utforske implikasjonene av denne oppdagelsen førte meg til en mekanistisk forklaring av mening - noe som kalles "Gresk pragmatikk." Dette er et begrep i språkfilosofien som ser på hvordan mening er relatert til hensikt.

For å overleve må et dyr forutsi hvordan dets miljø, inkludert andre dyr, vil handle og reagere. Du ville ikke nøle med å la en bil stå uten tilsyn i nærheten av en hund, men det samme kan ikke sies om din rump steak lunsj.

Å være intelligent i et fellesskap betyr å kunne utlede hensikten til andre, som stammer fra deres følelser og preferanser. Hvis en maskin skulle oppnå den øvre grensen for intelligens for en oppgave som er avhengig av interaksjoner med et menneske, så må den også utlede hensikt på riktig måte.

Og hvis en maskin kan tilskrive hensikter til hendelsene og opplevelsene som inntreffer den, reiser dette spørsmålet om identitet og hva det vil si å være bevisst seg selv og andre.

Kausalitet og identitet

Jeg ser John ha på seg en regnfrakk når det regner. Hvis jeg tvinger John til å bruke en regnfrakk på en solrik dag, vil det gi regn?

Selvfølgelig ikke! For et menneske er dette åpenbart. Men finessene i årsak og virkning er vanskeligere å lære en maskin (interesserte lesere kan sjekke ut Boken om hvorfor av Judea Pearl og Dana Mackenzie).

For å resonnere om disse tingene, må en maskin lære at "jeg fikk det til å skje" er forskjellig fra "jeg så det skje." Vanligvis ville vi det program denne forståelsen inn i det.

Arbeidet mitt forklarer imidlertid hvordan vi kan bygge en maskin som yter på den øvre grensen av intelligens for en oppgave. En slik maskin må, per definisjon, korrekt identifisere årsak og virkning – og derfor også utlede årsakssammenhenger. Mine papirer utforske nøyaktig hvordan.

Implikasjonene av dette er dype. Hvis en maskin lærer «jeg forårsaket det til å skje», må den konstruere konsepter om «jeg» (en identitet for seg selv) og «det».

Evnen til å utlede hensikt, lære årsak og virkning og konstruere abstrakte identiteter henger sammen. En maskin som oppnår den øvre grensen for intelligens for en oppgave, må vise alle disse evnene.

Denne maskinen konstruerer ikke bare en identitet for seg selv, men for hvert aspekt av hvert objekt som hjelper eller hindrer dens evne til å fullføre oppgaven. Det kan det da bruke sine egne preferanser som en baseline å forutsi hva andre kan gjøre. Dette ligner på hvordan mennesker har en tendens til å tilskrive hensikt til ikke-menneskelige dyr.

Så hva betyr det for AI?

Selvfølgelig er menneskesinnet langt mer enn det enkle programmet som brukes til å utføre eksperimenter i min forskning. Arbeidet mitt gir en matematisk beskrivelse av en mulig kausal vei til å skape en maskin som uten tvil er selvbevisst. Imidlertid er detaljene ved å konstruere en slik ting langt fra løst.

For eksempel vil menneskelignende hensikt kreve menneskelignende opplevelser og følelser, noe som er vanskelig å konstruere. Videre kan vi ikke enkelt teste for den fulle rikdommen av menneskelig bevissthet. Bevissthet er et bredt og tvetydig begrep som omfatter – men bør skilles fra – de mer snevre påstandene ovenfor.

Jeg har gitt en mekanistisk forklaring på aspekter av bevissthet – men dette alene fanger ikke bevissthetens fulle rikdom slik mennesker opplever den. Dette er bare begynnelsen, og fremtidig forskning vil måtte utvide disse argumentene.

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Bilde Credit: DeepMind on Unsplash