Kan maskiner være selvbevidste? Ny forskning forklarer, hvordan dette kunne ske

Genudgivet af Platon

Abonnenter: 0

For at bygge en maskine skal man vide, hvad dens dele er, og hvordan de passer sammen. For at forstå maskinen skal man vide, hvad hver del gør, og hvordan den bidrager til dens funktion. Med andre ord skal man kunne forklare "mekanikken" i, hvordan det fungerer.

Ifølge en filosofisk tilgang kaldet mekanisme, er mennesker uden tvivl en type maskine – og vores evne til at tænke, tale og forstå verden er resultatet af en mekanisk proces, vi ikke forstår.

For at forstå os selv bedre kan vi forsøge at bygge maskiner, der efterligner vores evner. Ved at gøre det ville vi have en mekanistisk forståelse af disse maskiner. Og jo mere af vores adfærd maskinen udviser, jo tættere er vi måske på at have en mekanistisk forklaring på vores eget sind.

Det er det, der gør AI interessant fra et filosofisk synspunkt. Avancerede modeller som f.eks GPT-4 og Midjourney kan nu efterligne menneskelig samtale, bestå professionelle eksamener og generere smukke billeder med kun få ord.

Alligevel forbliver spørgsmål ubesvarede på trods af alle fremskridt. Hvordan kan vi gøre noget selvbevidst, eller bevidst om, at andre er opmærksomme? Hvad er identitet? Hvad er mening?

Selvom der er mange konkurrerende filosofiske beskrivelser af disse ting, har de alle modstået mekanistisk forklaring.

I en rækkefølge af papirer accepteret til 16. årlige konference om kunstig generel intelligens i Stockholm opstiller jeg en mekanistisk forklaring på disse fænomener. De forklarer, hvordan vi kan bygge en maskine, der er bevidst om sig selv, andre, sig selv som opfattet af andre, og så videre.

Intelligens og hensigt

Meget af det, vi kalder intelligens, går ud på at lave forudsigelser om verden med ufuldstændig information. Jo mindre information en maskine har brug for for at lave præcise forudsigelser, jo mere "intelligent" er den.

For enhver given opgave er der en grænse for, hvor meget intelligens der faktisk er nyttig. For eksempel er de fleste voksne smarte nok til at lære at køre bil, men mere intelligens vil nok ikke gøre dem til bedre bilister.

Mine papirer beskriver den øvre grænse for intelligens for en given opgave, og hvad der kræves for at bygge en maskine, der klarer den.

Jeg kaldte ideen Bennett's Razor, som i ikke-tekniske termer er, at "forklaringer ikke bør være mere specifikke end nødvendigt." Dette er forskelligt fra den populære fortolkning af Ockham's Razor (og matematiske beskrivelser heraf), som foretrækker enklere forklaringer.

Forskellen er subtil, men betydelig. I en eksperiment sammenlignet hvor meget data AI-systemer har brug for for at lære simpel matematik, overgik den AI, der foretrak mindre specifikke forklaringer, en, der foretrak simplere forklaringer med så meget som 500 procent.

At udforske implikationerne af denne opdagelse førte mig til en mekanistisk forklaring af betydning - noget der hedder "Græsk pragmatik." Dette er et begreb i sprogfilosofien, der ser på, hvordan mening er relateret til hensigt.

For at overleve skal et dyr forudsige, hvordan dets miljø, herunder andre dyr, vil handle og reagere. Du ville ikke tøve med at efterlade en bil uden opsyn i nærheden af en hund, men det samme kan ikke siges om din rump steak frokost.

At være intelligent i et fællesskab betyder at være i stand til at udlede andres hensigt, som stammer fra deres følelser og præferencer. Hvis en maskine skulle opnå den øvre grænse for intelligens for en opgave, der afhænger af interaktioner med et menneske, så skulle den også udlede hensigten korrekt.

Og hvis en maskine kan tilskrive hensigter til de begivenheder og oplevelser, der rammer den, rejser det spørgsmålet om identitet, og hvad det vil sige at være opmærksom på sig selv og andre.

Kausalitet og identitet

Jeg ser John iført en regnfrakke, når det regner. Hvis jeg tvinger John til at bære en regnfrakke på en solskinsdag, vil det så bringe regn?

Selvfølgelig ikke! For et menneske er dette indlysende. Men finesserne af årsag og virkning er sværere at lære en maskine (interesserede læsere kan tjekke ud Bogen om hvorfor af Judea Pearl og Dana Mackenzie).

For at ræsonnere om disse ting skal en maskine lære, at "Jeg fik det til at ske" er forskelligt fra "Jeg så det ske." Typisk ville vi det program denne forståelse ind i det.

Men mit arbejde forklarer, hvordan vi kan bygge en maskine, der yder på den øvre grænse af intelligens til en opgave. En sådan maskine skal per definition korrekt identificere årsag og virkning - og derfor også udlede årsagssammenhænge. Mine papirer udforske præcis hvordan.

Konsekvenserne af dette er dybe. Hvis en maskine lærer "jeg fik det til at ske", så skal den konstruere begreber om "jeg" (en identitet for sig selv) og "det."

Evnerne til at udlede hensigter, at lære årsag og virkning og at konstruere abstrakte identiteter er alle forbundet. En maskine, der opnår den øvre grænse for intelligens til en opgave, skal udvise alle disse evner.

Denne maskine konstruerer ikke kun en identitet for sig selv, men for ethvert aspekt af ethvert objekt, der hjælper eller hæmmer dens evne til at fuldføre opgaven. Det kan den da bruge sine egne præferencer som en baseline at forudsige hvad andre kan gøre. Dette ligner hvordan mennesker har en tendens til at tilskrive hensigt til ikke-menneskelige dyr.

Så hvad betyder det for AI?

Selvfølgelig er det menneskelige sind langt mere end det simple program, der bruges til at udføre eksperimenter i min forskning. Mit arbejde giver en matematisk beskrivelse af en mulig kausal vej til at skabe en maskine, der uden tvivl er selvbevidst. Men detaljerne ved at lave sådan en ting er langt fra løst.

For eksempel ville menneskelignende hensigter kræve menneskelignende oplevelser og følelser, hvilket er en vanskelig ting at konstruere. Desuden kan vi ikke let teste for den fulde rigdom af menneskelig bevidsthed. Bevidsthed er et bredt og tvetydigt begreb, der omfatter - men bør skelnes fra - de mere snævre krav ovenfor.

Jeg har givet en mekanistisk forklaring på aspekter af bevidsthed – men dette alene fanger ikke den fulde rigdom af bevidsthed, som mennesker oplever den. Dette er kun begyndelsen, og fremtidig forskning bliver nødt til at udvide disse argumenter.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Billede Credit: DeepMind on Unsplash