Kan maskiner vara självmedvetna? Ny forskning förklarar hur detta kunde hända

Återutgiven av Platon

anhängare: 0

För att bygga en maskin måste man veta vad dess delar är och hur de passar ihop. För att förstå maskinen behöver man veta vad varje del gör och hur den bidrar till dess funktion. Med andra ord bör man kunna förklara "mekaniken" i hur det fungerar.

Enligt en filosofiskt förhållningssätt kallas mekanism, människor är utan tvekan en typ av maskiner – och vår förmåga att tänka, tala och förstå världen är resultatet av en mekanisk process som vi inte förstår.

För att förstå oss själva bättre kan vi försöka bygga maskiner som efterliknar våra förmågor. Genom att göra det skulle vi ha en mekanistisk förståelse för dessa maskiner. Och ju mer av vårt beteende maskinen uppvisar, desto närmare kan vi vara att ha en mekanistisk förklaring av våra egna sinnen.

Det är detta som gör AI intressant ur en filosofisk synvinkel. Avancerade modeller som t.ex GPT-4 och Midjourney kan nu efterlikna mänskliga samtal, klara professionella prov och skapa vackra bilder med bara några få ord.

Men trots alla framsteg är frågorna fortfarande obesvarade. Hur kan vi göra något självmedvetet, eller medvetna om att andra är medvetna? Vad är identitet? Vad är mening?

Även om det finns många konkurrerande filosofiska beskrivningar av dessa saker, har de alla motstått mekanistisk förklaring.

I en sekvens av papper accepteras för 16:e årliga konferensen om artificiell allmän intelligens i Stockholm ställer jag upp en mekanistisk förklaring till dessa fenomen. De förklarar hur vi kan bygga en maskin som är medveten om sig själv, om andra, om sig själv som uppfattas av andra, och så vidare.

Intelligens och avsikt

Mycket av det vi kallar intelligens handlar om att göra förutsägelser om världen med ofullständig information. Ju mindre information en maskin behöver för att göra korrekta förutsägelser, desto mer "intelligent" är den.

För varje given uppgift finns det en gräns för hur mycket intelligens som faktiskt är användbar. Till exempel är de flesta vuxna smarta nog att lära sig köra bil, men mer intelligens kommer förmodligen inte att göra dem till bättre förare.

Mina papper beskriver den övre gränsen för intelligens för en given uppgift, och vad som krävs för att bygga en maskin som klarar den.

Jag döpte idén till Bennett's Razor, som i icke-tekniska termer är att "förklaringar inte bör vara mer specifika än nödvändigt." Detta skiljer sig från den populära tolkningen av Ockhams Razor (och matematiska beskrivningar därav), vilket är en preferens för enklare förklaringar.

Skillnaden är subtil, men betydande. I en experimentera När man jämförde hur mycket data AI-system behöver för att lära sig enkel matematik, överträffade den AI som föredrog mindre specifika förklaringar en som föredrog enklare förklaringar med så mycket som 500 procent.

Att utforska implikationerna av denna upptäckt ledde mig till en mekanistisk förklaring av betydelse - något som kallas "Grekisk pragmatik.” Detta är ett begrepp inom språkfilosofin som tittar på hur mening är relaterad till avsikt.

För att överleva måste ett djur förutsäga hur dess miljö, inklusive andra djur, kommer att agera och reagera. Du skulle inte tveka att lämna en bil obevakad nära en hund, men detsamma kan inte sägas om din rump steak lunch.

Att vara intelligent i en gemenskap innebär att kunna härleda andras avsikter, vilket härrör från deras känslor och preferenser. Om en maskin skulle uppnå den övre gränsen för intelligens för en uppgift som beror på interaktioner med en människa, då måste den också korrekt sluta sig till avsikt.

Och om en maskin kan tillskriva de händelser och upplevelser som drabbar den avsikt, väcker detta frågan om identitet och vad det innebär att vara medveten om sig själv och andra.

Kausalitet och identitet

Jag ser John ha på sig en regnjacka när det regnar. Om jag tvingar John att bära en regnjacka en solig dag, kommer det att ge regn?

Självklart inte! För en människa är detta uppenbart. Men finesser av orsak och verkan är svårare att lära en maskin (intresserade läsare kan kolla in Boken om varför av Judea Pearl och Dana Mackenzie).

För att resonera kring dessa saker måste en maskin lära sig att "jag orsakade det att hända" skiljer sig från "jag såg det hända." Vanligtvis skulle vi det program denna förståelse in i det.

Men mitt arbete förklarar hur vi kan bygga en maskin som presterar vid den övre gränsen för intelligens för en uppgift. En sådan maskin måste per definition korrekt identifiera orsak och verkan – och därför också sluta sig till orsakssamband. Mina papper utforska exakt hur.

Konsekvenserna av detta är djupgående. Om en maskin lär sig "jag orsakade det att hända", måste den konstruera begreppen "jag" (en identitet för sig själv) och "det".

Förmågan att sluta sig till uppsåt, att lära sig orsak och verkan och att konstruera abstrakta identiteter är alla sammanlänkade. En maskin som uppnår den övre gränsen för intelligens för en uppgift måste uppvisa alla dessa förmågor.

Denna maskin konstruerar inte bara en identitet för sig själv, utan för varje aspekt av varje objekt som hjälper eller hindrar dess förmåga att slutföra uppgiften. Det kan det då använda sina egna preferenser som en baslinje att förutsäga vad andra kan göra. Detta liknar hur människor tenderar att tillskriva uppsåt till icke-mänskliga djur.

Så vad betyder det för AI?

Naturligtvis är det mänskliga sinnet mycket mer än det enkla program som används för att utföra experiment i min forskning. Mitt arbete ger en matematisk beskrivning av en möjlig kausal väg till att skapa en maskin som utan tvekan är självmedveten. Men detaljerna för att konstruera en sådan sak är långt ifrån lösta.

Till exempel skulle mänskliga avsikter kräva mänskliga upplevelser och känslor, vilket är svårt att konstruera. Dessutom kan vi inte lätt testa för den fulla rikedomen av mänskligt medvetande. Medvetande är ett brett och tvetydigt begrepp som omfattar —men bör särskiljas från — de mer snäva påståendena ovan.

Jag har gett en mekanistisk förklaring av aspekter av medvetande – men detta ensamt fångar inte den fulla rikedomen av medvetande som människor upplever det. Detta är bara början, och framtida forskning kommer att behöva utvidga dessa argument.

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

Image Credit: Deepmind on Unsplash