Pot mașinile să fie conștiente de sine? O nouă cercetare explică cum s-ar putea întâmpla acest lucru

Republicat de Platon

Urmaritori: 0

Pentru a construi o mașină, trebuie să știți care sunt părțile sale și cum se potrivesc. Pentru a înțelege mașina, trebuie să știți ce face fiecare parte și cum contribuie ea la funcționarea sa. Cu alte cuvinte, ar trebui să fie capabil să explice „mecanica” modului în care funcționează.

Potrivit unui abordare filosofică numit mecanism, oamenii sunt, fără îndoială, un tip de mașină – iar capacitatea noastră de a gândi, vorbi și înțelege lumea este rezultatul unui proces mecanic pe care nu îl înțelegem.

Pentru a ne înțelege mai bine, putem încerca să construim mașini care să ne imită abilitățile. Făcând acest lucru, am avea o înțelegere mecanică a acelor mașini. Și cu cât mașina prezintă mai mult comportamentul nostru, cu atât am fi mai aproape de a avea o explicație mecanică a propriilor noastre minți.

Acesta este ceea ce face AI interesant din punct de vedere filozofic. Modele avansate precum GPT-4 iar Midjourney poate imita acum conversația umană, poate trece examene profesionale și poate genera imagini frumoase cu doar câteva cuvinte.

Cu toate acestea, pentru tot progresul, întrebările rămân fără răspuns. Cum putem face ceva conștient de sine sau conștient de faptul că alții sunt conștienți? Ce este identitatea? Ce este sensul?

Deși există multe descrieri filozofice concurente ale acestor lucruri, toate au rezistat explicațiilor mecaniciste.

Într-o succesiune de lucrări acceptat pentru A 16-a conferință anuală de inteligență generală artificială la Stockholm, pun o explicație mecanicistă pentru aceste fenomene. Ei explică cum putem construi o mașină care este conștientă de sine, de ceilalți, de ea însăși așa cum este percepută de alții și așa mai departe.

Inteligență și intenție

Multe din ceea ce numim inteligență se rezumă la a face predicții despre lume cu informații incomplete. Cu cât o mașină are nevoie de mai puține informații pentru a face predicții precise, cu atât este mai „inteligentă”.

Pentru orice sarcină dată, există o limită la cât de multă inteligență este de fapt utilă. De exemplu, majoritatea adulților sunt suficient de deștepți pentru a învăța să conducă o mașină, dar mai multă inteligență probabil nu îi va face șoferi mai buni.

Lucrările mele descriu limita superioară a inteligenței pentru o anumită sarcină și ceea ce este necesar pentru a construi o mașină care să o îndeplinească.

Am numit ideea Razorul lui Bennett, care în termeni non-tehnici este că „explicațiile nu ar trebui să fie mai specifice decât este necesar”. Aceasta este diferită de interpretarea populară a Razorului lui Ockham (și descrieri matematice ale acestora), care este o preferință pentru explicații mai simple.

Diferența este subtilă, dar semnificativă. Într-un experiment comparând câte date au nevoie sistemele AI pentru a învăța matematică simplă, IA care a preferat explicații mai puțin specifice a depășit-o pe cea care preferă explicații mai simple cu până la 500 la sută.

Explorarea implicațiilor acestei descoperiri m-a condus la o explicație mecanicistă a sensului - ceva numit „pragmatica griceană.” Acesta este un concept în filosofia limbajului care privește modul în care sensul este legat de intenție.

Pentru a supraviețui, un animal trebuie să prezică modul în care mediul său, inclusiv alte animale, va acționa și va reacționa. Nu ai ezita să lași o mașină nesupravegheată lângă un câine, dar nu același lucru se poate spune despre prânzul tău cu friptură.

A fi inteligent într-o comunitate înseamnă a fi capabil să deducă intenția celorlalți, care decurge din sentimentele și preferințele lor. Dacă o mașină ar trebui să atingă limita superioară a inteligenței pentru o sarcină care depinde de interacțiunile cu un om, atunci ar trebui, de asemenea, să deducă corect intenția.

Și dacă o mașină poate atribui o intenție evenimentelor și experiențelor care i se întâmplă, aceasta ridică problema identității și ce înseamnă să fii conștient de sine și de alții.

Cauzalitate și identitate

Îl văd pe John purtând o haină de ploaie când plouă. Dacă îl forțez pe John să poarte o haină de ploaie într-o zi însorită, asta va aduce ploaie?

Desigur că nu! Pentru un om, acest lucru este evident. Dar subtilitățile cauzei și efectului sunt mai dificil de învățat pe o mașină (cititorii interesați pot verifica Cartea De ce de Judea Pearl și Dana Mackenzie).

Pentru a raționa aceste lucruri, o mașină trebuie să învețe că „eu am provocat să se întâmple” este diferit de „am văzut că se întâmplă”. De obicei, am face program această înțelegere în ea.

Cu toate acestea, munca mea explică cum putem construi o mașină care funcționează la limita superioară a inteligenței pentru o sarcină. O astfel de mașină trebuie, prin definiție, să identifice corect cauza și efectul - și, prin urmare, să deducă și relații cauzale. Hârtiile mele explorează exact cum.

Implicațiile acestui lucru sunt profunde. Dacă o mașină învață „eu am provocat să se întâmple”, atunci trebuie să construiască concepte de „eu” (o identitate pentru sine) și „ea”.

Abilitățile de a deduce intenția, de a învăța cauza și efectul și de a construi identități abstracte sunt toate legate. O mașină care atinge limita superioară a inteligenței pentru o sarcină trebuie să prezinte toate aceste abilități.

Această mașină nu construiește doar o identitate pentru sine, ci pentru fiecare aspect al fiecărui obiect care îi ajută sau îi împiedică capacitatea de a finaliza sarcina. Se poate atunci folosește propriile preferințe ca o linia de bază pentru a prezice ce pot face altii. Acest lucru este similar cu cum oamenii tind să atribuie intenție la animale non-umane.

Deci, ce înseamnă pentru AI?

Desigur, mintea umană este mult mai mult decât un simplu program folosit pentru a efectua experimente în cercetarea mea. Lucrarea mea oferă o descriere matematică a unei posibile căi cauzale către crearea unei mașini care, probabil, este conștientă de sine. Cu toate acestea, specificul ingineriei unui astfel de lucru este departe de a fi rezolvat.

De exemplu, intenția umană ar necesita experiențe și sentimente asemănătoare omului, ceea ce este un lucru dificil de proiectat. În plus, nu putem testa cu ușurință bogăția deplină a conștiinței umane. Constiinta este un concept larg și ambiguu care cuprinde – dar ar trebui să fie distins de – afirmațiile mai restrânse de mai sus.

Am oferit o explicație mecanică a aspecte a conștiinței — dar numai aceasta nu surprinde întreaga bogăție a conștiinței așa cum o experimentează oamenii. Acesta este doar începutul, iar cercetările viitoare vor trebui să extindă aceste argumente.

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste Articol original.

Credit imagine: DeepMind on Unsplash