Kako bi preučevanje čutenja živali lahko pomagalo rešiti etično uganko čuteče umetne inteligence

umetna inteligenca napredovala tako hitro, da so celo nekateri znanstveniki, ki so odgovorni za številne ključne dosežke, zaskrbljeni zaradi hitrosti sprememb. V začetku tega leta je več kot 300 strokovnjakov, ki delajo na področju umetne inteligence, in drugih zadevnih javnih osebnosti izdalo odkrito opozorilo o nevarnosti, ki jo predstavlja tehnologija, primerjajoč tveganje s tveganjem pandemije ali jedrske vojne.

Tik pod površjem teh skrbi se skriva vprašanje strojne zavesti. Tudi če v današnjem AI-ju ni »nikogar doma«, se nekateri raziskovalci sprašujejo, ali bo morda nekega dne pokazal kanček zavesti - ali več. Če se to zgodi, bo to sprožilo vrsto moralnih in etičnih pomislekov, pravi Jonathan Birch, profesorica filozofije na London School of Economics and Political Science.

Ko tehnologija umetne inteligence napreduje, postajajo etična vprašanja, ki jih sprožajo interakcije med človekom in umetno inteligenco, vedno bolj nujna. "Ne vemo, ali naj jih vključimo v naš moralni krog ali jih izključimo," je dejal Birch. »Ne vemo, kakšne bodo posledice. In to jemljem resno kot resnično tveganje, o katerem bi se morali začeti pogovarjati. Ne res, ker mislim ChatGPT je v tej kategoriji, ampak zato, ker ne vem, kaj se bo zgodilo v naslednjih 10 ali 20 letih.«

Medtem pravi, da bi bilo dobro, če bi preučevali druge nečloveške ume – na primer živalske. Birch vodi univerzo Temelji projekta Animal Sentience, prizadevanje, ki ga financira Evropska unija in katerega cilj je "poskušati doseči določen napredek pri velikih vprašanjih čutenja živali", kot je dejal Birch. »Kako lahko razvijemo boljše metode za znanstveno preučevanje zavestnih izkušenj živali? In kako lahko nastajajočo znanost o čutenju živali uporabimo za delo, da oblikujemo boljše politike, zakone in načine skrbi za živali?«

Naš intervju je bil opravljen prek Zooma in po e-pošti ter je bil urejen zaradi dolžine in jasnosti.

(Ta članek je bil prvotno objavljen na Undark. Preberi Originalni članek.)

Temno: V teku je razprava o tem, ali je umetna inteligenca lahko zavestna ali čuteča. Zdi se, da obstaja vzporedno vprašanje, ali lahko umetna inteligenca zdi se biti čuteč. Zakaj je to razlikovanje tako pomembno?

Jonathan Birch: Mislim, da je to velik problem in nekaj, kar bi nas moralo pravzaprav vzbujati strah. Celo zdaj so sistemi umetne inteligence precej sposobni prepričati svoje uporabnike o svoji razumnosti. To smo videli lani v primeru Blakea Lemoina, Googlovega inženirja, ki je postal prepričan da je sistem, na katerem je delal, čuteč – in to samo takrat, ko je izhod zgolj besedilo in ko je uporabnik visoko kvalificiran strokovnjak za umetno inteligenco.

Predstavljajte si torej situacijo, v kateri lahko AI nadzoruje človeški obraz in človeški glas, uporabnik pa je neizkušen. Mislim, da je umetna inteligenca že v položaju, ko lahko precej enostavno prepriča veliko število ljudi, da je čuteče bitje. In to je velika težava, ker mislim, da bomo začeli videti ljudi, ki se zavzemajo za blaginjo umetne inteligence, pravice AI, in podobne stvari.

In ne bomo vedeli, kaj storiti glede tega. Kajti tisto, kar bi radi, je res močan argument, ki dokazuje, da so sistemi umetne inteligence, o katerih govorijo, ne pri zavesti. In tega nimamo. Naše teoretično razumevanje zavesti ni dovolj zrelo, da bi nam omogočilo samozavestno razglasiti njeno odsotnost.

UD: Robota ali sistem umetne inteligence bi lahko programirali, da bi rekel nekaj takega: "Nehaj s tem, prizadeneš me." Toda preprosta deklaracija te vrste ni dovolj, da bi služila kot lakmusov test za občutljivost, kajne?

JB: Imate lahko zelo preproste sisteme [kot so tisti], ki so jih razvili na Imperial College London, da bi zdravnikom pomagali pri njihovem usposabljanju posnemajo izraze človeške bolečine. In prav nobenega razloga ni, da bi mislili, da so ti sistemi čuteči. Pravzaprav ne čutijo bolečine; vse, kar počnejo, je preslikava vhodov v izhode na zelo preprost način. Toda izrazi bolečine, ki jih proizvajajo, so precej resnični.

Mislim, da smo v nekoliko podobnem položaju s klepetalnimi roboti, kot je ChatGPT – da so usposobljeni za več kot bilijon besed podatkov o usposabljanju, da posnemajo vzorce odzivanja človeka, da se odzovejo na načine, kot bi se človek odzval.

Torej, seveda, če mu daste poziv, na katerega bi se človek odzval z izrazom bolečine, bo ta odziv lahko spretno posnemal.

Ampak mislim, da ko vemo, da je situacija takšna – ko vemo, da imamo opravka s spretno mimiko – ni nobenega močnega razloga, da bi mislili, da je za tem dejanska izkušnja bolečine.

UD: Predvidevam, da je ta entiteta, na kateri se urijo študentje medicine, nekaj podobnega robotu?

JB: Tako je, ja. Torej imajo lutki podobno stvar s človeškim obrazom in zdravnik lahko pritisne roko in dobi izraz, ki posnema izraze, ki bi jih ljudje dali ob različnih stopnjah pritiska. Pomaga zdravnikom, da se naučijo, kako pravilno izvajati tehnike na pacientih, ne da bi povzročali preveč bolečine.

In zelo zlahka nas prevzamejo, takoj ko ima nekaj človeški obraz in daje izraze, kot bi jih imel človek, tudi če za tem sploh ni nobene prave inteligence.

Torej, če si predstavljate, da je to združeno z vrsto umetne inteligence, kot jo vidimo v ChatGPT, imate nekakšno mimikrijo, ki je resnično zelo prepričljiva in bo prepričala veliko ljudi.

UD: Sentience se zdi kot nekaj, kar tako rekoč poznamo od znotraj. Razumemo svojo lastno čutnost – toda kako bi preizkusili čutnost pri drugih, pa naj bo to umetna inteligenca ali katera koli druga entiteta poleg nas?

JB: Mislim, da smo v zelo močnem položaju z drugimi ljudmi, ki se lahko pogovarjajo z nami, ker imamo neverjetno bogato količino dokazov. In najboljša razlaga za to je, da imajo drugi ljudje zavestne izkušnje, tako kot mi. In tako lahko uporabimo to vrsto sklepanja, ki ga filozofi včasih imenujejo "sklepanje do najboljše razlage."

Mislim, da se lahko teme drugih živali lotimo na popolnoma enak način – da se druge živali ne pogovarjajo z nami, vendar kažejo vedenje, ki ga je zelo naravno razloženo s pripisovanjem stanj, kot je bolečina. Na primer, če vidite psa, kako liže svoje rane po poškodbi, neguje ta predel, se uči izogibati mestom, kjer obstaja nevarnost poškodbe, bi ta vzorec vedenja seveda razložili s postavitvijo stanja bolečine.

In mislim, da ko imamo opravka z drugimi živalmi, ki imajo živčni sistem precej podoben našemu in ki so se razvile tako kot mi, menim, da je takšno sklepanje povsem razumno.

UD: Kaj pa sistem AI?

JB: V primeru AI imamo velik problem. Najprej imamo problem, da substrat je drugačen. Pravzaprav ne vemo, ali je zavestna izkušnja občutljiva na substrat – ali mora imeti biološki substrat, se pravi živčni sistem, možgane? Ali pa je to nekaj, kar je mogoče doseči v popolnoma drugačnem materialu - substratu na osnovi silicija?

Obstaja pa tudi težava, ki sem jo poimenoval "problem igranja iger" – ko ima sistem dostop do trilijonov besed podatkov o usposabljanju in je bil usposobljen s ciljem posnemanja človeškega vedenja, bi lahko vrste vedenjskih vzorcev, ki jih proizvaja, razložiti z resnično zavestno izkušnjo. Ali pa bi jih lahko razložili samo s tem, da je bil postavljen cilj obnašanja, kot bi se človek v tej situaciji odzval.

Tako da res mislim, da smo v primeru umetne inteligence v težavah, saj je malo verjetno, da se bomo znašli v položaju, kjer je očitno najboljša razlaga za to, kar vidimo – da je umetna inteligenca zavestna. Vedno bodo obstajale verjetne alternativne razlage. In iz te vezi se je zelo težko rešiti.

UD: Kaj mislite, da bi lahko bila naša najboljša stava za razlikovanje med nečim, kar je dejansko zavestno, in entiteto, ki ima samo Videz občutka?

JB: Mislim, da je prva stopnja, da ga prepoznamo kot zelo globok in težak problem. Druga stopnja je poskusiti in se čim več naučiti iz primerov drugih živali. Mislim, da ko preučujemo živali, ki so nam precej blizu, v evolucijskem smislu, kot so psi in drugi sesalci, vedno nismo prepričani, ali je zavestna izkušnja morda odvisna od zelo specifičnih možganskih mehanizmov, ki so značilni za možgane sesalcev.

Da bi to presegli, si moramo ogledati kar se da široko paleto živali. Še posebej moramo razmišljati o nevretenčarjih, kot so hobotnice in žuželke, kjer je to potencialno še en neodvisno razvit primer zavestne izkušnje. Tako kot se je oko hobotnice razvilo popolnoma ločeno od naših lastnih oči – ima to fascinantno mešanico podobnosti in razlik – mislim, da bodo takšne tudi njene zavestne izkušnje: neodvisno razvite, podobne na nek način, zelo, zelo različne v drugi načini.

In s preučevanjem izkušenj nevretenčarjev, kot so hobotnice, se lahko začnemo dojemati, kaj so resnično globoke lastnosti, ki jih morajo imeti možgani, da podpirajo zavestne izkušnje, stvari, ki gredo globlje od tega, da imajo te specifične možganske strukture, tam pri sesalcih. Kakšne vrste računanja so potrebne? Kakšne vrste obdelave?

Potem – in to vidim kot dolgoročno strategijo – bi se morda lahko vrnili k primeru umetne inteligence in rekli, no, ali ima tiste posebne vrste računanja, ki jih najdemo pri zavestnih živalih, kot so sesalci in hobotnice?

UD: Ali verjamete, da bomo nekega dne ustvarili čutečo umetno inteligenco?

JB: Glede tega sem približno 50:50. Obstaja možnost, da je občutljivost odvisna od posebnih značilnosti bioloških možganov, in ni jasno, kako preveriti, ali je. Zato menim, da bo v AI vedno obstajala precejšnja negotovost. O tem sem bolj prepričan: Če lahko zavest načeloma doseči v računalniški programski opremi, bodo raziskovalci umetne inteligence našli način za to.

Kreditno slike: Cash Macanaya / Unsplash 

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Avtomobili/EV, Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• BlockOffsets. Posodobitev okoljskega offset lastništva. Dostopite tukaj.
• vir: https://singularityhub.com/2023/07/17/studying-animal-sentience-could-help-solve-the-ethical-puzzle-of-sentient-ai/