Kot otrok lahko ta umetna inteligenca, ki jo navdihnejo možgani, razloži svoje razmišljanje

Kot otrok lahko ta umetna inteligenca, ki jo navdihnejo možgani, razloži svoje razmišljanje

Časovni žig: 22. februar 2024 4
Like a Child, This Brain-Inspired AI Can Explain Its Reasoning PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Otroci so naravoslovci. Opazujejo svet, postavljajo hipoteze in jih preverjajo. Sčasoma se naučijo razložiti svoje (včasih prisrčno smešno) razmišljanje.

AI, ne toliko. Nobenega dvoma ni, da globoko učenje – vrsta strojnega učenja, ki ohlapno temelji na možganih – dramatično spreminja tehnologijo. Od napovedovanja ekstremnih vremenskih vzorcev do oblikovanja novih zdravil ali diagnosticiranja smrtonosnih vrst raka, je AI vse bolj vključena v meje znanosti.

Toda globoko učenje ima veliko pomanjkljivost: algoritmi ne morejo upravičiti svojih odgovorov. Ta motnost, ki se pogosto imenuje problem "črne skrinjice", ovira njihovo uporabo v situacijah z visokim tveganjem, na primer v medicini. Bolniki ob diagnozi bolezni, ki jim spremeni življenje, želijo razlago. Zaenkrat algoritmi, ki temeljijo na globokem učenju – tudi če imajo visoko diagnostično natančnost – ne morejo zagotoviti teh informacij.

Da bi odprli črno skrinjico, je ekipa iz Southwestern Medical Center Univerze v Teksasu za navdih izkoristila človeški um. notri študija in Računalniška znanost o naravi, so združili načela študije možganskih omrežij z bolj tradicionalnim pristopom AI, ki temelji na razložljivih gradnikih.

Nastala umetna inteligenca deluje nekoliko kot otrok. Zgošča različne vrste informacij v "vozlišča". Vsako vozlišče je nato prepisano v smernice za kodiranje, ki jih ljudje lahko berejo – CliffsNotes za programerje, ki v preprosti angleščini pojasnjujejo zaključke algoritma o vzorcih, ki jih je našel v podatkih. Ustvari lahko tudi popolnoma izvršljivo programsko kodo, ki jo lahko preizkusite.

Umetna inteligenca, imenovana "globoka destilacija", deluje kot znanstvenik, ko se sooči z različnimi nalogami, kot so težke matematične težave in prepoznavanje slik. Z brskanjem po podatkih jih umetna inteligenca razdeli v algoritme po korakih, ki lahko prekašajo tiste, ki jih je oblikoval človek.

"Globoka destilacija lahko odkrije splošne principe, ki dopolnjujejo človeško strokovno znanje," Napisal ekipa v svojem časopisu.

Tanek papir

AI se včasih zmoti v resničnem svetu. Vzemite robotaxis. Lansko leto so nekateri večkrat obtičali v soseski San Francisca – domačini so bili nadloga, a so se kljub temu zasmejali. Huje so samovozeča vozila ovirala promet in reševalna vozila ter v enem primeru hudo poškodovala pešca.

Tudi v zdravstvu in znanstvenih raziskavah so lahko nevarnosti velike.

Ko gre za ta področja visokega tveganja, algoritmi "zahtevajo nizko toleranco za napake", dr. Joseph Bakarji z ameriške univerze v Bejrutu, ki ni bil vključen v študijo Napisal v spremnem delu o delu.

Ovira za večino algoritmov globokega učenja je njihova nerazložljivost. Strukturirani so kot večplastna omrežja. S sprejemanjem na tone neobdelanih informacij in prejemanjem neštetih krogov povratnih informacij omrežje prilagodi svoje povezave, da na koncu ustvari natančne odgovore.

Ta proces je v središču globokega učenja. Vendar ima težave, če ni dovolj podatkov ali če je naloga preveč zapletena.

Leta 2021 je ekipa razvil AI ki je ubral drugačen pristop. Nevronska mreža, imenovana "simbolično" sklepanje, kodira eksplicitna pravila in izkušnje z opazovanjem podatkov.

V primerjavi z globokim učenjem si ljudje lažje razlagajo simbolične modele. Predstavljajte si AI kot niz kock Lego, od katerih vsaka predstavlja predmet ali koncept. Lahko se ujemajo na ustvarjalne načine, vendar povezave sledijo jasnim pravilom.

Umetna inteligenca je sama po sebi močna, a krhka. Pri iskanju gradnikov se močno opira na predhodno znanje. Ko se sooči z novo situacijo brez predhodnih izkušenj, ne more razmišljati iz okvirjev – in se zlomi.

Tu nastopi nevroznanost. Ekipo so navdihnili konektomi, ki so modeli, kako različne možganske regije delujejo skupaj. Z združitvijo te povezljivosti s simboličnim razmišljanjem so ustvarili AI, ki ima trdne, razložljive temelje, vendar se lahko tudi prožno prilagaja, ko se sooča z novimi težavami.

V več testih je »nevrokognitivni« model premagal druge globoke nevronske mreže pri nalogah, ki so zahtevale sklepanje.

Toda ali ima smisel podatke in inženirske algoritme, da bi to razložil?

Človeški dotik

Eden najtežjih delov znanstvenega odkritja je opazovanje šumnih podatkov in destilacija zaključka. Ta proces vodi do novih materialov in zdravil, globljega razumevanja biologije in vpogledov v naš fizični svet. Pogosto je to ponavljajoč se proces, ki traja leta.

Umetna inteligenca bo morda lahko pospešila stvari in potencialno odkrila vzorce, ki so ušli človeški glavi. Na primer, globoko učenje je bilo še posebej uporabno pri napovedovanju beljakovinskih struktur, vendar je njegovo utemeljitev za napovedovanje teh struktur težko razumeti.

"Ali lahko oblikujemo učne algoritme, ki destilirajo opazovanja v preprosta, celovita pravila, kot običajno počnejo ljudje?" je zapisal Bakarji.

Nova študija je vzela obstoječi nevrokognitivni model ekipe in ji dala dodaten talent: sposobnost pisanja kode.

Umetna inteligenca, imenovana globoka destilacija, združuje podobne koncepte, pri čemer vsak umetni nevron kodira določen koncept in njegovo povezavo z drugimi. Na primer, en nevron se lahko nauči koncepta mačke in ve, da je drugačen od psa. Druga vrsta obvladuje spremenljivost, ko jo izzove nova slika - recimo tiger -, da ugotovi, ali je bolj podobna mački ali psu.

Ti umetni nevroni se nato zložijo v hierarhijo. Z vsako plastjo sistem vedno bolj razlikuje koncepte in na koncu najde rešitev.

Namesto da bi umetna inteligenca obdelala čim več podatkov, usposabljanje poteka korak za korakom – skoraj kot bi učili malčka. To omogoča ovrednotenje razmišljanja AI, ko postopoma rešuje nove probleme.

V primerjavi s standardnim usposabljanjem nevronske mreže je samoumevni vidik vgrajen v AI, je pojasnil Bakarji.

V testu je ekipa izzvala umetno inteligenco s klasično videoigro – Conway's Game of Life. Igra, ki je bila prvič razvita v sedemdesetih letih prejšnjega stoletja, govori o gojenju digitalne celice v različne vzorce glede na določen niz pravil (poskusite sami tukaj). Umetna inteligenca, ki je bila usposobljena na simuliranih podatkih o igranju iger, je lahko napovedala možne rezultate in preoblikovala svoje sklepanje v človeku berljive smernice ali računalniško programsko kodo.

Umetna inteligenca je dobro delovala tudi pri številnih drugih nalogah, kot je zaznavanje črt na slikah in reševanje težkih matematičnih problemov. V nekaterih primerih je ustvarila ustvarjalno računalniško kodo, ki je prekašala uveljavljene metode – in je lahko pojasnila, zakaj.

Globoka destilacija bi lahko bila spodbuda za fizične in biološke znanosti, kjer preprosti deli povzročijo izredno zapletene sisteme. Ena možna uporaba metode je kot soznanstvenik za raziskovalce, ki dekodirajo funkcije DNK. Velik del naše DNK je »temna snov«, pri čemer ne vemo, kakšno – če sploh – vlogo ima. Razložljiva umetna inteligenca bi lahko porušila genetska zaporedja in pomagala genetikom prepoznati redke mutacije, ki povzročajo uničujoče dedne bolezni.

Poleg raziskav je ekipa navdušena nad možnostjo močnejšega sodelovanja AI-človeka.

"Nevrosimbolni pristopi bi potencialno omogočili več človeških podobnih zmožnosti strojnega učenja,« je zapisala ekipa.

Bakarji se strinja. Nova študija presega tehnični napredek in se dotika etičnih in družbenih izzivov, s katerimi se soočamo danes. Razložljivost bi lahko delovala kot zaščitna ograja in pomagala sistemom AI, da se med usposabljanjem sinhronizirajo s človeškimi vrednotami. Za aplikacije z visokim tveganjem, kot je zdravstvena oskrba, bi lahko zgradil zaupanje.

Algoritem za zdaj najbolje deluje pri reševanju problemov, ki jih je mogoče razčleniti na koncepte. Ne more obravnavati neprekinjenih podatkov, kot so video tokovi.

To je naslednji korak v globoki destilaciji, je zapisal Bakarji. To "bi odprlo nove možnosti v znanstvenem računalništvu in teoretičnih raziskavah."

Kreditno slike: 7AV 7AV / Unsplash 

Časovni žig:

Več od Središče singularnosti