AI musta kasti probleem: läbipaistva tuleviku väljakutsed ja lahendused

Tehisintellekt (AI) on viimasel ajal tekitanud furoori võimalusega muuta inimeste lähenemist ja lahendamist erinevatele ülesannetele ja keerulistele probleemidele. Alates tervishoiust kuni rahanduseni on AI ja sellega seotud masinõppe mudelid näidanud oma potentsiaali keeruliste protsesside sujuvamaks muutmisel, otsustusmudelite täiustamisel ja väärtuslike teadmiste avastamisel. 

Kuid vaatamata tehnoloogia tohutule potentsiaalile on püsiv "musta kasti" probleem endiselt selle kasutuselevõtul oluliseks väljakutseks, tekitades küsimusi nende keerukate süsteemide läbipaistvuse ja tõlgendatavuse kohta.

Lühidalt, musta kasti probleem tuleneb raskustest mõista, kuidas AI-süsteemid ja masinõppemudelid andmeid töötlevad ning ennustusi või otsuseid loovad. Need mudelid tuginevad sageli keerukatele algoritmidele, mis pole inimestele kergesti arusaadavad, mis põhjustab vastutuse ja usalduse puudumise.

Seega, kuna tehisintellekt integreerub üha enam meie elu erinevatesse aspektidesse, on selle probleemiga tegelemine ülioluline, et tagada selle võimsa tehnoloogia vastutustundlik ja eetiline kasutamine.

Must kast: ülevaade

"Musta kasti" metafoor tuleneb arusaamast, et tehisintellektisüsteemid ja masinõppemudelid toimivad viisil, mis on inimmõistmise eest varjatud, sarnaselt suletud, läbipaistmatu karbi sisuga. Need süsteemid on üles ehitatud keerukatele matemaatilistele mudelitele ja suuremõõtmelistele andmekogumitele, mis loovad keerukaid suhteid ja mustreid, mis juhivad nende otsustusprotsesse. Kuid need sisemised toimimised ei ole inimestele kergesti ligipääsetavad ega arusaadavad.

Praktikas on tehisintellekti musta kasti probleem raskusi tehisintellektisüsteemi ennustuste või otsuste taga olevate põhjenduste dešifreerimisel. See probleem on eriti levinud süvaõppemudelites, nagu närvivõrgud, kus mitu omavahel ühendatud sõlmede kihti töötlevad ja muudavad andmeid hierarhiliselt. Nende mudelite keerukus ja nende teostatavad mittelineaarsed teisendused muudavad nende väljundite põhjuste leidmise äärmiselt keeruliseks.

Tehisintellektil põhineva turundusanalüütika juhtpaneeli BR Groupi tegevjuht Nikita Brudnov ütles Cointelegraphile, et läbipaistvuse puudumine selles, kuidas tehisintellekti mudelid teatud otsuste ja ennustusteni jõuavad, võib olla paljudes kontekstides problemaatiline, nagu meditsiiniline diagnoos, finantsotsuste tegemine ja kohtumenetlused, mis mõjutavad oluliselt tehisintellekti jätkuvat kasutuselevõttu.

Ajakiri: Joe Lubin: tõde ETH asutajate jagunemise ja "Crypto Google" kohta

"Viimastel aastatel on palju tähelepanu pööratud tehisintellekti mudelite poolt tehtud otsuste tõlgendamise ja selgitamise tehnikate arendamisele, nagu funktsioonide tähtsuse skooride genereerimine, otsuste piiride visualiseerimine ja kontrafaktuaalsete hüpoteetiliste selgituste tuvastamine," ütles ta ja lisas:

"Kuid need tehnikad on alles lapsekingades ja pole garantiid, et need on kõigil juhtudel tõhusad."

Lisaks usub Brudnov, et edasise detsentraliseerimise korral võivad regulaatorid nõuda, et tehisintellektisüsteemide tehtud otsused oleksid läbipaistvamad ja vastutustundlikumad, et tagada nende eetiline kehtivus ja üldine õiglus. Ta soovitas ka, et tarbijad võivad kõhkleda tehisintellektil põhinevate toodete ja teenuste kasutamises, kui nad ei mõista nende toimimist ja otsustusprotsessi.

DFG – aktiivselt tehisintellektiga seotud tehnoloogiatesse investeeriva investeerimisühingu – asutaja James Wo usub, et musta kasti probleem ei mõjuta lähitulevikus kasutuselevõttu. Wo sõnul ei huvita enamik kasutajaid, kuidas olemasolevad AI-mudelid töötavad, ja nad saavad neist vähemalt praegu hea meelega kasulikku.

"Keskperspektiivis, kui nende platvormide uudsus kaob, on musta kasti metoodika suhtes kindlasti rohkem skeptilisust. Küsimused suurenevad ka siis, kui tehisintellekti kasutamine siseneb krüpto- ja Web3-sse, kus on rahalised panused ja tagajärjed, mida tuleb arvestada, ”möönis ta.

Mõju usaldusele ja läbipaistvusele

Üks valdkond, kus läbipaistvuse puudumine võib usaldust oluliselt mõjutada, on AI-põhine meditsiiniline diagnostika. Näiteks saavad AI mudelid analüüsida keerulisi meditsiinilisi andmeid tervishoius, et luua diagnoose või ravisoovitusi. Kui aga arstid ja patsiendid ei saa aru nende soovituste põhjustest, võivad nad seada kahtluse alla nende arusaamade usaldusväärsuse ja kehtivuse. See skeptitsism võib veelgi põhjustada kõhklusi tehisintellekti lahenduste kasutuselevõtul, mis võib takistada patsientide ravi ja personaliseeritud meditsiini arengut.

Finantsvaldkonnas saab AI-süsteeme kasutada krediidiskoori määramiseks, pettuste tuvastamiseks ja riskide hindamiseks. Kuid musta kasti probleem võib tekitada ebakindlust nende krediidiskooride õigluse ja täpsuse või pettusehoiatuste põhjuste osas, piirates tehnoloogia võimet tööstust digitaliseerida.

Krüptotööstus seisab silmitsi ka musta kasti probleemi tagajärgedega. Näiteks digitaalsete varade ja plokiahela tehnoloogia juured on detsentraliseerituses, avatuses ja kontrollitavuses. AI-süsteemid, millel puudub läbipaistvus ja tõlgendatavus, eraldavad selles ruumis kasutajate ootusi ja AI-põhiste lahenduste tegelikkust.

Regulatiivsed probleemid

Regulatiivsest vaatenurgast kujutab tehisintellekti musta kasti probleem ainulaadseid väljakutseid. Alustuseks võib tehisintellekti protsesside läbipaistmatus muuta regulaatoritel üha keerulisemaks hinnata nende süsteemide vastavust olemasolevatele reeglitele ja juhistele. Lisaks võib läbipaistvuse puudumine raskendada reguleerivate asutuste võimet töötada välja uusi raamistikke, mis suudavad tegeleda tehisintellekti rakendustest tulenevate riskide ja väljakutsetega.

Seadusandjatel võib olla raskusi tehisintellektisüsteemide õigluse, erapoolikuste ja andmete privaatsuse tavade ning nende võimaliku mõju hindamisega tarbijate õigustele ja turu stabiilsusele. Lisaks võib reguleerivatel asutustel ilma tehisintellektil juhitavate süsteemide otsustusprotsessidest selge arusaamata tekkida raskusi võimalike haavatavuste tuvastamisel ja riskide maandamiseks asjakohaste kaitsemeetmete tagamisel.

Üks märkimisväärne regulatiivne areng selle tehnoloogia osas on olnud Euroopa Liidu tehisintellekti seadus, mis liigub lähemale saada osa bloki põhikirjast pärast ajutise poliitilise kokkuleppe saavutamist 27. aprillil.

Tehisintellektiseaduse põhieesmärk on luua ELis tehisintellekti arendamiseks usaldusväärne ja vastutustundlik keskkond. Seadusandjad on kasutusele võtnud klassifikatsioonisüsteemi, mis liigitab erinevat tüüpi tehisintellekti riskide järgi: vastuvõetamatu, kõrge, piiratud ja minimaalne. See raamistik on loodud erinevate tehisintellekti musta kasti probleemiga seotud probleemide lahendamiseks, sealhulgas läbipaistvuse ja vastutusega seotud probleemid.

Suutmatus AI-süsteeme tõhusalt jälgida ja reguleerida on juba pingestanud suhteid erinevate tööstusharude ja reguleerivate asutuste vahel.

Eelmise kuu alguses oli populaarne AI vestlusbot ChatGPT Itaalias 29 päevaks keelatud, mis on peamiselt tingitud privaatsusprobleemidest, mille riigi andmekaitseagentuur tõstatas ELi andmekaitse üldmääruste (GDPR) kahtlustatavate rikkumiste tõttu. Platvormil lubati aga oma teenuseid jätkata 29. aprillil pärast seda, kui tegevjuht Sam Altman teatas, et tema ja tema meeskond on astunud konkreetseid samme, et järgida regulaatori nõudmisi, sealhulgas avalikustada andmetöötlustavad ja rakendada vanusepiiranguid. piiramismeetmed.

Tehisintellektisüsteemide ebapiisav reguleerimine võib õõnestada üldsuse usaldust tehisintellekti rakenduste vastu, kuna kasutajad tunnevad üha enam muret loomupäraste eelarvamuste, ebatäpsuste ja eetiliste tagajärgede pärast.

Musta kasti probleemi lahendamine

Tehisintellekti musta kasti probleemi tõhusaks lahendamiseks on oluline kasutada läbipaistvust, tõlgendatavust ja vastutust edendavate lähenemisviiside kombinatsiooni. Kaks sellist täiendavat strateegiat on seletatav AI (XAI) ja avatud lähtekoodiga mudelid.

XAI on uurimisvaldkond, mille eesmärk on ületada lõhe tehisintellektisüsteemide keerukuse ja inimese tõlgendatavuse vajaduse vahel. XAI keskendub selliste tehnikate ja algoritmide väljatöötamisele, mis suudavad anda tehisintellektist lähtuvatele otsustele inimlikult arusaadavaid selgitusi, pakkudes ülevaadet nende valikute põhjustest.

XAI-s sageli kasutatavad meetodid hõlmavad asendusmudeleid, funktsioonide tähtsuse analüüsi, tundlikkuse analüüsi ja kohalikke tõlgendatavaid mudeli-agnostilisi selgitusi. XAI rakendamine erinevates tööstusharudes võib aidata sidusrühmadel paremini mõista tehisintellektist lähtuvaid protsesse, suurendada usaldust tehnoloogia vastu ja hõlbustada regulatiivsete nõuete täitmist.

Koos XAI-ga võib avatud lähtekoodiga AI mudelite kasutuselevõtu edendamine olla tõhus strateegia musta kasti probleemi lahendamiseks. Avatud lähtekoodiga mudelid annavad täieliku juurdepääsu AI-süsteeme juhtivatele algoritmidele ja andmetele, võimaldades kasutajatel ja arendajatel nende aluseks olevaid protsesse kontrollida ja mõista.

See suurem läbipaistvus võib aidata luua usaldust ja edendada koostööd arendajate, teadlaste ja kasutajate vahel. Lisaks võib avatud lähtekoodiga lähenemisviis luua tugevamaid, vastutustundlikumaid ja tõhusamaid tehisintellektisüsteeme.

Musta kasti probleem krüptoruumis

Musta kasti probleemil on olulised tagajärjed krüptoruumi erinevatele aspektidele, sealhulgas kauplemisstrateegiatele, turuprognoosidele, turvameetmetele, tokeniseerimisele ja nutikatele lepingutele.

Kauplemisstrateegiate ja turuennustuste valdkonnas koguvad AI-põhised mudelid populaarsust, kuna investorid püüavad algoritmilist kauplemist ära kasutada. Kuid musta kasti probleem takistab kasutajatel arusaamist nende mudelite toimimisest, mistõttu on nende tõhususe ja võimalike riskide hindamine keeruline. Järelikult võib see läbipaistmatus põhjustada ka põhjendamatut usaldust tehisintellektipõhiste investeerimisotsuste vastu või panna investorid liigselt sõltuma automatiseeritud süsteemidest.

Tehisintellektil on oluline roll plokiahela ökosüsteemi turvameetmete tõhustamisel, tuvastades petturlikud tehingud ja kahtlased tegevused. Sellegipoolest muudab musta kasti probleem nende AI-põhiste turbelahenduste kontrollimise protsessi keerulisemaks. Läbipaistvuse puudumine otsuste tegemisel võib kahandada usaldust turvasüsteemide vastu, tekitades muret nende võime pärast kaitsta kasutaja varasid ja teavet.

Viimased: Konsensus 2023: ettevõtted näitavad üles huvi Web3 vastu, hoolimata USA regulatiivsetest väljakutsetest

Tokeniseerimine ja nutikad lepingud – plokiahela ökosüsteemi kaks olulist komponenti – on samuti tunnistajaks tehisintellekti suurenenud integratsioonile. Musta kasti probleem võib aga varjata AI-ga loodud žetoonide või nutika lepingu täitmise loogikat.

Kuna tehisintellekt teeb revolutsiooni erinevates tööstusharudes, muutub musta kasti probleemi lahendamine üha aktuaalsemaks. Teadlaste, arendajate, poliitikakujundajate ja valdkonna sidusrühmade vahelist koostööd soodustades saab välja töötada lahendusi, mis edendavad läbipaistvust, vastutust ja usaldust tehisintellektisüsteemide vastu. Seega on huvitav näha, kuidas see uudne tehnoloogiline paradigma edasi areneb.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoAiStream. Web3 andmete luure. Täiustatud teadmised. Juurdepääs siia.
• Tuleviku rahapaja Adryenn Ashley. Juurdepääs siia.
• Ostke ja müüge IPO-eelsete ettevõtete aktsiaid koos PREIPO®-ga. Juurdepääs siia.
• Allikas: https://cointelegraph.com/news/ai-s-black-box-problem-challenges-and-solutions-for-a-transparent-future