Endine OpenAI uurija: 50% tõenäosus, et tehisintellekt lõpeb katastroofiga

OpenAI endine võtmeteadlane usub, et on korralik võimalus, et tehisintellekt võtab inimkonna üle kontrolli ja hävitab selle.

"Ma arvan, et AI ülevõtmise tõenäosus on 10-20%, kui paljud [või] enamik inimesi on surnud," ütles Paul Christiano, kes juhtis keelemudelite koostamise meeskonda. OpenAI, öeldi Pangata podcast. "Ma võtan seda üsna tõsiselt."

Christiano, kes nüüd juhib Joondamise uurimiskeskus, mittetulundusühing, mille eesmärk on viia tehisintellektid ja masinõppesüsteemid vastavusse inimhuvidega, ütles, et on eriti mures selle pärast, mis juhtub siis, kui tehisintellekt saavutab inimese loogilise ja loomingulise võimekuse. "Üldiselt võib-olla räägime katastroofi tõenäosusest 50/50 varsti pärast seda, kui meil on inimtasandi süsteemid," ütles ta.

Christiano on heas seltskonnas. Viimasel ajal on palju teadlasi üle maailma kirjutas alla internetikirjale õhutades OpenAI-d ja teisi ettevõtteid, kes võistlevad kiiremate ja nutikamate tehisintellektide loomisel, vajutama arenduse pausi nuppu. Suured parukad Bill Gatesist kuni Elon Muskini on väljendanud muret selle üle, et tehisintellekt, kui seda ei kontrollita, kujutab endast ilmset eksistentsiaalset ohtu inimestele.

Ära ole kuri

Miks peaks tehisintellekt kurjaks muutuma? Põhimõtteliselt samal põhjusel, mida teeb inimene: koolitus ja elukogemus.

Nagu beebi, AI on koolitatud võttes vastu mägesid andmeid, teadmata tegelikult, mida sellega peale hakata. Ta õpib, püüdes saavutada teatud eesmärke juhuslike tegevustega ja nullib "õigete" tulemuste, nagu on määratletud koolitusega.

Siiani on masinõpe Internetis kogutud andmetesse sukeldudes võimaldanud tehisintellektil teha suuri hüppeid hästi struktureeritud ja sidusate vastuste ühendamisel inimeste päringutele. Samal ajal muutub masinõppe aluseks olev arvutitöötlus kiiremaks, paremaks ja spetsialiseeritumaks. Mõned teadlased usuvad, et kümne aasta jooksul võimaldab see töötlemisvõimsus koos tehisintellektiga nendel masinatel muutuda tundlikuks, nagu inimesed, ja omada enesetunnet.

Siis lähevad asjad karvaseks. Ja see on põhjus, miks paljud teadlased väidavad, et me peame välja mõtlema, kuidas kaitsepiirdeid kehtestada kohe, mitte hiljem. Kuni tehisintellekti käitumist jälgitakse, on see saab kontrollida.

Aga kui münt satub teisele poole, ütleb isegi OpenAI kaasasutaja, et asjad võivad muutuda väga väga halb.

Foomsday?

See teema on kõne all olnud juba aastaid. Üks kuulsamaid arutelusid sellel teemal toimus 11 aastat tagasi AI-uurija vahel Eliezer Yudkowsky ja majandusteadlane Robin Hanson. Need kaks arutasid võimalust jõuda "foom” – mis ilmselt tähistab „ülekaalulise meisterlikkuse kiiret algust” – hetk, mil tehisintellekt muutub inimestest eksponentsiaalselt targemaks ja suudab ennast parandada. (Mõne "foom" tuletis on vaieldav.)

"Eliezer ja tema akolüüdid usuvad, et tehisintellekt läheb vältimatult vahule ilma hoiatuseta, mis tähendab, et ühel päeval ehitate AGI [üldtehisintellekt] ja tundide või päevade pärast on see asi rekursiivselt taandunud jumalasarnaseks intelligentsuseks ja sööb siis maailma ära. . Kas see on realistlik?" Perry Metzger, AI kogukonnas tegutsev arvutiteadlane, säutsus hiljuti.

Metzger väitis, et isegi kui arvutisüsteemid jõuavad inimese intelligentsuse tasemele, on veel palju aega halbade tulemuste ärahoidmiseks. "Kas "foom" on loogiliselt võimalik? Võib olla. Ma ei ole selles veendunud," ütles ta. "Kas reaalne maailm on võimalik? Olen üsna kindel, et ei. Kas pikas perspektiivis sügavalt üliinimlik AI saab asjaks? Jah, aga mitte "vaht""

Teine silmapaistev tegelane Yann Le Cun tõstis samuti häält, väites, et see on "täiesti võimatu”, et inimkond kogeks tehisintellekti ülevõtmist. Loodame.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoAiStream. Web3 andmete luure. Täiustatud teadmised. Juurdepääs siia.
• Tuleviku rahapaja Adryenn Ashley. Juurdepääs siia.
• Allikas: https://decrypt.co/138310/openai-researcher-chance-ai-catastrophe