Ethereumin luoja Vitalik Buterin: Jos tekoäly käynnistää meidät "Edes Mars ei ehkä ole turvallinen" - Pura salaus

Maanantaina Ethereumin luoja Vitalik Buterin pohti omaa näkemystään aiheesta "teknooptimismia”, Marc Andreessenin innoittamana, joka arvioi tekoälystä omassa Techno-Optimistin manifesti lokakuussa. Vaikka Buterin oli samaa mieltä Andreessenin positiivisista näkymistä, Buterin totesi myös tekoälyn kehittämisen tärkeyden ja teknologian tulevaisuuden suunnan.

Buterin myönsi tekoälyn eksistentiaalisen riskin, mukaan lukien ihmisrodun sukupuuton aiheuttamisen.

"Tämä on äärimmäinen väite: niin paljon haittaa kuin ilmastonmuutoksen pahin skenaario tai keinotekoinen pandemia tai ydinsota voi aiheuttaa, on monia sivilisaation saaria, jotka säilyisivät ehjinä poimimaan palaset", hän sanoi.

"Mutta superälykäs tekoäly, jos se päättää kääntyä meitä vastaan, voi hyvinkin jättää eloonjääneitä ja lopettaa ihmiskunnan lopullisesti", Buterin sanoi. "Edes Mars ei ehkä ole turvallinen."

Buterin viittasi vuoteen 2022 tutkimus AI Impacts, jonka mukaan 5–10 prosenttia osallistujista uskoo ihmisten kuolevan sukupuuttoon tekoälyn seurauksena tai ihmisten kyvyttömyydestä hallita tekoälyä. Hän sanoi, että turvallisuuteen keskittyvä avoimen lähdekoodin liike on ihanteellinen tekoälykehityksen johtamiseen suljettujen ja omistamien yritysten ja riskipääomarahastojen sijaan.

"Jos haluamme tulevaisuuden, joka on sekä superälykäs että "ihminen - sellaisen, jossa ihmiset eivät ole vain lemmikkejä, vaan itse asiassa säilyttävät merkityksellisen toimivallan ympäri maailmaa - silloin tuntuu, että tällainen on luonnollisin vaihtoehto", hän sanoi.

Buterin jatkoi, että tarvitaan aktiivista ihmisen aikomusta valita suuntansa ja lopputuloksensa. "Maksimoi voiton kaava ei saavu heille automaattisesti", hän sanoi.

Buterin sanoi rakastavansa teknologiaa, koska se laajentaa ihmisen potentiaalia ja viittaa innovaatioiden historiaan käsityökaluista älypuhelimiin.

"Uskon, että nämä asiat ovat erittäin hyviä ja että ihmiskunnan ulottuvuuden laajentaminen planeetoille ja tähdille on erittäin hyvä, koska uskon, että ihmiskunta on syvästi hyvä", Buterin sanoi.

Buterin sanoi, että vaikka hän uskoo transformatiivisen teknologian johtavan ihmiskunnalle valoisampaan tulevaisuuteen, hän torjuu ajatuksen, että maailman pitäisi pysyä sellaisena kuin se on tänään, vain vähemmän ahneutta ja enemmän julkista terveydenhuoltoa.

"On tietyntyyppisiä tekniikoita, jotka tekevät maailmasta paljon luotettavammin paremman kuin muut tekniikat", Buterin sanoi. "On tietyntyyppistä teknologiaa, joka voisi, jos se kehitetään, lieventää muun tyyppisen teknologian kielteisiä vaikutuksia."

Buterin varoitti digitaalisen autoritaarisuuden ja valvontateknologian lisääntymisestä niitä vastaan, jotka uhmaavat tai vastustavat hallitusta, jota hallitsee pieni teknokraattien salaliitto. Hän sanoi, että suurin osa ihmisistä näkisi mieluummin edistyneen tekoälyn viivästymisen kymmenellä vuosikymmenellä sen sijaan, että yksittäinen ryhmä monopolisoisi.

”Peruspelkoni on, että samanlaiset johtamistekniikat, joiden avulla OpenAI voi palvella yli sataa miljoonaa asiakasta 500 työntekijän kanssa, mahdollistavat myös 500 hengen poliittisen eliittien tai jopa 5 hengen hallituksen pitävän rautakärkkiä koko maa, hän sanoi.

Vaikka Buterin sanoi olevansa sympaattinen tehokkaaseen kiihdytysliikkeeseen (tunnetaan myös nimellä "e/acc"), hänellä on ristiriitaisia ​​tunteita sen innostuksesta sotilastekniikkaa kohtaan.

"Innostus nykyaikaisesta sotilasteknologiasta hyvän voimana näyttää vaativan uskoa, että hallitseva teknologinen voima on luotettavasti yksi hyvistä tyypeistä useimmissa konflikteissa nyt ja tulevaisuudessa", hän sanoi viitaten ajatukseen, että sotateknologia on hyvää. koska Amerikka rakentaa ja hallitsee sitä, ja Amerikka on hyvä.

"Edellyttääkö e/acc:n oleminen amerikkalaista maksimalistia, joka panostaa kaiken sekä hallituksen nykyiseen että tulevaan moraaliin ja maan tulevaan menestykseen?" hän sanoi.

Buterin varoitti antamasta "äärimmäistä ja läpinäkymätöntä valtaa" pienelle ihmisryhmälle toivoen, että he käyttävät sitä viisaasti, pitäen sen sijaan parempana "d/acc"-filosofiaa eli puolustusta, hajauttamista, demokratiaa ja erilaisuutta. Hän sanoi, että tämä ajattelutapa voisi mukautua tehokkaisiin altruisteihin, libertaareihin, pluralisteihin, lohkoketjun kannattajiin sekä aurinko- ja kuupunkeihin.

"Puolustusta suosiva maailma on parempi maailma monista syistä", Buterin sanoi. ”Ensinnäkin on turvallisuuden suora hyöty: vähemmän ihmisiä kuolee, vähemmän taloudellista arvoa tuhoutuu, vähemmän aikaa tuhlataan konflikteihin.

"Vähemmän arvostettua on kuitenkin se, että puolustusta suosiva maailma helpottaa terveempien, avoimempien ja enemmän vapautta kunnioittavien hallintomuotojen menestymistä", hän päätti.

Vaikka hän korosti tarvetta rakentaa ja kiihdyttää, Buterin sanoi, että yhteiskunnan tulisi säännöllisesti kysyä, mihin suuntaan olemme kiihtymässä. Buterin ehdotti, että 21-luku voi olla ihmiskunnalle "keskeinen vuosisata", joka voisi päättää ihmiskunnan kohtalosta vuosituhansien ajan.

"Nämä ovat haastavia ongelmia", Buterin sanoi. "Mutta odotan innolla, että pääsen seuraamaan ja osallistumaan lajimme suureen yhteiseen pyrkimykseen löytää vastauksia."

Muokannut Ryan Ozawa.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://decrypt.co/207692/ai-turns-mars-not-safe-ethereum-creator-vitalik-buterin