Ethereum-skaber Vitalik Buterin: Hvis AI tænder på os 'Selv Mars kan ikke være sikker' - Dekrypter

I mandags reflekterede Ethereum-skaberen Vitalik Buterin over sit eget bud på "tekno-optimisme,” inspireret af Marc Andreessen, der mente om AI i sit Techno-Optimist Manifest i oktober. Mens Buterin var enig i Andreessens positive udsigter, bemærkede Buterin også vigtigheden af, hvordan AI udvikles, og teknologiens fremtidige retning.

Buterin anerkendte den eksistentielle risiko for kunstig intelligens, herunder at forårsage udryddelse af menneskeheden.

"Dette er en ekstrem påstand: lige så meget skade, som det værst tænkelige scenarie med klimaændringer eller en kunstig pandemi eller en atomkrig kan forårsage, er der mange civilisationens øer, der ville forblive intakte for at samle stumperne op," sagde han. sagde.

"Men en superintelligent AI, hvis den beslutter sig for at vende sig mod os, kan meget vel ikke efterlade nogen overlevende og afslutte menneskeheden for altid," sagde Buterin. "Selv Mars er muligvis ikke sikker."

Buterin pegede på en 2022 undersøgelse af AI Impacts, som sagde, at mellem 5% og 10% af deltagerne mener, at mennesker står over for udryddelse fra henholdsvis AI eller menneskers manglende kontrol med AI. Han sagde, at en sikkerhedsfokuseret open source-bevægelse er ideel til at lede AI-udvikling frem for lukkede og proprietære selskaber og venturekapitalfonde.

"Hvis vi ønsker en fremtid, der er både superintelligent og "menneskelig - en, hvor mennesker ikke bare er kæledyr, men faktisk bevarer meningsfuld handlekraft over hele verden - så føles det som om sådan noget er den mest naturlige mulighed," sagde han.

Hvad der er brug for, fortsatte Buterin, er den aktive menneskelige intention om at vælge dens retning og resultat. "Formlen om 'maksimer profit' vil ikke nå frem til dem automatisk," sagde han.

Buterin sagde, at han elsker teknologi, fordi den udvider det menneskelige potentiale, og peger på historien om innovationer fra håndværktøj til smartphones.

"Jeg tror, ​​at disse ting er dybt gode, og at det er dybt godt at udvide menneskehedens rækkevidde endnu længere til planeterne og stjernerne, fordi jeg tror på, at menneskeheden er dybt god," sagde Buterin.

Buterin sagde, at selvom han tror på, at transformativ teknologi vil føre til en lysere fremtid for menneskeheden, afviser han ideen om, at verden skal forblive, som den er i dag, kun med mindre grådighed og mere offentlig sundhedspleje.

"Der er visse typer teknologi, der meget mere pålideligt gør verden bedre end andre typer teknologi," sagde Buterin. "Der er visse typer teknologi, der, hvis de udvikles, kan afbøde de negative virkninger af andre typer teknologi."

Buterin advarede om en stigning i digital autoritarisme og overvågningsteknologi, der bruges mod dem, der trodser eller er uenige mod regeringen, kontrolleret af en lille kabale af teknokrater. Han sagde, at de fleste mennesker hellere ville se meget avanceret kunstig intelligens blive forsinket med et årti i stedet for at blive monopoliseret af en enkelt gruppe.

"Min grundlæggende frygt er, at den samme slags ledelsesteknologier, som gør det muligt for OpenAI at betjene over hundrede millioner kunder med 500 ansatte, også vil tillade en politisk elite på 500 personer, eller endda en bestyrelse på 5 personer, at opretholde en jernnæve over en hele landet, sagde han.

Mens Buterin sagde, at han er sympatisk over for den effektive accelerationsbevægelse (også kendt som "e/acc"), har han blandede følelser om dens entusiasme for militær teknologi.

"Entusiasme for moderne militærteknologi som en kraft for det gode synes at kræve, at man tror på, at den dominerende teknologiske magt pålideligt vil være en af ​​de gode fyre i de fleste konflikter, nu og i fremtiden," sagde han og citerede ideen om, at militærteknologi er god. fordi det bliver bygget og kontrolleret af Amerika og Amerika er godt.

"Kræver det at være en e/acc at være en Amerika-maximalist, at satse alt på både regeringens nuværende og fremtidige moral og landets fremtidige succes?" han sagde.

Buterin advarede mod at give "ekstrem og uigennemsigtig magt" til en lille gruppe mennesker med håbet om, at de vil bruge den klogt, og foretrak i stedet en filosofi om "d/acc" - eller forsvar, decentralisering, demokrati og differentiering. Denne tankegang, sagde han, kunne tilpasse sig effektive altruister, libertarianere, pluralister, blockchain-fortalere og sol- og månepunkere.

"En forsvarsbegunstigende verden er en bedre verden af ​​mange grunde," sagde Buterin. "Først er selvfølgelig den direkte fordel ved sikkerhed: færre mennesker dør, mindre økonomisk værdi bliver ødelagt, mindre tid spildes på konflikter.

"Hvad der dog er mindre værdsat er, at en forsvarsbegunstigende verden gør det lettere for sundere, mere åbne og mere frihedsrespekterende styreformer at trives," konkluderede han.

Mens han understregede behovet for at bygge og accelerere, sagde Buterin, at samfundet regelmæssigt burde spørge, hvad vi accelererer hen imod. Buterin foreslog, at det 21. århundrede kan være "det afgørende århundrede" for menneskeheden, der kunne afgøre menneskehedens skæbne i årtusinder.

"Dette er udfordrende problemer," sagde Buterin. "Men jeg ser frem til at se og deltage i vores arts store kollektive indsats for at finde svarene."

Redigeret af Ryan Ozawa.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://decrypt.co/207692/ai-turns-mars-not-safe-ethereum-creator-vitalik-buterin