Ethereum-maker Vitalik Buterin: als AI zich tegen ons keert, is 'zelfs Mars misschien niet veilig' – ontsleutelen

Maandag dacht Ethereum-maker Vitalik Buterin na over zijn eigen kijk op “techno-optimisme”, geïnspireerd door Marc Andreessen, die in zijn opiniestuk over AI sprak Techno-optimistisch manifest in oktober. Hoewel Buterin het eens was met de positieve kijk van Andreessen, wees Buterin ook op het belang van de manier waarop AI wordt ontwikkeld en de toekomstige richting van de technologie.

Buterin erkende het existentiële risico van kunstmatige intelligentie, inclusief het uitsterven van het menselijk ras.

“Dit is een extreme bewering: hoeveel schade het worstcasescenario van klimaatverandering, of een kunstmatige pandemie of een nucleaire oorlog ook zou kunnen veroorzaken, er zijn veel beschavingseilanden die intact zouden blijven om de stukken op te rapen”, zei hij. gezegd.

“Maar als een superintelligente AI besluit zich tegen ons te keren, zal het heel goed mogelijk zijn dat er geen overlevenden achterblijven en de mensheid voorgoed zal eindigen”, aldus Buterin. “Zelfs Mars is misschien niet veilig.”

Buterin wees op een 2022 klanttevredenheid van AI Impacts, waarin werd gesteld dat tussen de 5% en 10% van de deelnemers gelooft dat mensen met uitsterven worden bedreigd door respectievelijk AI of het onvermogen van de mens om AI te beheersen. Hij zei dat een op veiligheid gerichte open source-beweging ideaal is voor het leiden van AI-ontwikkeling in plaats van gesloten en eigen bedrijven en durfkapitaalfondsen.

“Als we een toekomst willen die zowel superintelligent als ‘menselijk’ is – een waarin mensen niet alleen maar huisdieren zijn, maar feitelijk een betekenisvolle macht over de hele wereld behouden – dan voelt het alsof zoiets als dit de meest natuurlijke optie is”, zei hij.

Wat nodig is, vervolgde Buterin, is de actieve menselijke intentie om de richting en het resultaat ervan te kiezen. “De formule van ‘winstmaximaliseren’ zal hen niet automatisch bereiken,” zei hij.

Buterin zei dat hij van technologie houdt omdat het het menselijk potentieel vergroot, daarbij verwijzend naar de geschiedenis van innovaties, van handgereedschap tot smartphones.

“Ik geloof dat deze dingen diep goed zijn, en dat het nog verder uitbreiden van het bereik van de mensheid naar de planeten en sterren diep goed is, omdat ik geloof dat de mensheid diep goed is,” zei Buterin.

Buterin zei dat hoewel hij gelooft dat transformatieve technologie zal leiden tot een betere toekomst voor de mensheid, hij het idee verwerpt dat de wereld moet blijven zoals ze nu is, alleen met minder hebzucht en meer openbare gezondheidszorg.

“Er zijn bepaalde soorten technologie die de wereld veel betrouwbaarder maken dan andere soorten technologie,” zei Buterin. “Er zijn bepaalde soorten technologie die, als ze ontwikkeld worden, de negatieve gevolgen van andere soorten technologie kunnen verzachten.”

Buterin waarschuwde voor een toename van digitaal autoritarisme en surveillancetechnologie die wordt gebruikt tegen degenen die de regering trotseren of er een afwijkende mening over hebben, die wordt gecontroleerd door een kleine kliek van technocraten. Hij zei dat de meerderheid van de mensen liever ziet dat zeer geavanceerde AI tien jaar wordt uitgesteld dan dat deze door één enkele groep wordt gemonopoliseerd.

“Mijn fundamentele angst is dat dezelfde soorten managementtechnologieën die OpenAI in staat stellen om meer dan honderd miljoen klanten met 500 werknemers te bedienen, ook een politieke elite van 500 personen, of zelfs een bestuur van 5 personen, in staat zullen stellen de ijzeren vuist te handhaven over een periode van het hele land”, zei hij.

Hoewel Buterin zei dat hij sympathiek staat tegenover de effectieve versnellingsbeweging (ook bekend als ‘e/acc’), heeft hij gemengde gevoelens over het enthousiasme voor militaire technologie.

“Enthousiasme over moderne militaire technologie als een kracht ten goede lijkt te vereisen dat we geloven dat de dominante technologische macht betrouwbaar een van de goeden zal zijn in de meeste conflicten, nu en in de toekomst”, zei hij, daarbij verwijzend naar het idee dat militaire technologie goed is. omdat het wordt gebouwd en gecontroleerd door Amerika en Amerika is goed.

“Vereist het zijn om een ​​e/acc te zijn een Amerikaanse maximalist, die alles inzet op zowel de huidige als toekomstige moraal van de regering en het toekomstige succes van het land?” hij zei.

Buterin waarschuwde tegen het geven van ‘extreme en ondoorzichtige macht’ aan een kleine groep mensen in de hoop dat ze deze verstandig zullen gebruiken, en gaf in plaats daarvan de voorkeur aan een filosofie van ‘d/acc’ – of defensie, decentralisatie, democratie en differentiatie. Deze mentaliteit, zei hij, zou zich kunnen aanpassen aan effectieve altruïsten, libertariërs, pluralisten, voorstanders van blockchain en zonne- en maanpunkers.

“Een defensievriendelijke wereld is om vele redenen een betere wereld”, zei Buterin. “Ten eerste is er natuurlijk het directe voordeel van de veiligheid: er sterven minder mensen, er gaat minder economische waarde verloren en er wordt minder tijd verspild aan conflicten.

“Wat echter minder wordt gewaardeerd, is dat een defensievriendelijke wereld het gemakkelijker maakt voor gezondere, opener en meer vrijheid respecterende bestuursvormen”, concludeerde hij.

Hoewel hij de noodzaak benadrukte om te bouwen en te versnellen, zei Buterin dat de samenleving zich regelmatig moet afvragen waar we naartoe versnellen. Buterin suggereerde dat de 21e eeuw ‘de cruciale eeuw’ voor de mensheid zou kunnen zijn, die millennia lang over het lot van de mensheid zou kunnen beslissen.

“Dit zijn uitdagende problemen”, zei Buterin. “Maar ik kijk ernaar uit om te kijken naar en deel te nemen aan de grote collectieve inspanning van onze soort om de antwoorden te vinden.”

Bewerkt door Ryan Ozawa.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://decrypt.co/207692/ai-turns-mars-not-safe-ethereum-creator-vitalik-buterin