Getransformeerd, niet beëindigd: AI-onderzoekers wegen mee naar de toekomst

Heruitgegeven door Plato

volgers: 0

Ondanks het waarschuwingsschot dat over de hele wereld werd gehoord – een open brief ondertekend door honderden leiders uit de industrie waarin kunstmatige intelligentie een existentiële bedreiging voor de mensheid wordt genoemd – schetst een nieuw onderzoek onder ruim 2,700 AI-experts een minder somber beeld van de toekomst.

De uitgebreide AI-effecten klanttevredenheid, uitgevoerd met de hulp van onderzoekers van de universiteiten van Oxford, Berkeley en Bonn, vroeg AI-onderzoekers naar het tempo van de vooruitgang in het veld en de potentiële impact van geavanceerde AI-systemen. Hoewel er een breed scala aan perspectieven werd verzameld, was slechts ongeveer 5% van mening dat er een grote kans bestond op het uitsterven van de mens door AI.

Dit staat in schril contrast met de gevoelens van het grote publiek.

Een augustus 2023 inch ontdekte dat 61% van de Amerikanen AI als een bedreiging voor de mensheid ziet. De bezorgdheid werd herhaald door marktleiders die een Center for AI Safety ondertekenden letter zeggende dat “het beperken van het risico van uitsterven door AI een mondiale prioriteit moet zijn.”

Paul Christiano, voormalig hoofd van de afdeling Uitlijning bij OpenAI, geschat een kans van 50% dat AI eindigt in een ‘catastrofe’. Velen hebben AI tot een bedreiging verklaard die vergelijkbaar is met een nucleaire oorlog of een wereldwijde pandemie.

Ondanks deze wijdverbreide pessimistische voorspellingen blijft AI evolueren. Bedrijven racen om meer geavanceerde systemen te ontwikkelen, waarbij Sam Altman, CEO van OpenAI, pleit voor regelgeving naast een poging om de grenzen van de technologie te testen.

Wat de mogelijkheden van AI betreft, voorspelden veel respondenten dat AI binnen tien jaar grote creatieve mijlpalen zou bereiken: het helemaal opnieuw coderen van een volledige betaalwebsite, of het maken van nummers die niet te onderscheiden zijn van de hits van vandaag. Maar de tijdlijnen werden langer voor uitdagingen zoals het bewijzen van wiskundige stellingen.

Getransformeerd, niet beëindigd: AI-onderzoekers wegen mee in de toekomst - Decodeer PlatoBlockchain-data-intelligentie. Verticaal zoeken. Ai.

Meer specifiek is de mogelijkheid dat High-Level Machine Intelligence (HLMI) werkelijkheid wordt dertien jaar dichterbij gekomen, met een voorspelde kans op succes van 13% in 50. Volledige automatisering van arbeid (FAOL) horizon – een van de controversiële voorspellingen van Elon Musk – is 48 jaar eerder verschoven naar 2116.

Gevraagd naar het vermogen van AI om alle menselijke capaciteiten te evenaren, voorspellen onderzoekers een kans van 50% in 2047. Dat is 13 jaar eerder dan die uit een soortgelijk onderzoek in 2022.

De respondenten waren verdeeld over de vraag of snellere of langzamere vooruitgang de mensheid meer ten goede zou komen.

Interessant is dat, hoewel de AI-systemen van 2043 naar verwachting onverwachte manieren zullen vinden om doelen te bereiken, er minder vertrouwen is onder onderzoekers in het menselijk vermogen om dergelijke acties te verklaren. Deze dubbelzinnigheid in de manier waarop AI-besluitvorming werkt onderstreept de noodzaak om prioriteit te geven aan AI-veiligheidsonderzoek – een gevoel dat door 70% van de respondenten wordt herhaald.

De meningen liepen uiteen over de vraag of AI in 2028 zijn eigen redenering zou kunnen verklaren.

Er bestaat ook aanzienlijke bezorgdheid over risico's als desinformatie, ongelijkheid en massale surveillance, mogelijk gemaakt door AI.

Hoewel onderzoekers over het algemeen voorzichtig optimistisch zijn, denkt ongeveer 40% dat er een minimale (niet nul) kans is op het uitsterven van de mens door geavanceerde AI. Dus ook al zijn er nog geen killer-robots op komst, toch blijft het bestuderen van de ethiek en veiligheid van AI van cruciaal belang.

Bewerkt door Ryan Ozawa.