Transformeret, ikke afsluttet: AI-forskere vægter fremtiden – Dekrypter

På trods af det advarselsskud, der er hørt rundt om i verden – et åbent brev underskrevet af hundredvis af industriledere, der erklærer kunstig intelligens for en eksistentiel trussel mod menneskeheden – tegner en ny undersøgelse blandt over 2,700 AI-eksperter et mindre dystert billede af fremtiden.

The comprehensive AI Impacts undersøgelse, conducted with the help of researchers from the Universities of Oxford, Berkeley and Bonn, asked AI researchers about the pace of progress in the field and the potential impact of advanced AI systems. While a wide range of perspectives were compiled, only around 5% felt there was a high chance of human extinction from AI.

Dette står i skarp kontrast til befolkningens følelser.

En 2023. august afstemning found that 61% of Americans see AI as a threat to humanity. The concern was echoed by industry leaders who signed a Center for AI Safety brev saying that “mitigating the risk of extinction from AI should be a global priority.”

Paul Christiano, former chief of alignment at OpenAI, anslået a 50% chance of AI ending in “catastrophe.” Many have declared AI a threat on par with nuclear war or a global pandemic.

På trods af disse vidt dækkede pessimistiske forudsigelser fortsætter AI med at udvikle sig. Virksomheder ræser om at udvikle mere avancerede systemer, hvor OpenAIs administrerende direktør Sam Altman advokerer for reguleringer sammen med et skub for at teste teknologiens grænser.

Med hensyn til AI-kapaciteter forudsagde mange undersøgelsesrespondenter, at AI ville opnå store kreative milepæle inden for 10 år: kodning af et helt betalingswebsted fra bunden, for eksempel eller oprettelse af sange, der ikke kan skelnes fra nutidens hits. Men tidslinjerne strakte sig længere for udfordringer som matematiske teorembeviser.

More specifically, the possibility of High-Level Machine Intelligence (HLMI) becoming a reality has been pulled 13 years closer, with a 50% probability of success predicted by 2047. Similarly, the Full Automation of Labor (FAOL) horizon—one of Elon Musk’s controversial predictions—has shifted 48 years earlier to 2116.

Når forskerne bliver spurgt om AI's evne til at matche alle menneskelige evner, forudser forskerne en chance på 50 % i 2047. Det er 13 år tidligere end den fra en lignende undersøgelse i 2022.

Respondenterne var delte om, hvorvidt hurtigere eller langsommere fremskridt ville gavne menneskeheden mere.

Interessant nok, mens AI-systemerne fra 2043 forventes at være i stand til at finde uventede måder at nå mål på, er der mindre tillid blandt forskere til den menneskelige evne til at forklare sådanne handlinger. Denne tvetydighed i, hvordan AI-beslutningstagning fungerer, fremhæver behovet for at prioritere AI-sikkerhedsforskning – en holdning, der gentages af 70 % af de adspurgte.

Synspunkter var forskellige om, hvorvidt AI i 2028 kunne have tillid til at forklare sin egen begrundelse.

Der eksisterer også væsentlig bekymring omkring risici som misinformation, ulighed og masseovervågning aktiveret af AI.

Mens forskere generelt er forsigtigt optimistiske, mener omkring 40 %, at der er en minimums- (ikke nul) chance for menneskelig udryddelse fra avanceret kunstig intelligens. Så selvom dræberrobotter ikke er nært forestående, er det stadig kritisk at studere AI-etik og -sikkerhed.

Redigeret af Ryan Ozawa.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://decrypt.co/211923/transformed-not-terminated-ai-researchers-weigh-in-on-the-future