Átalakult, nem szűnt meg: Az AI-kutatók mérlegelik a jövőt – Decrypt

A világszerte elhangzott figyelmeztető lövés ellenére – egy nyílt levél, amelyet több száz iparági vezető írt alá, amelyben kijelentette, hogy a mesterséges intelligencia az emberiség egzisztenciális fenyegetése – egy több mint 2,700 mesterséges intelligencia-szakértő bevonásával készült új felmérés kevésbé borzasztó képet fest a jövőről.

The comprehensive AI Impacts felmérés, conducted with the help of researchers from the Universities of Oxford, Berkeley and Bonn, asked AI researchers about the pace of progress in the field and the potential impact of advanced AI systems. While a wide range of perspectives were compiled, only around 5% felt there was a high chance of human extinction from AI.

Ez éles ellentétben áll a közvélemény érzéseivel.

Augusztus 2023 szavazás found that 61% of Americans see AI as a threat to humanity. The concern was echoed by industry leaders who signed a Center for AI Safety levél saying that “mitigating the risk of extinction from AI should be a global priority.”

Paul Christiano, former chief of alignment at OpenAI, becsült a 50% chance of AI ending in “catastrophe.” Many have declared AI a threat on par with nuclear war or a global pandemic.

A széles körben lefedett pesszimista előrejelzések ellenére a mesterséges intelligencia továbbra is fejlődik. A vállalatok versenyeznek a fejlettebb rendszerek kifejlesztésén, az OpenAI vezérigazgatója, Sam Altman pedig a szabályozás mellett szorgalmazza a technológia határainak tesztelését.

A mesterséges intelligencia képességeivel kapcsolatban sok válaszadó azt jósolta, hogy a mesterséges intelligencia 10 éven belül jelentős kreatív mérföldköveket fog elérni: például egy teljes fizetési webhelyet a semmiből kódol, vagy olyan dalokat készít, amelyek megkülönböztethetetlenek a mai slágerektől. De az idővonalak hosszabbra nyúltak az olyan kihívásoknál, mint a matematikai tételbizonyítás.

More specifically, the possibility of High-Level Machine Intelligence (HLMI) becoming a reality has been pulled 13 years closer, with a 50% probability of success predicted by 2047. Similarly, the Full Automation of Labor (FAOL) horizon—one of Elon Musk’s controversial predictions—has shifted 48 years earlier to 2116.

Amikor arról kérdezték, hogy a mesterséges intelligencia képes-e megfelelni minden emberi képességnek, a kutatók 50%-os esélyt jósolnak 2047-re. Ez 13 évvel hamarabb, mint egy 2022-es hasonló felmérés eredménye.

A válaszadók megoszlanak abban a tekintetben, hogy a gyorsabb vagy a lassabb haladás lenne-e több hasznára az emberiségnek.

Érdekes módon, míg a 2043-as mesterséges intelligencia-rendszerek várhatóan képesek váratlan módokat találni a célok eléréséhez, a kutatók kevésbé bíznak abban, hogy az ember képes megmagyarázni az ilyen cselekedeteket. A mesterséges intelligencia döntéshozatalának ez a kétértelműsége rávilágít arra, hogy prioritásként kell kezelni az AI-biztonsági kutatásokat – ezt a véleményt a válaszadók 70%-a is visszatükrözi.

Megoszlottak a vélemények arról, hogy 2028-ban a mesterséges intelligencia megmagyarázhatja-e saját érvelését.

Jelentős aggodalomra ad okot olyan kockázatok is, mint a félretájékoztatás, az egyenlőtlenség és a mesterséges intelligencia által lehetővé tett tömeges megfigyelés.

Míg a kutatók összességében óvatosan optimisták, körülbelül 40%-uk gondolja úgy, hogy minimális (nem nulla) az esélye annak, hogy az ember a fejlett mesterséges intelligencia következtében kihaljon. Tehát bár a gyilkos robotok nem állnak küszöbön, az AI etikájának és biztonságának tanulmányozása továbbra is kritikus fontosságú.

Szerkesztette Ryan Ozawa.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://decrypt.co/211923/transformed-not-terminated-ai-researchers-weigh-in-on-the-future