Volt OpenAI-kutató: 50% az esély, hogy a mesterséges intelligencia „katasztrófában” ér véget

Az OpenAI korábbi kulcskutatója úgy véli, jó esély van arra, hogy a mesterséges intelligencia átvegye az emberiség irányítását és elpusztítsa azt.

“I think maybe there’s something like a 10-20% chance of AI takeover, [with] many [or] most humans dead, ” Paul Christiano, who ran the language model alignment team at OpenAI, said on the Bank nélküli podcast. “I take it quite seriously.”

Christiano, who now heads the Alignment Research Center, a non-profit aimed at aligning AIs and machine learning systems with “human interests,” said that he’s particularly worried about what happens when AIs reach the logical and creative capacity of a human being. “Overall, maybe we’re talking about a 50/50 chance of catastrophe shortly after we have systems at the human level,” he said.

Christiano is in good company. Recently scores of scientists around the world signed an online letter urging that OpenAI and other companies racing to build faster, smarter AIs, hit the pause button on development. Big wigs from Bill Gates to Elon Musk have expressed concern that, left unchecked, AI represents an obvious, existential danger to people.

Ne légy gonosz

Miért lesz az AI gonosz? Alapvetően ugyanazon okból, mint az ember: a képzés és az élettapasztalat.

Like a baby, AI is trained by receiving mountains of data without really knowing what to do with it. It learns by trying to achieve certain goals with random actions and zeroes in on “correct” results, as defined by training.

Eddig az interneten felhalmozott adatokba merülve a gépi tanulás lehetővé tette a mesterséges intelligencia számára, hogy hatalmas ugrásokat tegyen az emberi kérdésekre adott jól strukturált, koherens válaszok összefűzésében. Ugyanakkor a gépi tanulás alapjául szolgáló számítógépes feldolgozás egyre gyorsabb, jobb és speciálisabb. Egyes tudósok úgy vélik, hogy egy évtizeden belül ez a feldolgozási teljesítmény a mesterséges intelligenciával kombinálva lehetővé teszi ezeknek a gépeknek, hogy az emberekhez hasonlóan érzővé váljanak, és önérzetük legyen.

That’s when things get hairy. And it’s why many researchers argue that we need to figure out how to impose guardrails now, rather than later. As long as AI behavior is monitored, it lehet irányítani.

But if the coin lands on the other side, even OpenAI’s co-founder says that things could get very, nagyon rossz.

Foomsday?

This topic has been on the table for years. One of the most famous debates on the subject took place 11 years ago between AI researcher Eliezer Yudkowsky and the economist Robin Hanson. The two discussed the possibility of reaching “foom”—which apparently stands for “Fast Onset of Overwhelming Mastery”—the point at which AI becomes exponentially smarter than humans and capable of self improvement. (The derivation of the term “foom” is vitatható.)

"Eliezer és tanítványai úgy vélik, hogy elkerülhetetlen, hogy az MI figyelmeztetés nélkül "fum" legyen, ami azt jelenti, hogy egy napon egy AGI-t [mesterséges általános intelligenciát] építesz, és órákkal vagy napokkal később a dolog rekurzív módon istenszerű intelligenciává fejlődik, majd felemészti a világot. . Ez reális?” Perry Metzger, az AI közösségben aktív informatikus, nemrégiben tweetelt.

Metzger azzal érvelt, hogy még akkor is, ha a számítógépes rendszerek elérik az emberi intelligencia szintjét, még mindig bőven van idő a rossz eredmények megelőzésére. Logikailag lehetséges a „foom”? Talán. Nem vagyok meggyőződve” – mondta. „Lehetséges a való világ? Biztos vagyok benne, hogy nem. Hosszú távon mélyen emberfeletti AI lesz valami? Igen, de nem „hab”

Egy másik prominens személyiség, Yann Le Cun szintén felemelte a hangját, és azt állította, hogy „teljesen lehetetlen”, hogy az emberiség megtapasztalja a mesterséges intelligencia hatalomátvételét. Reméljük.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoAiStream. Web3 adatintelligencia. Felerősített tudás. Hozzáférés itt.
• A jövő pénzverése – Adryenn Ashley. Hozzáférés itt.
• Forrás: https://decrypt.co/138310/openai-researcher-chance-ai-catastrophe