Opomba Raya Kurzweila o nedavnem pozivu k prekinitvi dela na AI, zmogljivejšem od GPT-4

Opomba urednika: Sledi kratko pismo Raya Kurzweila, direktorja inženiringa pri Googlu ter soustanovitelja in člana upravnega odbora pri Singularity Group, matičnem podjetju Singularity Hub, kot odgovor na nedavno pismo Future of Life Institute z naslovom »Začasno ustavite velikanske eksperimente AI: Odprto pismo."

Pismo FLI obravnava tveganja pospešenega napredka umetne inteligence in posledično tekmo za komercializacijo tehnologije ter poziva k prekinitvi razvoja algoritmov, zmogljivejših od GPT-4 OpenAI, velikega jezikovnega modela, ki stoji za ChatGPT Plus podjetja in Microsoftovim chatbotom Bing. . Pismo FLI ima na tisoče podpisnikov – vključno s pionirjem globokega učenja, Yoshua Bengiom, profesorjem računalništva na kalifornijski univerzi Berkeley, Stuartom Russellom, izvršnim direktorjem Stability AI, Emadom Mostaqueom, Elonom Muskom in mnogimi drugimi – in je sprožilo burno razpravo v AI. skupnosti.

Glede Odprto pismo »začasno ustaviti« raziskave o AI, »močnejši od GPT-4,« je to merilo preveč nejasno, da bi bilo praktično. In predlog se sooča z resno težavo usklajevanja: tisti, ki se strinjajo s premorom, lahko močno zaostajajo za korporacijami ali državami, ki se ne strinjajo. Napredovanje umetne inteligence na kritičnih področjih, kot so medicina in zdravje, izobraževanje, prizadevanje za obnovljive vire energije, ki bi nadomestili fosilna goriva, in na številnih drugih področjih prinaša ogromne koristi. Nisem podpisal, ker verjamem, da lahko skrbi glede varnosti podpisnikov obravnavamo na bolj prilagojen način, ki ne ogroža teh vitalnih smeri raziskav.

Sodeloval sem v Asilomarjeva konferenca o načelih AI leta 2017 in aktivno sodeloval pri oblikovanju smernic za ustvarjanje umetne inteligence na etični način. Zato vem, da je varnost ključnega pomena. Toda potrebnih je več odtenkov, če želimo odkleniti izjemne prednosti umetne inteligence za zdravje in produktivnost, hkrati pa se izogniti resničnim nevarnostim.

- ray Kurzweil
Izumitelj, pisec uspešnic in futurist

Kreditno slike: Deepmind / Unsplash

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoAiStream. Podatkovna inteligenca Web3. Razširjeno znanje. Dostopite tukaj.
• Kovanje prihodnosti z Adryenn Ashley. Dostopite tukaj.
• Kupujte in prodajajte delnice podjetij pred IPO s PREIPO®. Dostopite tukaj.
• vir: https://singularityhub.com/2023/05/05/a-note-from-ray-kurzweil-on-the-recent-call-to-pause-work-on-ai-more-powerful-than-gpt-4/