Segítőkész asszisztensek, romantikus partnerek vagy szélhámosok? Második rész

Újra kiadta Platón

Követő: 0

A CCC három tudományos ülést támogatott az idei AAAS éves konferencián, és ha nem tudott személyesen részt venni, akkor minden ülést összefoglalunk. Ma összefoglaljuk az ülés kérdezz-felelek szakaszának legfontosabb pontjait: "Nagy nyelvű modellek: segítőkész asszisztensek, romantikus partnerek vagy szélhámosok?” Ez a panel, moderátora Dr. Maria Gini, a CCC Tanácsának tagja és a Minnesota Egyetem számítástechnikai és mérnöki professzora, szerepelt Dr. Ece Kamar, a Microsoft Research AI Frontiers részlegének ügyvezető igazgatója, Dr. Hal Daumé III, a Marylandi Egyetem számítástechnika professzora, és Dr. Jonathan May, a Dél-Kaliforniai Egyetem Információtudományi Intézetének számítástechnika professzora.

Az alábbiakban található a kérdés-felelek rész lenyűgöző összefoglalása "Nagy nyelvű modellek: segítőkész asszisztensek, romantikus partnerek vagy szélhámosok?"panel. Képes a mesterséges intelligencia a szerelemre? Milyen hatással lehetnek ezek a modellek a gyerekekre? Hogyan halmozódnak fel az Egyesült Államok mesterséges intelligencia-képességei? Tudja meg alább:

K: Ha mesterséges intelligencia nyelvi modelleket alkalmazunk többnyelvű és multikulturális környezetben, milyen gyakorlatokat kell tennünk?

Dr. May: A technológia fejlesztése és a falak leengedése során meg kell könnyíteni, hogy az emberek azt csinálják, amit akarnak. Amit mindenki csinálni akar, nem csak én. Köszönöm az AI-t, nagyszerű, hogy rám összpontosítottam, de általában a világ többi részére kell figyelnünk.

K: Néhány általános kérdés – nem ez az első alkalom, hogy szóba kerül. Úgy tűnik, a közösség nem fog magától rájönni ezekre. Érdeklődnék, hogy mindannyiótoknak van-e ötletetek arra vonatkozóan, hogyan válthatjátok át ezeket a beszélgetéseket?

Dr. Kamar: Sok különböző pártnak van szerepe. Az értékelés sokat számít a különböző kultúrák és populációk képviseletében. Ha az adatkészletek világábrázolása nem sokféle, az eredményül kapott rendszerek nem reprezentatívak. Sok munkát kell végezni az értékelési legjobb gyakorlatok, szabályozások és megfelelőségi intézkedések kialakításán. A Fehér Ház kötelezettségeket vállalt, és megkezdődik az AI Bill of Rights tervrajza. Az iparban folyamatokat hajtottak végre, ahol sok nagyszerű elme dolgozik együtt (nem tökéletes, de az iparágon belüli általánosításban van lehetőség). Vannak találkozók annak érdekében, hogy közelítsék a jelenleg kezdődő szabványokhoz; esetleg a jövőbeli szabályozásban. Hogyan végezzünk értékeléseket, biztonsági elemzéseket stb.? E beszélgetések egyike sem rendelkezik azzal a sokszínűséggel, mint amilyennek a teremben kell lennie. Gondolja át, kinek kell a szobában tartózkodnia, amikor döntéseket hoznak.

Dr. Daumé: Azt hiszem, amikor az emberek szabályozásról beszélnek, különösen az AI-ban, mindenki a büntető szabályozásra gondol. De ez ösztönző szabályozás is lehet. A politikai döntéshozók és az NSF finanszírozása elősegítheti olyan eszközök fejlesztését, amelyek segítenek nekünk, mint nemzetnek és a világnak.

K: Az AI finanszírozása messze elmarad az Egyesült Államokban a világ más helyeihez képest. Az NSF új befektetése mintegy 20 millió, ami földimogyoró az ipari beruházásokhoz képest. A szövetségi kormány évek óta publikált tanulmányokat, és a következtetés az, hogy az Egyesült Államoknak indulnia kell. Imádom Ece fázisváltási hasonlatát. A termodinamikai határ a számokkal nő. Nyílt AI-t akarunk, ki fog fizetni érte? Nincs elég pénz. Mik a javaslataid? Nyissa meg az AI-t? De még nyílt hozzáférésű közzétételünk sincs. Javasolná az elnöknek, hogy ne legyen jogszabály?

Dr. May: Szerintem van pénz; valaki észrevette nekem, hogy sikerült meggyőznie a kormányt, hogy forgassa a részecskéket, de nem tudta eltéríteni hozzánk.

Dr. Kamar: Az ok, amiért a vállalatok, amelyek ezeket a modelleket építik, az erőforrások központosítása révén érik el ezeket az eredményeket. Sokat kapsz a skálából. El kellene gondolkodni azon, hogyan központosítsuk a befektetéseket az akadémián, hogy megosztott erőforrást kapjunk a sokféle modell helyett. Látjuk, hogy ez nem csak a méretekről szól. Nem kell most tennünk, de a jelenlegi építészet nem nagyszerű. A jó mesterséges intelligencia képességek nem csak több pénzről és több hatalomról szólhatnak.

K: Túlreprezentáltság a válaszokban. Tudjuk, honnan jön? Én egy matematikus srác vagyok, és a gondolataim arra járnak, hogy a kerekítési hibák összetettsége, ami torzítást eredményez? Ha egyenlő reprezentáció, akkor azt képzelném, hogy egyenlő reprezentációt adna ki, vagy még mindig ott lenne?

Dr. May: Sok múlik a spiking funkciókon. A lágy maximum az edzés fontos része. A Highest #1 akar lenni. Nem mintha lenne valami tökéletes nyelvi kimenet, de szeretnénk némi torzítást. Csak minimalizálni akarjuk az embereket érő károkat, és sokszor nem ismerjük fel ezeket. A megértés nélküli telepítés probléma.

Dr. Daumé: Az egyik kihívás ezekkel a modellekkel, hogy már nincsenek szűk AI modellek. Azt mondják, bármire képesek, ezért nehéz mindent tesztelni.

K: Említette, hogy a mesterséges intelligencia egy eszköz vagy egy helyettesítő, hogyan látja ezt?

Dr. Daumé: Több pénz jut a pótlásra.

K: A cím romantikus AI-t említett. Erről szeretnék többet tudni.

Dr. May: Nincs elég szándék a modellekben ahhoz, hogy életképes romantikus helyettesítők legyenek, de olyan jók, mint az emberek, hogy felismerjék a mintákat, még akkor is, ha azok nem léteznek.

Dr. Kamar: Azt tanácsolom, hogy ne úgy gondoljon az AI-ra, mint amilyen jelenleg. Próbáljon a jövőbe vetíteni – képzelje el, hogy néhány éven belül ezeket a rendszereket személyre szabják az Ön számára. Milyen kapcsolatod lesz ezzel a rendszerrel?

Dr. May: De szeretni fogja?

Dr. Kamar: Azt fogja mondani, hogy szeret.

Dr. May: De ez elég?

K: Tanácsot szeretnék hallani azoknak, akik nem a mesterséges intelligenciával foglalkoznak. Hogyan kapcsolódhatunk be ezekkel az eszközökkel? Mit kell tudnunk?

Dr. Daumé: A Marylandi Egyetemen sokat folytatunk ilyen beszélgetéseket. Könnyű azt mondani, hogy az újságírás más lesz 5 év múlva, és más területek is. Kényelmetlen azt mondani, hogy 5 év múlva más lesz a professzor szerepe, de lesz. Vannak olyan kollégáim, akik különböző LLM beépülő modulokat használnak ajánlatokhoz és papírokhoz; már meg is történik. Rendszeresen vannak eszközökkel írt vizsgakérdéseim, de ellenőriznem kell a pontosságot. A vizsgakérdések írása nem okoz nekem örömet, így a mesterséges intelligencia leveheti a tányéromról. A felsőoktatásban többet kell ezen gondolkodni. Hogyan alakítja át a munkánkat? Sok vita folyik az egyetemeken, de az erőforrások összevonásáról nem sok.

K: Mennyire üdvözlendő a mesterséges intelligencia megítélése a jövőben a katonai alkalmazások mérlegelésekor? Ezen az ülésen nem esett szó katonai alkalmazásokról – tudom, ha félig jól olvasom az embereket, akkor ebben a témában megoszlanak a vélemények.

Dr. May: A katonaság széles, a munkám nagy részét a védelmi osztály támogatja. Nehéz konkrétan válaszolni, általában úgy tűnik, hogy a védelmi minisztérium (nem beszélve helyettük) az Egyesült Államok biztonságát helyezi előtérbe, és továbbra is ezt fogja tenni, és kihasználja az LLM-eket és a mesterséges intelligenciát, hogy segítse az Egyesült Államok biztonságát.

Dr. Kamar: Beszélnünk kell a kettős felhasználásról is. Ha figyelembe vesszük a biológiában vagy a kiberbiztonságban folyó katonai munkát, akkor a jelenleg rendelkezésünkre álló nagyon ígéretes eszközöket használhatjuk, mert biztonságos rendszereket és új gyógyszereket akarunk. De minden jó használatnak rossz haszna lesz. Melyek azok a használati esetek, amelyekben nem szeretnénk, hogy mesterséges intelligenciát használjunk? A nyílt forráskódú alkalmazásokban az emberek lemásolhatják ezeket a modelleket. Hogyan akadályozzuk meg az embereket, hogy ezekben az esetekben kárt tegyenek?

K: Amikor a nyelvi modellekkel interakcióba lépnek, a felnőttek megértik, hogy ez nem élő/öntudatos, de mi lesz több generációval később; gyerekek, akiknek ez van, mióta emlékeznek a társasági életre? Van egy oktatójuk vagy tanáruk, aki teljesen mesterséges intelligencia; a rendszer oktatóval van beépítve. Kapcsolódást hozhatnak létre az utasítással, azt gondolhatják, hogy jó a kapcsolatuk, és akkor a program törlődik. Mi a nem személy entitásokkal való szociális érzelmi kötelékek gyermekpszichológiája?

Dr. Kamar: Kutatásra van szükségünk, interdiszciplináris kutatásra, és gyorsan szükségünk van rá. 5 év múlva talán megkapjuk ezeket a válaszokat, de ezalatt az AI az én 10 évesem életének nagy részévé válhat. A kérdésed rendkívül fontos. Vannak kutatások, amelyek szerint még az ártatlan rendszereknek is lehetnek hátsó ajtói. Ma biztonsági szakértőkre és gyermekfejlesztési szakértőkre van szükségünk, akik ezeket a beszélgetéseket folytatják.

Dr. Daumé: Nem tudom, emlékszik-e valaki Barbie megfigyelésére – itt egy nagy adatvédelmi probléma van. Ez egy érdekesebb társadalmi kérdés. A válaszokat túlságosan pozitívra hangoltuk. A gyerekek azt mondanák, hogy dühös vagyok, mert Sally nem játszott velem, és ez nem ad társadalmilag megfelelő javaslatokat. Aggódom a nagyon pozitív ágensek miatt, mert a pozitivitás nem mindig a helyes válasz.

Nagyon köszönjük, hogy elolvasta, és tartsa velünk az AAAS 2024 harmadik, egyben utolsó paneljének összefoglalóját.