Ígéretek és buktatók Összefoglaló – Negyedik rész » CCC blog

Ígéretek és buktatók Összefoglaló – Negyedik rész » CCC blog

Időbélyeg: 21. március 2024. 11:37

A CCC három tudományos ülést támogatott az idei AAAS éves konferencián. Ezen a héten összefoglaljuk az ülés legfontosabb eseményeit: „Generatív mesterséges intelligencia a tudományban: Ígéretek és buktatók.” Ez a panel, moderátora Dr. Török Máté, a chicagói Toyota Technológiai Intézet elnöke), szerepelt Dr. Rebecca Willett, a Chicagói Egyetem statisztika és számítástechnika professzora, Dr. Markus Buehler, a Massachusetts Institute of Technology mérnökprofesszora, és Dr. Duncan Watson-Parris, adjunktus a Scripps Institution of Oceanography és a Halıcıoğlu Data Science Institute UC San Diego-ban. A negyedik részben összefoglaljuk a panel Kérdések és válaszok részét. 

A paneltagok előadásait egy Q&A szekció követte, Dr. Matthew Turk pedig elindította a vitát. „Az „Ígéretek és buktatók” a panel címében szerepel. Sok ígéretet megbeszéltünk, de a buktatók közül sok nem foglalkoztunk. Mi aggaszt a generatív mesterséges intelligencia jövője miatt?”

„Ezeknek a modelleknek a megbízhatósága nagy aggodalomra ad okot” – kezdte Dr. Rebecca Wilett. „Ezek a modellek megjósolhatnak olyan dolgokat, amelyek valószínűek, de hiányoznak a kulcsfontosságú, kiemelkedő elemekből; Emberként felismerhetem, hogy valami hiányzik?

Dr. Markus Buehler hozzátette, hogy egy modell tényleges előrejelzése eltarthat egy másodpercig, de a validálás kísérleti folyamata hónapokig, egy évig, vagy tovább is tarthat. Tehát hogyan működjünk közben, amikor még nem ellenőriztük az eredményeket? "A generatív mesterséges intelligencia fejlesztőinek következő generációját is ki kell oktatnunk, hogy megbízható és ellenőrizhető modelleket tervezzenek, és hogy a fizikán alapuló ismereteket felhasználhassuk ezeknek a modelleknek az elkészítésekor."

Dr. Duncan Watson-Parris mindkét előző pontra támaszkodott, és azt mondta: „Mivel ezeket a modelleket úgy tervezték, hogy elfogadható eredményeket hozzanak létre, nem csak az eredményeket nézhetjük meg, hogy ellenőrizzük azok pontosságát. A generatív AI-kutatóknak mélyen meg kell érteniük ezeknek a modelleknek a működését, hogy ellenőrizhessék eredményeiket, ezért olyan fontos a következő generáció megfelelő oktatása.”

Közönségtag: „Az anyagtudományban tudjuk, hogy egyes anyagok tanulmányozása milyen irányba halad, de mások esetében, például a szobahőmérsékletű szupravezetők esetében, nem tudjuk, hogyan tovább. Mit gondol, hogyan fog kinézni ezen ismeretlen anyagok tanulmányozása felé vezető út? És hogyan lehet ezt a fajta kutatást lehetővé tenni szabályozási szempontból?”

„Nos, nem vagyok szakértő a szupravezető-kutatásban – mondta Dr. Buehler –, ezért nem beszélek közvetlenül erről, de általánosságban beszélhetek arról, hogyan haladunk az anyagtudományban, különösen az én fehérjeterületemen. és a bioanyagok fejlesztése. Az a mód, ahogyan előrehaladunk, meg tudjuk tolni a borítékot. Új kísérleteket futtatunk, különös ötleteket és elméleteket tesztelünk, és megnézzük, melyek működnek és miért. Ami azt illeti, hogyan kellene lehetővé tenni ezt a kutatást, több nyílt forráskódú modellre van szükségünk kollektív hozzáféréssel. Arra buzdítanám a politikusokat, hogy ne szabályozzák túl ezeket a technológiákat, hogy a kutatók és a nyilvánosság hozzáférhessen az ilyen típusú modellekhez. Nem tartom jó ötletnek megakadályozni az embereket ezeknek a modelleknek a használatában, különösen akkor, ha ötleteket és fejlesztéseket tudunk összegyűjteni, és az emberi tevékenység legkülönbözőbb területeiről tudunk ismereteket bevezetni. Például a nyomda feltalálásakor a hatóságok megpróbálták korlátozni ennek a technológiának a rendelkezésre állását, így kevés könyvet lehetett tömegesen elolvasni, de ez az erőfeszítés csúnyán kudarcot vallott. A nyilvánosság védelmének legjobb módja, ha megkönnyítjük ezekhez a modellekhez való hozzáférést oly módon, hogy a társadalom maximális haszna érdekében széles körben fejleszthessük, feltárhassuk és értékelhessük őket.”

Közönségtag: „Ma a legtöbb generatív AI-modell regressziós modell, amely különböző forgatókönyvek szimulálására vagy emulálására összpontosít. A tudomány felfedezését azonban az általunk megálmodott hipotézisek és előrejelzések táplálják. Hogyan készítsünk tehát olyan modelleket, amelyek célja új előrejelzések megfogalmazása a jelenlegi, leginkább kísérletezésre használt modellek helyett?

Dr. Buehler válaszolt először, mondván: „Igazad van, a legtöbb hagyományos gépi tanulási modell gyakran regresszió alapú, de azok a modellek, amelyekről ma beszéltünk, másképp működnek. Ha több ügynököt tartalmazó rendszereket állít össze sok képességgel, akkor valójában új forgatókönyveket kezdenek felfedezni, és elkezdenek érvelni és előrejelzéseket készíteni az általuk futtatott kísérletek alapján. Emberibbé válnak. Ön, mint kutató, nem futtatna le egy kísérletet, és csak befejezte – futtatna egy kísérletet, majd elkezdené megnézni az adatokat és validálnia azokat, és ezek alapján új előrejelzéseket készítene, hogy összekapcsolja a pontokat és extrapoláljon hipotézisek felállítása és egy új forgatókönyv kibontakozása. Kísérletezne, új adatokat gyűjtene, elméletet dolgozna ki, és esetleg integrált keretrendszert javasolna egy adott érdeklődésre számot tartó témára vonatkozóan. Ezután megvédené elképzeléseit kollégái kritikáitól, és esetleg felülvizsgálná a hipotézisét, ha új információk kerülnek felhasználásra. Így működnek az új, többügynökből álló ellenséges rendszerek, de természetesen kiegészítik az emberi készségeket a hatalmas mennyiségű adat és tudás reprezentációja feletti érvelési képességgel. Ezek a modellek már új hipotéziseket generálhatnak, amelyek messze túlmutatnak a már tanulmányozottakon, és hozzájárulnak a felfedezés és az innováció tudományos folyamatához.”

„Ezt kiegészíteném azzal – vágott közbe Dr. Willett –, hogy a befejezés felfedezésének és a szimbolikus regressziónak egy másik területe, amely sokkal inkább a hipotézisek létrehozására irányul. Nagyon sok munka folyik ezen a téren.”

Közönségtag: „Hogyan tudjuk növelni az ilyen típusú modellekhez való hozzáférést, és leküzdeni az akadályokat, például a legtöbb modellt, amelyet angolul beszélők számára készítenek?”

Dr. Rebecca Willett így válaszolt: „Sok embernek van hozzáférése ezekhez a modellekhez, de megtervezésük és betanításuk sok millió dollárba kerül. Ha a szervezeteknek csak egy kis csoportja képes felállítani ezeket a modelleket, akkor a tudományos közösségben csak az emberek nagyon kis csoportja hozza meg a döntéseket és határozza meg a prioritásokat. És gyakran ezeknek a szervezeteknek és egyéneknek a prioritásai a profitorientáltak. Ennek ellenére azt gondolom, hogy ez a táj kezd megváltozni. Az olyan szervezetek, mint az NSF, olyan infrastruktúrát próbálnak kiépíteni, amelyhez a szélesebb tudományos közösség is hozzáférhet. Ez az erőfeszítés a szuperszámítógépek korai fejlesztéséhez hasonlít. A kezdeti időkben a kutatóknak hosszadalmas javaslatokat kellett benyújtaniuk egy szuperszámítógéphez való hozzáféréshez. Úgy gondolom, hogy hasonló feltörekvő paradigmákat fogunk látni a mesterséges intelligencia és a generatív AI terén.”

– Egyetértek – mondta Dr. Watson-Parris. "Hozzátéve, hogy szabályozási oldalról van szó, nem hiszem, hogy az alapkutatást kellene szabályoznunk, talán az alkalmazási területeket, de magát a kutatást nem."

Nagyon köszönjük, hogy elolvasta, és maradjon velünk az AAAS 2024 másik két panelünk összefoglalóiért.

Időbélyeg:

Még több CCC blog