Lupaukset ja sudenkuopat Kertomus – Neljäs osa » CCC-blogi

Lupaukset ja sudenkuopat Kertomus – Neljäs osa » CCC-blogi

Aikaleima: 21. maaliskuuta 2024 11

CCC tuki kolmea tieteellistä istuntoa tämän vuoden AAAS-vuosikonferenssissa. Tällä viikolla teemme yhteenvedon istunnon kohokohdista, "Generatiivinen tekoäly tieteessä: lupaukset ja sudenkuopat.Tämä paneeli, moderaattori Tohtori Matthew Turk, Chicagon Toyota Technological Instituten presidentti), esillä Tohtori Rebecca Willett, tilastotieteen ja tietojenkäsittelytieteen professori Chicagon yliopistossa, Tohtori Markus Buehler, tekniikan professori Massachusetts Institute of Technologyssa ja Tohtori Duncan Watson-Parris, apulaisprofessori Scripps Institution of Oceanographyssa ja Halıcıoğlu Data Science Institutessa UC San Diegossa. Neljännessä osassa teemme yhteenvedon paneelin Q&A-osuudesta. 

Panelistin esitelmiä seurasi Q&A-istunto, ja tohtori Matthew Turk aloitti keskustelun. ""Promises and Pitfalls" on tämän paneelin otsikossa. Olemme keskustelleet monista lupauksista, mutta emme ole käsitelleet monia sudenkuoppia. Mikä huolestuttaa sinua generatiivisen tekoälyn tulevaisuudesta?"

"Näiden mallien luotettavuus on suuri huolenaihe", tohtori Rebecca Wilett aloitti. ”Nämä mallit voivat ennustaa asioita, jotka ovat uskottavia, mutta joista puuttuu keskeisiä, keskeisiä elementtejä; Voinko ihmisenä tunnistaa, että sieltä puuttuu jotain?"

Tohtori Markus Buehler lisäsi, että mallin varsinainen ennustaminen voi kestää sekunnin, mutta kokeellinen validointiprosessi voi kestää kuukausia tai vuoden tai pidempään. Joten miten meidän pitäisi toimia tällä välin, kun emme ole vahvistaneet tuloksia? "Meidän on myös koulutettava seuraavan sukupolven generatiivisia tekoälykehittäjiä, jotta he suunnittelevat malleja, jotka ovat luotettavia ja todennettavissa, ja että voimme käyttää fysiikkaan perustuvia oivalluksia näiden mallien rakentamisessa."

Dr. Duncan Watson-Parris perustui molempiin edellisiin kohtiin ja sanoi: "Koska nämä mallit on suunniteltu tuottamaan uskottavia tuloksia, emme voi vain tarkastella tuloksia varmistaaksemme niiden tarkkuuden. Generatiivisten tekoälytutkijoiden on ymmärrettävä syvästi, miten nämä mallit toimivat voidakseen todentaa niiden tulokset, minkä vuoksi seuraavan sukupolven oikea kouluttaminen on niin tärkeää.

Yleisöjäsen: ”Materiaalitieteessä tiedämme suunnan eteenpäin joidenkin materiaalien tutkimisessa, mutta toisten, kuten huoneenlämpöisten suprajohteiden, osalta emme tiedä, miten edetä. Miltä arvelet näiden tuntemattomien materiaalien tutkimisen tiellä eteenpäin? Ja miten tällainen tutkimus pitäisi mahdollistaa sääntelyn näkökulmasta?"

"No, en ole suprajohdetutkimuksen asiantuntija", tohtori Buehler sanoi, "joten en puhu siitä suoraan, mutta voin puhua yleisesti siitä, kuinka edistymme materiaalitieteessä, erityisesti minun proteiinialallani. ja biomateriaalien kehittäminen. Tapa, jolla edistymme, on kyky työntää kirjekuorta. Suoritamme uusia kokeita ja testaamme outoja ideoita ja teorioita ja katsomme, mitkä toimivat ja miksi. Mitä tulee siihen, miten meidän pitäisi mahdollistaa tämä tutkimus, tarvitsemme enemmän avoimen lähdekoodin malleja, joissa on kollektiivinen pääsy. Kannustan poliitikkoja olemaan sääntelemättä näitä teknologioita liikaa, jotta tutkijat ja yleisö pääsevät käsiksi tämäntyyppisiin malleihin. Mielestäni ei ole hyvä idea estää ihmisiä käyttämästä näitä malleja, varsinkaan kun voimme joukoittain hankkia ideoita ja kehityssuuntia ja tuoda tietoa erilaisilta ihmisen toiminnan aloilta. Esimerkiksi kun painokone keksittiin, viranomaiset yrittivät rajoittaa tämän tekniikan saatavuutta niin, että harvat kirjat voisivat lukea massaksi, mutta tämä yritys epäonnistui surkeasti. Paras tapa suojella yleisöä on helpottaa näiden mallien saatavuutta siten, että voimme kehittää, tutkia ja arvioida niitä laajasti yhteiskunnan maksimoimiseksi."

Yleisön jäsen: "Useimmat generatiiviset tekoälymallit ovat nykyään regressiomalleja, jotka keskittyvät simuloimaan tai emuloimaan erilaisia ​​skenaarioita. Tieteen löytöjä ruokkivat kuitenkin unelmamme hypoteesit ja ennusteet. Miten sitten luodaan malleja, joiden tarkoituksena on luoda uusia ennusteita nykyisten, enimmäkseen kokeiluun käytettyjen mallien sijaan?

Tri. Buehler vastasi ensin ja sanoi: "Olet oikeassa, useimmat perinteiset koneoppimismallit ovat usein regressiopohjaisia, mutta mallit, joista puhuimme tänään, toimivat eri tavalla. Kun kokoat usean toimijan järjestelmiä, joissa on monia ominaisuuksia, ne itse asiassa alkavat tutkia uusia skenaarioita ja alkavat perustella ja tehdä ennusteita suorittamiensa kokeiden perusteella. Heistä tulee inhimillisempiä. Sinä tutkijana et suorittaisi koetta ja olisit vain valmis – suoritat kokeen ja alat sitten tarkastella tietoja ja validoida niitä ja tehdä uusia ennusteita näiden tietojen perusteella yhdistääksesi pisteet ja ekstrapoloidaksesi hypoteesien tekeminen ja uuden skenaarion hahmottaminen. Voit kokeilla, kerätä uutta tietoa, kehittää teoriaa ja ehdottaa ehkä integroitua viitekehystä tietystä kiinnostavasta aiheesta. Sitten puolustaisit ajatuksiasi kollegojesi kritiikkiä vastaan ​​ja ehkä tarkistaisit hypoteesiasi, kun uutta tietoa käytetään. Näin toimivat uudet monen agentin vastustavat järjestelmät, mutta tietysti ne täydentävät ihmisen taitoja paljon paremmalla kyvyllä järkeillä valtavia tietomääriä ja tiedon esityksiä. Nämä mallit voivat jo luoda uusia hypoteeseja, jotka työntävät verhoa paljon pidemmälle kuin on jo tutkittu ja lisäävät tieteellistä löytö- ja innovaatioprosessia.

"Täydentäisin sitä", välitti tohtori Willett, "samalla, että loppuunsaattaminen ja symbolinen regressio ovat toinen alue, joka on paljon enemmän kohdennettu hypoteesien luomiseen. Tällä alueella on käynnissä paljon työtä."

Yleisön jäsen: "Kuinka lisäämme pääsyä tämäntyyppisiin malleihin ja ylitämme esteitä, kuten useimpia englanninkielisiä malleja?"

Tohtori Rebecca Willett vastasi: "Monet ihmiset voivat käyttää näitä malleja, mutta niiden suunnittelu ja kouluttaminen maksaa miljoonia dollareita. Jos vain pieni joukko organisaatioita pystyy luomaan näitä malleja, vain hyvin pieni joukko ihmisiä tekee päätöksiä ja asettaa prioriteetteja tiedeyhteisössä. Ja usein näiden organisaatioiden ja henkilöiden painopisteet ovat voittohakuisia. Luulen kuitenkin, että maisema alkaa muuttua. Organisaatiot, kuten NSF, yrittävät rakentaa infrastruktuuria, jota laajempi tiedeyhteisö voi käyttää. Tämä pyrkimys muistuttaa supertietokoneiden varhaista kehitystä. Alkuaikoina tutkijoiden piti tehdä pitkiä ehdotuksia päästäkseen käsiksi supertietokoneeseen. Uskon, että tulemme näkemään samanlaisia ​​nousevia paradigmoja tekoälyssä ja generatiivisessa tekoälyssä."

"Olen samaa mieltä", sanoi tohtori Watson-Parris. "Lisätään tähän sääntelyn puolelta, mielestäni meidän ei pitäisi säännellä perustutkimusta, ehkä sovellusalueita, mutta ei itse tutkimusta."

Kiitos, että luit, ja pysy kuulolla kahdesta muusta AAAS 2024 -paneelistamme.

Aikaleima:

Lisää aiheesta CCC blogi