Abistavad assistendid, romantilised partnerid või petturid? Teine osa

Taasavaldanud Platon

järgijaid: 0

CCC toetas selle aasta AAAS-i aastakonverentsil kolme teaduslikku seanssi ja kui te ei saanud isiklikult osaleda, teeme iga seansi kokkuvõtte. Täna teeme kokkuvõtte seansi küsimuste ja vastuste osa tipphetkedest.Suured keelemudelid: abivalmis assistendid, romantilised partnerid või petturid?” See paneel, modereeris Dr Maria Gini, CCC nõukogu liige ning Minnesota ülikooli arvutiteaduse ja inseneriteaduse professor Dr Ece Kamar, Microsoft Researchi AI Frontiersi tegevdirektor, Dr Hal Daumé III, Marylandi ülikooli arvutiteaduse professor ja Dr Jonathan May, Lõuna-California ülikooli infoteaduste instituudi arvutiteaduse professor.

Allpool on põnev kokkuvõte küsimuste ja vastuste osast "Suured keelemudelid: abivalmis assistendid, romantilised partnerid või petturid?"paneel. Kas AI on võimeline armastama? Millist mõju võivad need mudelid lastele avaldada? Kuidas Ameerika Ühendriikide tehisintellekti võimalused kuhjuvad? Uurige allpool:

K: Milliseid tavasid peaksime tegema tehisintellekti keelemudelite juurutamisel mitmekeelses ja mitmekultuurilises kontekstis?

Dr May: Tehnoloogia arendamisel ja seinte langetamisel tuleks teha inimestele lihtsamaks see, mida nad tahavad teha. Mida kõik tahavad teha, mitte ainult mina. Aitäh, AI, suurepärane keskenduda mulle, kuid me peaksime tähelepanu pöörama muule maailmale üldiselt.

K: Mõned neist üldistest probleemidest – see pole esimene kord, kui neid tõstatatakse. Näib, et kogukond ei tule nende juurde üksi. Tahaksin teada, kas teil kõigil on ideid, kuidas need vestlused ellu viia?

Dr Kamar: Rolle on mängida väga erinevatel osapooltel. Erinevate kultuuride ja populatsioonide esindamisel on hindamine väga oluline. Kui andmekogumitel ei ole maailma esitusviisi mitmekesisust, ei ole saadud süsteemid representatiivsed. Hindamise parimate tavade, eeskirjade ja vastavusmeetmete kujundamisel tuleb teha palju tööd. Valge Maja on võtnud kohustusi ja AI Bill of Rights kava on algamas. Tööstusharudes on rakendatud protsesse, kus on koos töötanud palju suurepäraseid inimesi (mitte täiuslik, kuid üldistades kogu tööstuses on potentsiaali). Toimuvad koosolekud, et jõuda ühtlustamiseni praeguste standarditena; võib-olla tulevases määruses. Kuidas teeme hindamisi, ohutusanalüüse jne? Üheski neist vestlustest pole ruumis vajalikku mitmekesisust. Mõelge sellele, kes peab otsuste tegemise ajal ruumis olema.

Dr Daumé: Ma arvan, et kui inimesed räägivad reguleerimisest, eriti tehisintellektis, mõtlevad kõik karistavatele eeskirjadele. Kuid see võib olla ka ergutav reguleerimine. Poliitikakujundajate ja NSF-i rahastamine võiksid edendada selliste vahendite väljatöötamist, mis aitavad meid rahvana ja kogu maailma.

K: AI rahastamine on USAs võrreldes teiste maailma paikadega tunduvalt maha jäänud. NSF-i uus investeering on 20 miljonit, mis on tööstuse investeeringutega võrreldes maapähklid. Föderaalvalitsus on aastaid avaldanud uuringute aruandeid ja järeldus on, et USA peab käima minema. Mulle meeldib Ece faasimuutuse analoogia. Termodünaamiline piir numbritega kasvab. Me tahame avatud AI-d, kes selle eest maksab? Raha ei jätku. Millised on teie ettepanekud? Kas avada AI? Kuid meil pole isegi avatud juurdepääsuga avaldamist. Kas soovitaksite presidendil seadusandlust mitte teha?

Dr May: Ma arvan, et raha on; keegi märkas mulle, et teil on õnnestunud valitsust veenda osakesi ümber keerutama, kuid pole suutnud seda meile suunata.

Dr Kamar: Põhjus, miks ettevõtted, kes neid mudeleid ehitavad, saavad need väljundid, on ressursside tsentraliseerimine. Mastaabist saate palju. Peaks mõtlema, kuidas tsentraliseerida investeeringud akadeemilisse ringkonda, et saaksime paljude erinevate mudelite asemel jagatud ressurssi. Me näeme, et see ei ole ainult mastaabis. Mitte midagi, mida me praegu tegema peaksime, kuid praegune arhitektuur pole suurepärane. Hea tehisintellekti võimekus ei tohiks tähendada ainult rohkem raha ja rohkem võimu.

K: Vastuste üleesitamine. Kas me teame, kust see tuleb? Olen matemaatikamees ja mu mõtted lähevad sellele, kas ümardusvigade liitmine, mis lisab eelarvamusi? Kui võrdne esitus oleks, siis ma kujutaks ette, et see väljastaks võrdse esituse või oleks see endiselt olemas?

Dr May: Palju taandub spiking-funktsioonidele. Pehme maksimum on treeningu oluline osa. Highest tahab olla number 1. See ei ole nii, nagu oleks mingi täiuslik keeleväljund, kuid me tahame, et meil oleks teatud eelarvamus. Tahame lihtsalt minimeerida inimestele tekitatavat kahju ja sageli ei tunne me seda ära. Arusaadavalt juurutamine on probleem.

Dr Daumé: Üks nende mudelite väljakutsetest on see, et enam pole kitsaid AI mudeleid. Nad ütlevad, et saavad kõigega hakkama, nii et kõike on raske katsetada.

K: Mainisite, et tehisintellekt on tööriist või asendus, kuidas teie arvates see läheb?

Dr Daumé: Asendamiseks kulub rohkem raha.

K: Pealkirjas mainiti romantilist tehisintellekti. Ma tahan sellest rohkem teada.

Dr May: Modellides ei ole piisavalt kavatsust, et need oleksid elujõulised romantilised asendused, kuid nad tunnevad mustreid sama hästi kui inimesed isegi siis, kui neid pole olemas.

Dr Kamar: Soovitan teil mitte mõelda tehisintellektile sellisena, nagu see praegu on. Proovige projekteerida tulevikku – kujutage ette, et mõne aasta pärast kohandatakse need süsteemid teie jaoks isikupärastatud. Milline on teie suhe selle süsteemiga?

Dr May: Aga kas see armastab sind?

Dr Kamar: See ütleb teile, et armastab teid.

Dr May: Aga kas sellest piisab?

K: Ma tahan kuulda nõuandeid inimestele, kes ei ole AI valdkonnaga seotud. Kuidas me saame nende tööriistadega suhelda? Mida me peaksime teadma?

Dr Daumé: Marylandi ülikoolis peame neid vestlusi palju. Mul on lihtne öelda, et ajakirjandus on 5 aasta pärast teistsugune ja teisedki valdkonnad. Ebamugav on öelda, et professori roll on 5 aasta pärast teistsugune, aga läheb. Mul on kolleege, kes kasutavad ettepanekute ja dokumentide jaoks erinevaid LLM-i pistikprogramme; see juba toimub. Mul on regulaarselt eksamiküsimused, mis kirjutavad tööriistad, kuid pean kontrollima nende täpsust. Eksamiküsimuste kirjutamine ei paku mulle rõõmu, nii et tehisintellekt võib selle minu taldrikult maha võtta. Kõrghariduses peame sellele rohkem mõtlema. Kuidas see meie töökohti muudab? Ülikoolides toimub palju arutelusid, kuid mitte palju ressursside ühendamist.

K: Kui teretulnud on tehisintellekti hindamine tulevikus sõjaliste rakenduste kaalumisel? Sellel sessioonil ei räägitud sõjalistest rakendustest – ma tean, et kui ma loen inimesi pooleldi õigesti, on sellel teemal arvamuste lahkuminek.

Dr May: Sõjavägi on lai, suurt osa minu tööst sponsoreerib kaitseosakond. Raske konkreetselt vastata, üldiselt näib, et kaitseosakond (ei räägi nende eest) seab esikohale USA ohutuse ja turvalisuse ning jätkab seda ning kasutab LLM-e ja tehisintellekti, et aidata USA-l olla turvaline.

Dr Kamar: Peame rääkima ka kahesugusest kasutusest. Kui võtta arvesse bioloogia või küberjulgeoleku alal toimuvat sõjalist tööd, võime võtta praegu olemasolevad väga paljulubavad tööriistad ja kasutada neid, sest tahame turvalisi süsteeme ja uusi ravimeid. Kuid iga hea kasutamise korral on teil halb kasutus. Millistel kasutusjuhtudel me ei soovi, et tehisintellekti kasutataks? Avatud lähtekoodiga rakendustes saavad inimesed neid mudeleid kopeerida. Kuidas hoida inimesi sellistel juhtudel kurja tegemast?

K: Keelemudelitega suheldes saavad täiskasvanud aru, et see pole elus/iseennast teadlik, aga kuidas on lood mitu põlvkonda hiljem; lapsed, kellel on see olnud pärast seda, kui nad suhtlemist mäletavad? Neil on juhendaja või õpetaja, kes on täielikult AI-ga; süsteem on integreeritud juhendajaga. Nad võivad luua juhistega sideme, arvata, et neil on suurepärane suhe ja seejärel programm kustutatakse. Milline on sotsiaalsete emotsionaalsete sidemete lastepsühholoogia mitteisiklike üksustega?

Dr Kamar: Vajame uurimistööd, interdistsiplinaarset uurimistööd ja vajame seda kiiresti. 5 aasta pärast võime need vastused saada, kuid selle ajaga võib AI saada suureks osaks minu 10-aastase lapse elust. Teie küsimus on äärmiselt oluline. On uuringuid, mis näitavad, et isegi süütutel süsteemidel võivad olla tagauksed. Meil peavad täna olema need vestlused turvaeksperdid ja lastearengu spetsialistid.

Dr Daumé: Ma ei tea, kas keegi mäletab Barbie jälgimist – siin on suur privaatsusprobleem. See on huvitavam sotsiaalne teema. Vastused häälestati liiga positiivseks. Lapsed ütleksid selliseid asju nagu ma olen vihane, sest Sally ei mänginud minuga ja see ei anna sotsiaalselt sobivaid soovitusi. Olen mures väga positiivsete ainete pärast, sest positiivsus ei ole alati õige vastus.

Täname teid väga lugemise eest ja jääge meie AAAS 2024 kolmanda ja viimase paneeli kokkuvõttega kursis.