Koristni pomočniki, romantični partnerji ali prevaranti? Drugi del

Ponovno objavil Platon

Spremljevalci: 0

CCC je podprl tri znanstvene seje na letošnji letni konferenci AAAS in če se niste mogli udeležiti osebno, bomo povzeli vsako sejo. Danes bomo povzeli poudarke dela seje z vprašanji in odgovori, “Veliki jezikovni modeli: koristni pomočniki, romantični partnerji ali prevaranti?” Ta panel, ki ga moderira Maria Gini, član sveta CCC ter profesor računalništva in tehnike na Univerzi v Minnesoti dr. Ece Kamar, generalni direktor AI Frontiers pri Microsoft Research, Dr. Hal Daumé III, profesor računalništva na Univerzi v Marylandu, in Dr. Jonathan May, profesor računalništva na Inštitutu za informacijske znanosti Univerze Južne Kalifornije.

Spodaj je fascinanten povzetek dela z vprašanji in odgovori "Veliki jezikovni modeli: koristni pomočniki, romantični partnerji ali prevaranti?"panel. Je AI sposoben ljubiti? Kakšne učinke imajo lahko ti modeli na otroke? Kakšne so zmogljivosti AI v Združenih državah? Izvedite spodaj:

V: Kakšne prakse naj izvajamo pri uvajanju jezikovnih modelov umetne inteligence v večjezičnih in večkulturnih kontekstih?

Dr. May: Pri razvoju tehnologije in nižanju zidov bi morali ljudem olajšati, da delajo, kar hočejo. Kar si želijo početi vsi, ne samo jaz. Hvala AI, super, da se osredotočite name, vendar bi morali biti pozorni na preostali svet na splošno.

V: Nekatera od teh splošnih vprašanj – to ni prvič, da so bila izpostavljena. Zdi se, da skupnost do tega ne bo prišla sama. Zanima me, ali imate vsi ideje o tem, kako te pogovore prenesti v dejanja?

Dr. Kamar: Obstajajo vloge za veliko različnih strank. Ocena je zelo pomembna pri predstavljanju različnih kultur in populacij. Če podatkovni nizi nimajo raznolikosti v svetovni predstavitvi, nastali sistemi niso reprezentativni. Veliko dela je treba opraviti pri oblikovanju najboljših praks vrednotenja, predpisov in ukrepov skladnosti. Bela hiša se je zavezala in načrt za listino pravic umetne inteligence se začenja. V celotni panogi so bili izvedeni procesi, pri čemer so sodelovali številni veliki umi (ni popolno, a posploševanje po panogah obstaja potencial). Dogajajo se sestanki, da bi dosegli zbliževanje s trenutno začetnimi standardi; morda v prihodnji uredbi. Kako izvajamo ocene, varnostne analize itd.? Noben od teh pogovorov nima raznolikosti, ki mora biti v sobi. Pomislite, kdo mora biti v sobi, ko se sprejemajo odločitve.

Dr. Daumé: Mislim, da ko ljudje govorijo o regulaciji, zlasti v AI, vsi pomislijo na kaznovalne predpise. Toda to je lahko tudi spodbujevalna ureditev. Oblikovalci politike financiranja in NSF bi lahko spodbujali razvoj orodij, ki nam pomagajo kot narodu in svetu.

V: Financiranje umetne inteligence v ZDA precej zaostaja v primerjavi z drugimi kraji po svetu. Nova naložba NSF je 20-milijonov-nekaj, kar je oreh v primerjavi z industrijskimi naložbami. Zvezna vlada je leta objavljala poročila o študijah in zaključek je, da morajo ZDA začeti delovati. Všeč mi je Ecejeva analogija s spremembo faze. Termodinamična meja s številkami raste. Želimo odprto umetno inteligenco, kdo jo bo plačal? Ni dovolj denarja. Kakšni so vaši predlogi? Odpreti AI? Nimamo pa niti odprto dostopne objave. Bi predsedniku predlagali, da ne sprejme zakonodaje?

Dr. May: Mislim, da je denar; nekdo mi je opazil, da vam je uspelo prepričati vlado, da zavrti delce, vendar tega niste mogli preusmeriti k nam.

Dr. Kamar: Razlog, zakaj podjetja, ki gradijo te modele, dosegajo te rezultate, je centralizacija virov. Od obsega lahko veliko dobite. Razmisliti bi morali o tem, kako bi centralizirali naložbe v akademijo, da bi dobili skupni vir, namesto da bi imeli veliko različnih modelov. Vidimo, da ne gre samo za obseg. Ni nekaj, kar bi morali narediti zdaj, vendar trenutna arhitektura ni odlična. Imeti dobre zmogljivosti AI ne bi smelo biti le več denarja in več moči.

V: Prevelika pristranskost v odgovorih. Ali vemo, od kod prihaja? Sem matematik in razmišljam o tem, ali je sestavljanje napak pri zaokroževanju dodano pristranskost? Če bi bila zastopanost enaka, bi si predstavljal, da bi bila zastopanost enaka ali pa bi bila še vedno tam?

Dr. May: Veliko se spušča v funkcije povečanja. Mehki maksimum je pomemben del treninga. Najvišji želi biti #1. Ne gre za popoln jezikovni izpis, ampak želimo imeti nekaj pristranskosti. Želimo le čim bolj zmanjšati škodo do ljudi, a tega velikokrat ne prepoznamo. Uvajanje brez razumevanja je problem.

Dr. Daumé: Eden od izzivov teh modelov je, da ni več ozkih modelov AI. Pravijo, da zmorejo vse, zato je težko vse preizkusiti.

V: Omenili ste, da je umetna inteligenca orodje ali nadomestek, v katero smer se po vašem mnenju razvija?

Dr. Daumé: Za zamenjavo gre več denarja.

V: Naslov omenja romantično umetno inteligenco. Želim izvedeti več o tem.

Dr. May: V modelih ni dovolj namena, da bi bili izvedljivi romantični nadomestki, vendar so enako dobri kot ljudje pri prepoznavanju vzorcev, tudi če ti ne obstajajo.

Dr. Kamar: Svetujem vam, da ne razmišljate o AI kot to, kar zdaj je. Poskusite projicirati v prihodnost – predstavljajte si, da bodo čez nekaj let ti sistemi prilagojeni vam. Kakšen odnos boste imeli s tem sistemom?

Dr. May: Toda ali te bo ljubilo?

Dr. Kamar: Povedalo vam bo, da vas ljubi.

Dr. May: Toda ali je to dovolj?

V: Želim slišati nasvet za ljudi, ki niso na področju AI. Kako lahko sodelujemo s temi orodji? Kaj moramo vedeti?

Dr. Daumé: Na Univerzi v Marylandu imamo te pogovore veliko. Zlahka rečem, da bo novinarstvo čez 5 let drugačno, druga področja tudi. Neprijetno je reči, da bo vloga profesorja čez 5 let drugačna, a bo. Imam kolege, ki uporabljajo različne vtičnike LLM za predloge in dokumente; se že dogaja. Redno imam izpitna vprašanja napisana z orodji, vendar moram preveriti točnost. Pisanje izpitnih vprašanj mi ne prinaša veselja, zato mi ga lahko umetna inteligenca vzame s krožnika. V visokem šolstvu moramo o tem več razmišljati. Kako spreminja naša delovna mesta? Na univerzah poteka veliko razprav, vendar ne veliko združevanja virov.

V: Kako dobrodošla je umetna inteligenca, če jo bomo v prihodnosti ocenjevali pri obravnavi vojaških aplikacij? Na tej seji ni bilo nobene omembe o vojaških aplikacijah – vem, če ljudi napol pravilno berem, da so mnenja o tej temi različna.

Dr. May: Vojska je široka, veliko mojega dela sponzorira ministrstvo za obrambo. Težko je natančno odgovoriti, na splošno se zdi, da obrambni oddelek (ne govorim v njihovem imenu) daje prednost varnosti in varnosti ZDA in bo to počel še naprej ter izkoriščal LLM in AI, da bodo ZDA varne.

Dr. Kamar: Govoriti moramo tudi o dvojni rabi. Če vzamete vojaško delo, ki poteka v biologiji ali kibernetski varnosti, lahko vzamemo zelo obetavna orodja, ki jih trenutno imamo, in jih uporabimo, ker želimo varne sisteme in nova zdravila. Toda z vsako dobro uporabo boste imeli slabo uporabo. V katerih primerih ne želimo, da se uporablja AI? V odprtokodnih aplikacijah lahko ljudje posnemajo te modele. Kako v teh primerih preprečimo, da bi ljudje naredili škodo?

V: Pri interakciji z jezikovnimi modeli odrasli razumejo, da ni živ/samozavesten, kaj pa nekaj generacij pozneje; otroci, ki ga imajo odkar se spomnijo druženja? Imajo mentorja ali učitelja, ki je v celoti umetna inteligenca; sistem je vgrajen z inštruktorjem. Lahko ustvarijo vez z navodili, mislijo, da imajo odličen odnos, potem pa se program izbriše. Kakšna je otroška psihologija družbenih čustvenih vezi z neosebnimi entitetami?

Dr. Kamar: Potrebujemo raziskave, interdisciplinarne raziskave, in potrebujemo jih hitro. Čez 5 let bomo morda dobili te odgovore, toda v tem času bo umetna inteligenca morda postala velik del življenja mojega 10-letnika. Vaše vprašanje je izjemno pomembno. Obstajajo raziskave, ki kažejo, da imajo lahko celo nedolžni sistemi zadnja vrata. Danes potrebujemo strokovnjake za varnost in strokovnjake za razvoj otrok, ki vodijo te pogovore.

Dr. Daumé: Ne vem, ali se kdo spomni nadzorne Barbie – tukaj je veliko vprašanje zasebnosti. Gre za bolj zanimiv socialni problem. Odzivi so bili preveč pozitivni. Otroci bi rekli stvari, kot je jezen sem, ker se Sally ni igrala z menoj, in ne daje družbeno primernih predlogov. Skrbijo me zelo pozitivni agenti, ker pozitivnost ni vedno pravi odgovor.

Najlepša hvala za branje in spremljajte povzetek našega tretjega in zadnjega panela na AAAS 2024.