NeurIPS 2023: A meghívott beszélgetések kulcsfontosságú elemei

A Midjourney-vel generált

A NeurIPS 2023 konferencia, amelyet a nyüzsgő New Orleans városában december 10. és 16. között tartottak, különös hangsúlyt fektettek a generatív mesterséges intelligenciára és a nagy nyelvi modellekre (LLM). Az ezen a területen a közelmúltban elért úttörő előrelépések fényében nem volt meglepő, hogy ezek a témák uralták a vitákat.

Az idei konferencia egyik fő témája a hatékonyabb AI-rendszerek keresése volt. A kutatók és fejlesztők aktívan keresik a módokat olyan mesterséges intelligencia megalkotására, amely nemcsak gyorsabban tanul, mint a jelenlegi LLM-ek, hanem továbbfejlesztett érvelési képességekkel is rendelkezik, miközben kevesebb számítási erőforrást fogyaszt. Ez a törekvés döntő jelentőségű a mesterséges általános intelligencia (AGI) eléréséért folyó versenyben, amely cél a belátható jövőben egyre elérhetőbbnek tűnik.

A NeurIPS 2023 meghívott beszélgetései ezeket a dinamikus és gyorsan változó érdeklődési köröket tükrözték. Az AI-kutatás különböző területeiről érkező előadók megosztották legújabb eredményeiket, és betekintést engedtek a legkorszerűbb AI-fejlesztésekbe. Ebben a cikkben elmélyülünk ezekben a beszélgetésekben, kiemelve és megvitatva azokat a kulcsfontosságú elveket és tanulságokat, amelyek nélkülözhetetlenek az AI innováció jelenlegi és jövőbeli környezetének megértéséhez.

NextGenAI: A méretezés téveszméje és a generatív AI jövője 

In a beszéde, Björn Ommer, a müncheni Ludwig Maximilian Egyetem számítógépes látás- és tanulási csoportjának vezetője megosztotta, hogyan jutott el laborja a stabil diffúzió kifejlesztéséhez, néhány leckét, amit ebből a folyamatból tanultak, és a közelmúltbeli fejleményeket, beleértve azt is, hogyan keverhetjük diffúziós modelleket a Többek között az áramlás illesztése, a visszakeresés növelése és a LoRA közelítések.

Legfontosabb elvitel:

• A generatív mesterséges intelligencia korában a látásmodellek észleléséről (azaz objektumfelismerésről) áttértünk a hiányzó részek előrejelzésére (pl. kép- és videógenerálás diffúziós modellekkel).
• A számítógépes látás 20 éven át a benchmark kutatásra összpontosított, ami segített a legszembetűnőbb problémákra összpontosítani. A Generatív mesterséges intelligencia területén nincs optimalizálásra érdemes referenciapontunk, ami mindenki számára megnyitotta a terepet, hogy a saját irányába lépjen.
• A diffúziós modellek a korábbi generatív modellek előnyeit ötvözik azáltal, hogy pontszámalapúak, stabil betanítási eljárással és hatékony mintaszerkesztéssel, de a hosszú Markov-lánc miatt drágák.
• Az erős valószínűségi modellekkel kapcsolatos kihívás az, hogy a bitek többsége olyan részletekbe megy bele, amelyek emberi szemmel alig érzékelhetők, míg a szemantika kódolása, ami a legfontosabb, csak néhány bitet vesz igénybe. A méretezés önmagában nem oldaná meg ezt a problémát, mert a számítási erőforrások iránti kereslet 9-szer gyorsabban nő, mint a GPU-kínálat.
• A javasolt megoldás a diffúziós modellek és a ConvNets erősségei, különösen a konvolúciók hatékonysága a lokális részletek megjelenítésére és a diffúziós modellek kifejezőképessége a hosszú távú kontextusban.
• Björn Ommer azt is javasolja, hogy alkalmazzanak egy áramlás-illesztési megközelítést, hogy lehetővé tegyék a kis látens diffúziós modellekből származó nagy felbontású képszintézist.
• A képszintézis hatékonyságának növelésének másik megközelítése az, hogy a jelenetkompozícióra összpontosítunk, miközben a visszakeresési kiegészítést alkalmazzuk a részletek kitöltésére.
• Végül bemutatta az iPoke megközelítést a szabályozott sztochasztikus videoszintézishez.

Ha ez a részletes tartalom hasznos az Ön számára, iratkozz fel AI levelezőlistánkra figyelmeztetni kell, ha új anyagot adunk ki. 

A felelős AI sok arca 

In bemutatóját, Lora Aroyo, a Google Research kutatója kiemelte a hagyományos gépi tanulási megközelítések egyik kulcsfontosságú korlátját: pozitív vagy negatív példaként az adatok bináris kategorizációjára való támaszkodásukat. Érvelése szerint ez a túlzott leegyszerűsítés figyelmen kívül hagyja a valós forgatókönyvekben és tartalomban rejlő összetett szubjektivitást. Aroyo különféle használati eseteken keresztül bemutatta, hogy a tartalmi kétértelműség és az emberi nézőpontok természetes eltérései gyakran elkerülhetetlen nézeteltérésekhez vezetnek. Hangsúlyozta annak fontosságát, hogy ezeket a nézeteltéréseket értelmes jelzésként kezeljék, nem pedig puszta zajként.

Íme a beszélgetés legfontosabb kivonata:

• Az emberi munkások közötti nézeteltérések termékenyek lehetnek. Ahelyett, hogy az összes választ helyesnek vagy helytelennek kezelte volna, Lora Aroyo bevezette az „igazságot nézeteltérésből”, az eloszlási igazság megközelítését az adatok megbízhatóságának értékelésére az értékelői nézeteltérések kihasználásával.
• Az adatok minősége még a szakértők számára is nehéz, mert a szakértők éppúgy nem értenek egyet, mint a tömegmunkások. Ezek a nézeteltérések sokkal informatívabbak lehetnek, mint egyetlen szakértő válaszai.
  • A biztonsági értékelési feladatokban a szakértők a példák 40%-ában nem értenek egyet. Ahelyett, hogy megpróbálnánk feloldani ezeket a nézeteltéréseket, több ilyen példát kell gyűjtenünk, és felhasználnunk kell a modellek és az értékelési mutatók javítására.
• Lora Aroyo is bemutatta őket Biztonság sokszínűséggel módszer az adatok alapos vizsgálatára abból a szempontból, hogy mi van benne, és ki fűzte hozzá megjegyzéseket.
  • Ezzel a módszerrel egy benchmark adatkészletet hoztak létre, amelyben az LLM biztonsági megítélései változtak az értékelők különböző demográfiai csoportjai között (összesen 2.5 millió értékelés).
  • A beszélgetések 20%-ánál nehéz volt eldönteni, hogy a chatbot válasza biztonságos vagy nem biztonságos, mivel nagyjából azonos számú válaszadó jelölte meg őket biztonságosnak vagy nem biztonságosnak.
• Az értékelők és az adatok sokfélesége döntő szerepet játszik a modellek értékelésében. Ha nem ismerjük el az emberi nézőpontok széles skáláját és a tartalomban jelenlévő kétértelműséget, az akadályozhatja a gépi tanulási teljesítmény és a valós elvárások összehangolását.
• A mesterséges intelligencia biztonságára irányuló erőfeszítések 80%-a már most is elég jó, de a fennmaradó 20%-hoz meg kell duplázni az erőfeszítéseket az éles esetek és az összes változat kezelése érdekében a sokféleség végtelen terében.

Koherenciastatisztikák, saját maguk által generált tapasztalatok, és miért sokkal okosabbak a fiatalok, mint a jelenlegi mesterséges intelligencia 

In a beszéde, Linda Smith, az Indiana University Bloomington kiváló professzora a csecsemők és kisgyermekek tanulási folyamatainak adatritkulásának témáját járta körül. Kifejezetten az objektumfelismerésre és a névtanulásra összpontosított, és azt vizsgálta, hogy a csecsemők saját maguk által generált tapasztalatainak statisztikái hogyan kínálnak lehetséges megoldásokat az adatok ritkaságából eredő kihívásra.

Legfontosabb elvitel:

• Három éves korukra a gyerekek kifejlesztették azt a képességet, hogy különböző területeken egyszeri tanulók legyenek. A negyedik születésnapjuk előtti kevesebb mint 16,000 1,000 ébrenléti óra alatt több mint XNUMX tárgykategóriát sikerül megtanulniuk, elsajátítják anyanyelvük szintaxisát, és magukba szívják környezetük kulturális és társadalmi árnyalatait.
• Dr. Linda Smith és csapata az emberi tanulás három alapelvét fedezte fel, amelyek lehetővé teszik a gyermekek számára, hogy oly sokat rögzítsenek ilyen ritka adatokból:
  • A tanulók irányítják a bemenetet, pillanatról pillanatra alakítják és strukturálják a bemenetet. Például életük első néhány hónapjában a csecsemők hajlamosak inkább az egyszerű élű tárgyakra nézni.
  • Mivel a csecsemők tudása és képességei folyamatosan fejlődnek, erősen korlátozott tantervet követnek. Az adatok, amelyeknek ki vannak téve, alapvetően jelentős módon vannak rendezve. Például a 4 hónaposnál fiatalabb csecsemők töltik a legtöbb időt az arcok nézegetésével, körülbelül 15 percet óránként, míg a 12 hónaposnál idősebbek elsősorban a kezükre koncentrálnak, és óránként körülbelül 20 percig figyelik őket.
  • A tanulási epizódok egymással összefüggő tapasztalatok sorozatából állnak. A térbeli és időbeli összefüggések koherenciát hoznak létre, ami viszont elősegíti az egyszeri események maradandó emlékeinek kialakulását. Például, amikor véletlenszerűen kiválasztott játékokat mutatnak be nekik, a gyerekek gyakran néhány „kedvenc” játékra összpontosítanak. Ezekkel a játékokkal ismétlődő mintákat használnak, ami elősegíti a tárgyak gyorsabb megtanulását.
• A tranziens (működő) memóriák tovább fennmaradnak, mint a szenzoros bemenet. A tanulási folyamatot javító tulajdonságok közé tartozik a multimodalitás, az asszociációk, a prediktív kapcsolatok és a múltbeli emlékek aktiválása.
• A gyors tanuláshoz szövetségre van szükség az adatokat generáló és a tanuló mechanizmusok között.

Vázlatkészítés: alapvető eszközök, tanulás-kiegészítés és adaptív robusztusság 

Jelani Nelson, az UC Berkeley villamosmérnöki és számítástechnikai professzora, bevezette az adat „vázlatok” fogalmát – egy adatkészlet memóriába tömörített reprezentációja, amely továbbra is lehetővé teszi a hasznos lekérdezések megválaszolását. Bár az előadás meglehetősen technikai jellegű volt, kiváló áttekintést nyújtott néhány alapvető vázlatkészítő eszközről, beleértve a legújabb fejlesztéseket.

Főbb elvitelek:

• A CountSketch-et, az alapvető vázlatkészítő eszközt 2002-ben vezették be először a „heavy hitters” problémájának megoldására, és egy kis listát közöl az adott elemfolyamból a leggyakoribb elemekről. A CountSketch volt az első ismert szublineáris algoritmus, amelyet erre a célra használtak.
• A heavy hitterek két nem streaming alkalmazása a következők:
  • Belső pont alapú módszer (IPM), amely aszimptotikusan leggyorsabb ismert algoritmust ad a lineáris programozáshoz.
  • A HyperAttention módszer, amely az LLM-ekben használt hosszú kontextusok egyre összetettebbé váló számítási kihívásaira ad választ.
• A közelmúltban sok munka olyan vázlatok tervezésére irányult, amelyek robusztusak az adaptív interakcióhoz. A fő ötlet az adaptív adatelemzésből származó betekintések felhasználása.

A méretezési panelen túl 

Ezt nagyszerű panel nagy nyelvű modelleken Alexander Rush, a Cornell Tech docense és a Hugging Face kutatója moderálta. A többi résztvevő között volt:

• Aakanksha Chowdhery – a Google DeepMind kutatója, kutatási érdeklődési köre a rendszerek, az LLM előképzés és a multimodalitás terén. A PaLM, a Gemini és a Pathways fejlesztési csapat tagja volt.
• Angela Fan – a Meta Generative AI kutatója, aki az összehangolással, az adatközpontokkal és a többnyelvűséggel foglalkozik. Részt vett a Llama-2 és a Meta AI Assistant fejlesztésében.
• Percy Liang – a Stanford professzora, aki alkotókat, nyílt forráskódot és generatív ügynököket kutat. A Stanfordi Alapítványi Modellek Kutatási Központ (CRFM) igazgatója és a Together AI alapítója.

A megbeszélés négy fő témára összpontosított: (1) architektúrák és tervezés, (2) adatok és összehangolás, (3) értékelés és átláthatóság, valamint (4) alkotók és közreműködők.

Íme néhány kivonat ebből a panelből:

• A jelenlegi nyelvi modellek képzése önmagában nem nehéz. A Llama-2-7b-hez hasonló modellek betanításának fő kihívása az infrastrukturális követelményekben rejlik, és a több GPU, adatközpont stb. közötti koordináció szükségességében rejlik. Ha azonban a paraméterek száma elég kicsi ahhoz, hogy egyetlen GPU-n is lehessen tanítani, még egy egyetemista is tudja kezelni.
• Míg az autoregresszív modelleket általában szöveggenerálásra, a diffúziós modelleket pedig képek és videók generálására használják, kísérletek történtek ezen megközelítések megfordításával. Konkrétan a Gemini projektben egy autoregresszív modellt használnak a képalkotáshoz. Voltak kutatások a diffúziós modellek szöveggenerálásra való felhasználásával kapcsolatban is, de ezek még nem bizonyultak kellően hatékonynak.
• Tekintettel az angol nyelvű adatok korlátozott elérhetőségére a képzési modellekhez, a kutatók alternatív megközelítéseket vizsgálnak. Az egyik lehetőség a multimodális modellek képzése szöveg, videó, kép és hang kombinációján, azzal az elvárással, hogy az ezekből az alternatív módozatokból elsajátított készségek átkerüljenek a szövegbe. Egy másik lehetőség a szintetikus adatok használata. Fontos megjegyezni, hogy a szintetikus adatok gyakran keverednek valós adatokkal, de ez az integráció nem véletlen. Az online közzétett szövegek általában emberi gondozáson és szerkesztésen esnek át, ami további értéket adhat a modellképzés számára.
• A nyílt alapozású modelleket gyakran hasznosnak tartják az innováció szempontjából, de potenciálisan károsak az AI biztonságára nézve, mivel rosszindulatú szereplők kihasználhatják őket. Dr. Percy Liang azonban azzal érvel, hogy a nyitott modellek is pozitívan járulnak hozzá a biztonsághoz. Azzal érvel, hogy hozzáférhetőségükkel több kutatónak adnak lehetőséget mesterséges intelligencia-biztonsági kutatások elvégzésére és a lehetséges sebezhetőségek modelljének áttekintésére.
• Napjainkban az adatok annotálása lényegesen nagyobb szakértelmet igényel az annotáció területén, mint öt évvel ezelőtt. Ha azonban az AI-asszisztensek a jövőben az elvárásoknak megfelelően teljesítenek, több értékes visszajelzési adatot fogunk kapni a felhasználóktól, ami csökkenti az annotátoroktól származó kiterjedt adatokra való támaszkodást.

​Rendszerek alapozási modellekhez és alapozási modellek rendszerekhez 

In ezt a beszélgetést, Christopher Ré, a Stanford Egyetem Számítástudományi Tanszékének docense bemutatja, hogyan változtatták meg az alapmodellek az általunk felépített rendszereket. Azt is megvizsgálja, hogyan lehet hatékonyan felépíteni alapozási modelleket, kölcsönözve az adatbázis-rendszerek kutatásából származó betekintést, és tárgyalja a Transformernél potenciálisan hatékonyabb alapozási modelleket.

Íme a beszélgetés legfontosabb részlete:

• Az alapozási modellek hatékonyan kezelik az „1000-es halálozással” kapcsolatos problémákat, ahol minden egyes feladat viszonylag egyszerű lehet, de a feladatok szélessége és sokfélesége jelentős kihívást jelent. Jó példa erre az adattisztítási probléma, amelynek megoldásában az LLM-ek ma már sokkal hatékonyabban tudnak segíteni.
• Ahogy a gyorsítók felgyorsulnak, a memória gyakran szűk keresztmetszetként jelenik meg. Ez egy olyan probléma, amellyel az adatbázis-kutatók évtizedek óta foglalkoznak, és néhány stratégiájukat átvehetjük. Például a Flash Attention megközelítés minimalizálja a bemeneti-kimeneti áramlást a blokkolással és az agresszív összeolvadással: amikor hozzáférünk egy információhoz, a lehető legtöbb műveletet hajtjuk végre rajta.
• Létezik az architektúrák egy új osztálya, amely a jelfeldolgozásban gyökerezik, és amely hatékonyabb lehet, mint a Transformer modell, különösen a hosszú sorozatok kezelésében. A jelfeldolgozás stabilitást és hatékonyságot kínál, megalapozva az olyan innovatív modelleket, mint az S4.

Online megerősítő tanulás a digitális egészségügyi beavatkozásokban 

In a beszéde, Susan Murphy, a Harvard Egyetem statisztika és számítástechnika professzora megosztotta az első megoldásokat néhány olyan kihívásra, amelyekkel szembe kell nézniük a digitális egészségügyi beavatkozásokhoz használható online RL algoritmusok fejlesztése során.

Íme néhány kivonat az előadásból:

• Dr. Susan Murphy két projektről beszélt, amelyeken jelenleg is dolgozik:
  • HeartStep, ahol az okostelefonokról és hordható nyomkövetőkről származó adatok alapján tevékenységeket javasoltak, és
  • Oralitika szájhigiénés coachinghoz, ahol a beavatkozások egy elektronikus fogkefétől kapott elköteleződési adatokon alapultak.
• Az AI-ügynök viselkedési politikájának kidolgozásakor a kutatóknak biztosítaniuk kell, hogy az autonóm legyen, és megvalósítható legyen a tágabb egészségügyi rendszerben. Ez azt jelenti, hogy gondoskodni kell arról, hogy az egyén elköteleződéséhez szükséges idő ésszerű legyen, és hogy az ajánlott cselekvések etikailag megalapozottak és tudományosan megalapozottak legyenek.
• A digitális egészségügyi beavatkozásokhoz szükséges RL-ágens kifejlesztésének elsődleges kihívásai közé tartozik a magas zajszint kezelése, mivel az emberek élik életüket, és nem mindig tudnak válaszolni az üzenetekre, még akkor sem, ha akarnának, valamint az erős, késleltetett negatív hatások kezelése. .

Mint látható, a NeurIPS 2023 megvilágító bepillantást nyújtott az AI jövőjébe. A meghívott beszélgetések rávilágítottak a hatékonyabb, erőforrás-tudatos modellek irányába, valamint a hagyományos paradigmákon túlmutató újszerű architektúrák feltárására.

Tetszett ez a cikk? Iratkozzon fel további AI-kutatási frissítésekért.

Értesíteni fogunk, ha több ehhez hasonló összefoglaló cikket adunk ki.

Összefüggő

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.topbots.com/neurips-2023-invited-talks/