Tre GenAI-vilkår finansutøvere lærte i 2023

Publisert av Platon

Følgere: 0

Tre GenAI-vilkår Finansbehandlere lærte i 2023 PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

2023 var et plagsomt år for mange på planeten vår – kriger, vold, befolkningsforflytning, katastrofer, ekstremisme, høyere levekostnader og fattigdom. Folk som jobbet i bransjen vår var relativt heldige, noen av oss ble styrket av den spennende GenerativeAI-tornadoen. Akkurat som HFT forvandlet vokabularet til kapitalmarkeder på 2000-tallet, og digitaliseringen transformerte bank- og finanstjenester på 2010-tallet, har GenAI brakt oss et nytt AI-leksikon, i en viss fart også.

Med den møtte vi mange begreper, mange knapt brukt i 2022, men som nå har nye eller helt andre betydninger. Jeg og mange andre i Financial Services bruker dem daglig hver dag. Hvis du er en av de (u)heldige som ikke gjør det, her er en rask oppfriskning av mine tre favoritter!

Term 1: Vektordatabasen

Den såkalte vektordatabasen har blitt kjernen i mange GenAI-stabler for bedrifter, som et middel til å forbedre kvaliteten på svar på forespørsler. Alternativene, for eksempel å "finjustere" store språkmodeller [LLM] uten en medfølgende database, er dyre og fulle av risiko- og overholdelseskostnader. En vektordatabase fanger opp proprietær bedriftsinformasjon, gir kostnadseffektivitet og gir sammenlignende kontroll. Finansielle tjenestefirmaer står absolutt i kø for å bruke vektordatabaser.

Ironisk nok innen finans har vektorer i årevis vært en integrert del av matrisealgebraen som er dominerende innen handel og risikostyring. Datalagring av slike "vektorer" og matriser har også eksistert i flere tiår, typisk i kolonneformede databaser, eller som tabeller eller datarammer brukt i språk som Python (Pandas), R, MATLAB og SAS. Når de hentes og brukes, for eksempel som økonomiske tidsserier og paneldata, i forbindelse med teknikker som lineære og tidsserieregresjoner, driver de prediktiv analyse, avviksdeteksjon og økonometri. De hjelper også med å informere om backtesting, spesielt om handel, porteføljestyring og risikostrategier. Mens kapitalmarkedene – front- og mellomkontoret – ledet anklagen om matrisealgebra, tok stadig mer analytisk-sentriske brukssaker som markedsføring, svindeloppdagelse og digitalisering generelt datavitenskap – og vektorer – på tvers av finansielle organisasjoner.

Jeg ble derfor fascinert da en tidligere kollega gikk på jobb for en oppstart av «vektordatabase» i juni 2021. Hans artikkel om

Løse komplekse problemer med vektordatabaser fra pre-ChatGPT mars 2022 fanget mitt øye fordi han fremhevet svært spesifikke vektortyper – vektorinnbygginger – kodede lettsøkte navigerbare vektorer som fanger kunnskap fra ustrukturert informasjon som ord, bilder osv. Da ChatGPT ble lansert senere samme år, ble vektorlagre av slike innebyggingstyper ble opphøyet til å være nøkkelredskaper for å håndtere semantisk mening. Vanligvis er butikker vektordatabaser, hvorav

det er nå mange. Allerede driver de finanstjenester og kapitalmarkedsapper, som oftest

brukstilfeller for naturlig språkbehandling, for eksempel oppsummering av juridiske dokumenter og økonomiske rapporter, eller fange opp følelser fra sosiale medier og nyhetsfeeds. Imidlertid takler de også mer

involverte søknader, utvider handels- og risikostyringsinnsikter for eksempel, ofte sammen med tradisjonell statistikk og maskinlæring.

For øvrig ble selskapet min tidligere kollega gikk for å bli en GenAI-enhjørning, verdsatt til sunne $750 millioner. Bra jobba hvis du kan få det!

Termin 2: RAG, aka Retrieval Augmented Generation

RAG var knapt et ord på noens lepper våren 2023, i det minste i den store RAG-forstanden «Retrieval Augmented Generation» av begrepet. Googles søkestatistikk for begrepene ble akselerert fra ca. juli 2023, og innen høsten/høsten var RAG overalt, den dominerende pipeline-tilnærmingen der vektordatabaser hjelper til med å temme Large Language Model "stokastiske papegøyer". På den ene siden innkapsler RAG rørledninger for å levere bedriftsdataarbeidsflyter, og på den andre hjelper det pragmatisk finansfirmaer med å redusere hallusinasjoner og imøtekomme interne – og eksterne – risikostyrings- og AI-overholdelsesprosesser.

Det finnes
mange typer RAG rørledninger, og de kan virke skremmende komplekse. Tenk imidlertid på RAG ganske enkelt som å tilby en datapipeline mellom forespørsler, bedriftsdata og store språkmodeller. For å lære mer og se hvordan det påvirker økonomi, les min

finextra blogg eller se
denne flotte webcasten oppsummerer risikostyringsmulighetene til RAG. Hvis du begynner å implementere dem når som helst, vil du sannsynligvis utforske "RAG-vennlige" miljøer som LangChain &
Lamaindeks.

Termin 3: Hallusinasjoner

Jeg brukte begrepet "hallusinasjoner" i min forrige del, og poserte det som et problem løst av RAG, og på sin side av vektordatabaser. Med GenAI er hallusinasjoner ikke lenger bare utløsere av tankestimulerende kreativitet, som det stoff-inspirerte Sergeant Pepper’s Lonely Hearts Club Band av Beatles, eller Beachboys’ Good Vibrations. De er heller ikke forbeholdt sjamanistiske drømmer som praktiseres av mange folkeslag, f.eks.
østlige sibirske tsjuktsjerfolk, og heller ikke fysiske aktiviteter som bruker tankeendrende teknikker, som yoga, massasje og tantrisk sex. Ordet "hallusinasjon" gjelder nå også for LLMs feil ved å navigere i informasjon modellene ikke har tilgang til, eller misbruke eksisterende informasjon. Det ble veldig tydelig veldig raskt

ChatGPT, Bard og lignende systemer var utsatt for produserte "hallusinatoriske" svar, og disse ga risiko når dårlig informerte handlinger fulgte.

Her er vrien. AI-investor Marc Andreessen foreslår at selv om de fleste ser hallusinasjoner som feil, kan de være nyttige som funksjoner når AI brukes som en medskaper, en foreslår og en gjetter. Som en idédugnadshjelp kan deres oppdiktede gjetninger gi energi til menneskelig kreativitet. Andreessen fremhever for eksempel hvordan advokater bruker AIs «oppbygde» forslag under saksforberedelser for å forestille seg nye juridiske strategier. I finansielle tjenester bruker tradere på Wall Street allerede generative AI- og vektordatabaser for å finne handelsmuligheter – å sikkre når massene skravler.

Uansett hva du synes om GenAI, har det absolutt gitt oss et herlig nytt leksikon!