Drie GenAI-termen die financiële professionals in 2023 hebben geleerd

Drie GenAI-termen die financiële professionals in 2023 hebben geleerd

Tijdstempel: 3 januari 2024 9:31 uur
Drie GenAI-termen die financiële professionals hebben geleerd in 2023 PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

2023 was voor velen op onze planeet een lastig jaar – oorlogen, geweld, ontheemding van de bevolking, catastrofes, extremisme, hogere kosten van levensonderhoud en armoede. De mensen die in onze branche werkten hadden relatief veel geluk, sommigen van ons werden versterkt door de opwindende GenerativeAI-tornado. Net zoals HFT in de jaren 2000 het vocabulaire van de kapitaalmarkten transformeerde, en de digitalisering in de jaren 2010 het vocabulaire van de bank- en financiële diensten transformeerde, heeft GenAI ons ook met behoorlijke snelheid een nieuw AI-lexicon gebracht.

Daarmee kwamen we veel termen tegen, waarvan er vele in 2022 amper gebruikt werden, maar nu een nieuwe of heel andere betekenis hebben. Ik en vele anderen in de financiële dienstverlening gebruiken ze elke dag intraday. Als je een van de weinige gelukkigen bent die dat niet doet, dan is hier een snelle opfrisser van mijn favoriete drie!

Term 1: De vectordatabase

De zogenaamde vectordatabase is de kern geworden van veel GenAI-stacks van ondernemingen, als een middel om de kwaliteit van de reacties op prompts te verbeteren. De alternatieven, bijvoorbeeld het “verfijnen” van grote taalmodellen [LLM] zonder een bijbehorende database, zijn duur en gepaard met risico’s en compliance-overheads. Een vectordatabase legt bedrijfseigen informatie vast, zorgt voor kosteneffectiviteit en biedt vergelijkende controle. Financiële dienstverleners staan ​​zeker in de rij om vectordatabases te gebruiken.

Ironisch genoeg zijn vectoren in de financiële wereld al jaren een integraal onderdeel van de matrixalgebra die overheersend is in handel en risicobeheer. Gegevensopslag van dergelijke ‘vectoren’ en matrices bestaat ook al tientallen jaren, meestal in kolomvormige databases, of als tabellen of dataframes die worden gebruikt in talen als Python (Pandas), R, MATLAB en SAS. Wanneer ze worden opgehaald en gebruikt, bijvoorbeeld als financiële tijdreeksen en panelgegevens, in combinatie met technieken als lineaire en tijdreeksregressies, sturen ze voorspellende analyses, anomaliedetectie en econometrie aan. Ze helpen ook bij backtesting, met name op het gebied van handel, portefeuillebeheer en risicostrategieën. Terwijl de kapitaalmarkten – de front- en middle-office – de leiding hadden over de matrixalgebra, namen steeds meer op analytisch gerichte use cases zoals marketing, fraudedetectie en digitalisering over het algemeen datawetenschap – en vectoren – door de financiële organisaties heen.

Ik was dan ook gefascineerd toen een oud-collega in juni 2021 ging werken voor een ‘vector database’ start-up. Zijn artikel over

Complexe problemen oplossen met vectordatabases uit pre-ChatGPT maart 2022 trok mijn aandacht omdat hij zeer specifieke vectortypen benadrukte – vectorinbedding – gecodeerde, gemakkelijk doorzoekbare navigeerbare vectoren die kennis vastleggen uit ongestructureerde informatie zoals woorden, afbeeldingen, enz. Toen ChatGPT later dat jaar werd gelanceerd, werden vectoropslag van dergelijke Inbeddingstypen werden verheven tot sleutelvehikels voor het beheren van semantische betekenis. Meestal zijn winkels vectordatabases, waarvan

er zijn er nu veel. Meestal zijn ze al de drijvende kracht achter financiële diensten en kapitaalmarkten-apps

Gebruiksscenario's voor natuurlijke taalverwerking, bijvoorbeeld het samenvatten van juridische documenten en financiële rapporten, of het vastleggen van sentiment uit sociale media en nieuwsfeeds. Ze pakken echter ook meer aan

betrokken toepassingen, waardoor bijvoorbeeld de inzichten in handel en risicobeheer worden vergroot, vaak naast traditionele statistieken en machinaal leren.

Overigens werd het bedrijf waar mijn voormalige collega bij ging werken een GenAI-eenhoorn, gewaardeerd op een gezonde $ 750 miljoen. Knap werk als je het kunt krijgen!

Termijn 2: RAG, aka Ophalen Augmented Generation

RAG was in het voorjaar van 2023 nauwelijks een woord op iemands lippen, althans in de met een hoofdletter geschreven RAG ‘Retrieval Augmented Generation’-zin van het woord. De zoekstatistieken van Google voor de termen versnelden vanaf ongeveer juli 2023 en tegen de herfst/herfst was RAG overal aanwezig, de overheersende pijplijnbenadering waarmee vectordatabases de ‘stochastische papegaaien’ van het Large Language Model helpen temmen. Aan de ene kant kapselt RAG pijplijnen in om bedrijfsdataworkflows te leveren en aan de andere kant helpt RAG financiële bedrijven op pragmatische wijze hallucinaties te verminderen en interne – en externe – risicobeheer- en AI-complianceprocessen mogelijk te maken.  

Er zijn
vele soorten RAG pijpleidingen, en ze kunnen intimiderend complex lijken. U kunt RAG echter eenvoudigweg zien als het bieden van een gegevenspijplijn tussen aanwijzingen, uw bedrijfsgegevens en grote taalmodellen. Voor meer informatie en om te zien hoe dit de financiën beïnvloedt, lees mijn

fijne extra blog of kijken
deze geweldige webcast een samenvatting van de risicobeheermogelijkheden van RAG. Als u ze op enig moment begint te implementeren, zult u waarschijnlijk “RAG-vriendelijke” omgevingen verkennen, zoals LangChain &
LamaIndex.

Term 3: Hallucinaties

Ik gebruikte de term ‘hallucinaties’ in mijn vorige paragraaf en stelde het voor als een probleem dat werd opgelost door RAG, en op zijn beurt door vectordatabases. Met GenAI zijn hallucinaties niet langer louter triggers van geeststimulerende creativiteit, zoals de door drugs geïnspireerde Sergeant Pepper’s Lonely Hearts Club Band van de Beatles, of Good Vibrations van de Beachboys. Ze zijn ook niet voorbehouden aan sjamanistische dromen die door veel volkeren worden beoefend.
Oost-Siberische Chukchi-volkeren, noch fysieke activiteiten waarbij gebruik wordt gemaakt van geestverruimende technieken, zoals yoga, massage en tantrische seks. Het woord ‘hallucinatie’ is nu ook van toepassing op het falen van LLM’s om door informatie te navigeren waartoe de modellen geen toegang hebben, of om bestaande informatie te misbruiken. Dat werd heel snel heel duidelijk

ChatGPT, Bard en soortgelijke systemen waren gevoelig voor gefabriceerde ‘hallucinerende’ reacties, en deze brachten risico's met zich mee toen er slecht geïnformeerde acties volgden. 

Hier is de wending. AI-investeerder Marc Andreessen suggereert dat hoewel de meesten hallucinaties als bugs zien, ze nuttig kunnen zijn als features wanneer AI wordt gebruikt als een soort bug. medeschepper, een suggestieve persoon en een raadgever. Als hulpmiddel bij het brainstormen kunnen hun verzonnen gissingen de menselijke creativiteit voeden. Andreessen benadrukt bijvoorbeeld hoe advocaten de ‘verzonnen’ suggesties van AI gebruiken tijdens de voorbereiding van een zaak om nieuwe juridische strategieën te bedenken. In de financiële dienstverlening maken handelaren op Wall Street al gebruik van generatieve AI en vectordatabases om handelsmogelijkheden te vinden – om te zigzaggen als de massa ziet.

Wat je ook van GenAI vindt, het heeft ons zeker een prachtig nieuw lexicon opgeleverd!

Tijdstempel:

Meer van Fintextra