Banker som veier ChatGPTs potensial – og farer

Banker som veier ChatGPTs potensial – og farer

Tidsstempel: 10. juli 2023 5:54
Banker som veier ChatGPTs potensial – og farer PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Teknologisjefer i finansinstitusjoner ser på hvordan ChatGPT og andre språklæringsmodeller (LLM) kan gi produktivitetsgevinster – og på hindringene de må hoppe før de kan distribuere slik programvare.

LLM-er fanget oppmerksomheten til bankene sammen med resten av verden da det amerikanske programvareselskapet OpenAI ga ut sin ChatGPT i november 2022. Kraften til denne formen for kunstig intelligens er intuitiv, og ChatGPT har mer enn 100 millioner brukere (hvorav bare 12 prosent er fra USA, ifølge demandsage.com).

Google og andre har siden gitt ut sine egne LLM-er, og Microsoft (som eier OpenAI) lisensierer GPT-plugin-moduler via sin Azure-skyvirksomhet for bedrifter.

Men hvordan kan finansinstitusjoner faktisk bruke denne teknologien?

Mange banker og selskaper har forbudt sine ansatte å bruke den, av frykt for at de frigir proprietær eller kundeinformasjon til det offentlige domenet – fordi når du først søker etter data til ChatGPTs nettplattform, er det søkbart.

Bankene er også på vakt mot LLMs tendens til å "hallusinere", dvs. finne på svar og presentere dem som fakta. Det gjør det farlig å sette foran kunder eller regulatorer, eller å stole på for kritiske beslutninger.

I forrige uke delte tre teknologitjenestemenn sine syn på ChatGPT, og talte på et arrangement i Hong Kong arrangert av GienTech, en kinesisk teknologileverandør til finansinstitusjoner.

Tilnærmingen deres varierer, avhengig av deres forretningsbehov, og hvor de står når det gjelder egen digitalisering.

Livi Bank

Livi Bank er en av Hong Kongs lisensierte virtuelle banker. Dens CTO, Gary Lam, bemerket at den ikke trenger å gjennomgå digital transformasjon: den ble født virtuelt, med en skybasert teknologistabel. Den er avhengig av taktikk lånt fra e-handelsselskaper for å skaffe kunder, inkludert nettbasert annonsering og kampanjer.

På den ene siden er den allerede gjennomsyret av bruken av kunstig intelligens. Den er avhengig av AI for aspekter ved kundeonboarding, for eksempel ansiktsgjenkjenning og svindeldeteksjon. På den annen side, sier Lam som en virtuell institusjon, livi er enda mer følsom for cybersikkerhetsrisiko.

Derfor krever generativ AI minst samme grad av risikostyring og omsorg.

"Gen AI er et stykke programvare. Jeg ville brukt samme standard beskyttelse mot tap av data som andre moduler i stabelen. Vi kan imidlertid trenge ytterligere filtre før vi slipper ChatGPT-meldinger til kundene våre.»

Dette er under utforskning, fordi LLM-er kan sette turbo på produktiviteten i klientkommunikasjon og -service. Men det samme gjelder interne brukere, som Lam sier kan inkludere kodere, relasjonsledere og risikoansvarlige.

Den største interne brukssaken er å bruke spørringer på menneskelige språk for å søke i store mengder regulatoriske dokumenter. "Vi kan ha en menneskelignende søkemotor for å gå gjennom en stor mengde materiale," sa han.

WeBank

Tencent-eide WeBank er en av verdens mest sofistikerte digitale banker, med 360 millioner privatkunder etter bare åtte års drift på fastlands-Kina. Den er avhengig av sin egenutviklede teknologi for å kunne betjene kunder med en gjennomsnittlig inntekt som er for lav for en tradisjonell bank å håndtere. WeBank er plakatbarnet for rask innovasjon i stor skala innen forbrukerbank.

LLM-er representerer en reell endring, sa Yao Huiya, Shenzhen-basert leder for fintech-innovasjon. Men WeBank skynder seg ikke ut en GPT-tjeneste for å samhandle med kunder: det ville være for risikabelt, spesielt for en regulert institusjon. "I sin natur kan du ikke unngå at den snakker dumme ting," sa han.

Det er usannsynlig at WeBank vil bruke LLM-er basert på det offentlige internett, gitt risikoen for å avsløre data og brudd på regelverk. Men det er finjustering av de som er mindre og som kun får tilgang til bankens egne data.

Yao sier at LLM-er kan distribueres for å forbedre produktiviteten til bankens kundeombordstignings- og SMB-utlånsprosesser. Modellen kan foreslå gode tidspunkter for å kontakte kunder om et lån, hvordan tilpasse en innledende kontakt, og forbedre utlånsbokens ytelse, ved å hjelpe kredittansvarlige med å analysere bedriftsdata.

Yao tviler på at LLM-er vil erstatte kredittteam. "Det vil sette mennesket i løkken, slik at de kan stille generative AI-spørsmål for å ta bedre beslutninger."

Påvirkningen vil merkes i bankens teknologiske infrastruktur. "Datakraften vil skifte fra CPUer til GPUer," sa han og refererte til typer prosessorer. "Arkitekturen vår vil trenge plugins slik at vi kan distribuere flere modeller og kjøre A/B-tester på dem."

Dette kommer til å gjelde for alle virksomheter, ikke bare digitale banker. "Dette vil endre arkitekturen til hele verden," sa Yao. "Konsekvensen av LLM-er vil ikke ta slutt."

Hong Kong Jockey Club

Hong Kong Jockey Club er ikke en lisensiert finansinstitusjon, men den driver med mange finanslignende aktiviteter. Den har monopol i Hong Kong på hesteveddeløp og fotballspill. I likhet med andre organisasjoner blir den digital, for eksempel ved å bruke data for sine satsingssystemer – og som andre etablerte operatører har den sine egne problemer å kjempe med.

Li Sai-Chin, daglig leder for data- og analyseløsninger, sier ChatGPT tvinger Jockey Club til å rykke ut. "Det har skapt en trinnvis endring i tenkningen om data og analyser." Det er en nyttig vekker for mange ledere om behovet for å omfavne digitalt.

Å satse på hester innebærer mye data: folk ser på informasjon som spredninger og heste- og jockey-sporrekorder før de plasserer veddemål. "Vi forventer at de stiller flere spørsmål," sa Li, noe som gjør noe som ChatGPT potensielt relevant.

Dette er en måte å hjelpe Jockey Club å engasjere seg mer regelmessig med sine kunder. For eksempel, i løpet av sesongen, arrangerer klubben to økter med hesteveddeløp hver uke. De andre dagene er det ingen interaksjon med spillere. Erfarne chatbots kan tillate kunder å samhandle og stille flere spørsmål mer regelmessig.

Det første trinnet er å oppmuntre folk til å samhandle med klubbens data mer regelmessig. Gradvis ser Li at klubben bruker sensorer på eiendommen sin for å gi brukere en sanntidsspørring og dataopplevelse når de vandrer rundt, sjekker ut hestene, tar en øl eller legger et veddemål.

"Vi jobber mye med å tenke på offline-til-nett-opplevelsen," sa han. "Hvis vi samhandler med dem i sanntid når de går forbi ett område, kan vi peke ut den neste hesten de vil se?"

Tidstempel:

Mer fra DigFin