Bancos avaliando o potencial do ChatGPT – e perigos

Os chefes de tecnologia das instituições financeiras estão analisando como o ChatGPT e outros modelos de aprendizado de idiomas (LLMs) podem oferecer ganhos de produtividade - e os obstáculos que precisam superar antes de implantar esse software.

Os LLMs chamaram a atenção dos bancos junto com o resto do mundo quando a empresa de software americana OpenAI lançou seu ChatGPT em novembro de 2022. O poder dessa forma de inteligência artificial é intuitivo e o ChatGPT possui mais de 100 milhões de usuários (dos quais apenas 12 por cento são dos EUA, de acordo com demandage.com).

Desde então, o Google e outros lançaram seus próprios LLMs, e a Microsoft (dona da OpenAI) está licenciando plug-ins GPT por meio de seu negócio de nuvem Azure para empresas.

Mas como as instituições financeiras podem realmente usar essa tecnologia?

Muitos bancos e corporações proibiram seus funcionários de usá-lo, com medo de liberar informações proprietárias ou de clientes para o domínio público - porque uma vez que você consulta os dados na plataforma online do ChatGPT, eles podem ser pesquisados.

---

---

Os bancos também desconfiam da tendência dos LLMs de “alucinar”, ou seja, inventar respostas e apresentá-las como fatos. Isso torna perigoso colocar na frente de clientes ou reguladores, ou confiar em decisões críticas.

Na semana passada, três funcionários de tecnologia compartilharam suas opiniões sobre o ChatGPT, falando em um evento em Hong Kong organizado pela GienTech, um fornecedor chinês de tecnologia para instituições financeiras.

Sua abordagem varia, dependendo de suas necessidades de negócios e de sua própria digitalização.

Banco Livi

O Livi Bank é um dos bancos virtuais licenciados de Hong Kong. Seu CTO, Gary Lam, observou que não precisa passar pela transformação digital: nasceu virtualmente, com uma pilha de tecnologia baseada em nuvem. Baseia-se em táticas emprestadas de empresas de comércio eletrônico para adquirir clientes, incluindo publicidade e promoções online.

Por um lado, já está imerso nos usos da inteligência artificial. Ele conta com IA para aspectos de integração do cliente, como reconhecimento facial e detecção de fraudes. Por outro lado, Lam diz que, como instituição virtual, a livi é ainda mais sensível aos riscos de segurança cibernética.

Portanto, a IA generativa requer pelo menos o mesmo grau de gerenciamento de risco e cuidado.

“Gen AI é um pedaço de software. Eu aplicaria as mesmas proteções padrão contra perda de dados dos outros módulos da pilha. Podemos precisar de filtros adicionais, no entanto, antes de liberar as mensagens do ChatGPT para nossos clientes.”

Isso está sendo explorado, porque os LLMs podem turbinar a produtividade nas comunicações e serviços aos clientes. Mas o mesmo vale para usuários internos, que Lam diz que podem incluir codificadores, gerentes de relacionamento e gerentes de risco.

O maior caso de uso interno é o uso de consultas em linguagem humana para pesquisar vastos tesouros de documentos regulamentares. “Podemos ter um mecanismo de busca semelhante ao humano para examinar uma grande quantidade de material”, disse ele.

WeBank

O WeBank, de propriedade da Tencent, é um dos bancos digitais mais sofisticados do mundo, com 360 milhões de clientes de varejo após apenas oito anos de operação na China continental. Ele conta com sua tecnologia proprietária para ser capaz de atender clientes de forma lucrativa com receitas médias muito baixas para um banco tradicional. O WeBank é o garoto-propaganda da rápida inovação em escala no setor de serviços bancários ao consumidor.

Os LLMs representam uma mudança real, disse Yao Huiya, chefe de inovação fintech de Shenzhen. Mas o WeBank não está apressando um serviço GPT para interagir com os clientes: isso seria muito arriscado, especialmente para uma instituição regulamentada. “Por sua natureza, você não pode evitar que fale coisas estúpidas”, disse ele.

É improvável que o WeBank use LLMs baseados na Internet pública, dados os riscos de expor dados e violar regulamentos. Mas são os de sintonia fina que são menores e que acessam apenas os dados do próprio banco.

Yao diz que os LLMs podem ser implantados para melhorar a produtividade dos processos de integração de clientes e empréstimos para PMEs do banco. O modelo pode sugerir bons momentos para entrar em contato com os clientes sobre um empréstimo, como personalizar um contato introdutório e melhorar o desempenho do livro de empréstimos, ajudando os agentes de crédito a analisar os dados da empresa.

Yao duvida que os LLMs substituirão as equipes de crédito. “Isso colocará o ser humano no circuito, para que ele possa fazer perguntas generativas de IA para tomar melhores decisões.”

O impacto será sentido na infraestrutura tecnológica do banco. “O poder de computação mudará de CPUs para GPUs”, disse ele, referindo-se aos tipos de processadores. “Nossa arquitetura precisará de plug-ins para que possamos implantar vários modelos e executar testes A/B neles.”

Isso será verdade para todas as empresas, não apenas para os bancos digitais. “Isso mudará a arquitetura do mundo inteiro”, disse Yao. “O impacto dos LLMs não vai acabar.”

Hong Kong Jockey Club

O Hong Kong Jockey Club não é uma instituição financeira licenciada, mas se envolve em muitas atividades financeiras. Tem o monopólio em Hong Kong sobre corridas de cavalos e apostas de futebol. Como outras organizações, ela está se tornando digital, usando dados para seus sistemas de apostas – e, como outras empresas estabelecidas, ela tem seus próprios problemas herdados para enfrentar.

Li Sai-Chin, gerente executivo de soluções de dados e análises, diz que o ChatGPT está forçando o Jockey Club a se mexer. “Ele criou uma mudança radical no pensamento sobre dados e análises.” É um alerta útil para muitos executivos sobre a necessidade de adotar o digital.

Apostar em cavalos envolve muitos dados: as pessoas analisam informações como spreads e recordes de cavalos e jóqueis antes de fazerem suas apostas. “Esperamos que eles façam mais perguntas”, disse Li, o que torna algo como o ChatGPT potencialmente relevante.

Esta é uma forma de ajudar o Jockey Club a interagir mais regularmente com os seus clientes. Por exemplo, durante a temporada, o clube organiza duas sessões de corridas de cavalos por semana. Nos outros dias, não há interação com os apostadores. Chatbots experientes podem permitir que os clientes interajam e façam mais perguntas com mais regularidade.

O primeiro passo é incentivar as pessoas a interagir com os dados do clube com mais regularidade. Gradualmente, Li vê o clube usando sensores dentro de seu terreno para fornecer uma consulta em tempo real e experiência de dados para os usuários enquanto eles andam, verificando os cavalos, pegando uma cerveja ou fazendo uma aposta.

“Estamos trabalhando muito pensando na experiência off-line para on-line”, disse ele. “Se estivermos interagindo com eles em tempo real enquanto eles passam por uma área, podemos apontar o próximo cavalo que eles gostariam de ver?”

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Automotivo / EVs, Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• BlockOffsets. Modernizando a Propriedade de Compensação Ambiental. Acesse aqui.
• Fonte: https://www.digfingroup.com/chatgpt-banks/