Como bancos e serviços financeiros podem abordar ChatGPT e IA generativa

Em sua última carta anual aos acionistas, o CEO do JPMorgan Chase, Jamie Dimon, parece mais o fundador de uma fintech startup, e não um dos maiores bancos do mundo cujas raízes remontam a 1799. Mas, novamente, o foco na inovação tem sido crítico para o longevidade da empresa icônica.

“A inteligência artificial (IA) é uma tecnologia extraordinária e inovadora. A IA e a matéria-prima que a alimenta, os dados, serão essenciais para o sucesso futuro de nossa empresa — a importância da implementação de novas tecnologias simplesmente não pode ser exagerada”, Dimon notado na carta.

O JPMorgan Chase tem mais de 300 casos de uso de IA em produção, abrangendo marketing, experiência do cliente, gerenciamento de riscos e prevenção de fraudes.

Tecnologias emergentes, incluindo IA generativa, modelos de linguagem ampla (LLMs) e ChatGPT também são as principais preocupações da empresa. Dimon disse: “Estamos imaginando novas maneiras de aumentar e capacitar os funcionários com IA por meio de ferramentas e fluxo de trabalho colaborativos centrados no ser humano, aproveitando ferramentas como grandes modelos de linguagem, incluindo o ChatGPT”.

O lançamento do ChatGPT é uma reminiscência do navegador Netscape, que anunciou a revolução da internet em meados dos anos 90. No entanto, é importante observar que a adoção de IA generativa precisa fazer parte de uma estratégia bem pensada que considere segurança, IA responsável e as necessidades das partes interessadas. Embora essa tecnologia ofereça benefícios claros, também há perigos.

Segurança e Conformidade

Pode parecer irônico, mas no início deste ano o JPMorgan banido funcionários de usar o ChatGPT - e a empresa não era a única. As principais instituições financeiras, incluindo Citi, Bank of America, Wells Fargo e Goldman Sachs, também impõem restrições ao ChatGPT.

Isso não deveria ser uma surpresa, nem uma decepção. Como os bancos precisam lidar com regulamentações onerosas — leis de conhecimento do cliente (KYC) e antilavagem de dinheiro (AML) — quando surge uma nova tecnologia, é importante adotar uma abordagem mais conservadora. Segurança e conformidade são sacrossantos.

Ferramentas generativas de IA, como ChatGPT e GPT-4, já demonstraram riscos claros. Por exemplo, os modelos tendem a ter alucinações e, como resultado, o conteúdo gerado é falso ou enganoso.

Também pode ser quase impossível entender como os modelos generativos de IA estão apresentando respostas. Esses sistemas são essencialmente “caixas pretas”. Afinal, os maiores modelos têm centenas de bilhões de parâmetros e são quase impossíveis de decifrar.

Depois, há os problemas persistentes com preconceito e justiça. Isso ocorre porque os modelos generativos de IA são treinados em grandes quantidades de conteúdo disponível publicamente, como Wikipedia e Reddit.

Por fim, o uso de modelos generativos de IA é realizado principalmente por APIs. Isso significa que um banco enviará informações de seus próprios centros de dados privados, apresentando riscos de conformidade para privacidade e residência de dados. De fato, várias falhas de segurança já ocorreram. Em março, a OpenAI divulgou que houve exposição de informações de pagamentos para seu serviço de assinatura ChatGPT. Para cerca de 1.2% da base de assinantes, mostrava nomes de usuários, e-mails e endereços de pagamento. Também foram divulgados os últimos quatro dígitos dos números de cartão de crédito, bem como as datas de vencimento. A violação foi o resultado de bugs em um sistema de código aberto.

Casos de uso

Dados os desafios e riscos associados à IA generativa, bancos e serviços financeiros precisam adotar uma abordagem cautelosa. Isso significa que pode ser uma boa ideia evitar aplicativos voltados para o cliente - pelo menos por enquanto.

Em vez disso, uma abordagem melhor é experimentar operações internas, especialmente onde não há uso de PII (Informações de identificação pessoal). O marketing seria um bom lugar para começar, pois a criatividade é um atributo-chave da IA ​​generativa. Embora a tecnologia não esteja pronta para fazer os rascunhos finais, ela pode ajudar a gerar ideias e melhorar os resultados das campanhas de marketing.

Outra área para focar são as operações de service desk. Com prompts de linguagem natural, um funcionário pode descrever seus problemas e a IA generativa fornecerá respostas úteis – e até mesmo ajudará a iniciar um processo para resolver os problemas. Isso pode levar a custos mais baixos e maior eficácia.

A IA generativa também pode ser uma ferramenta útil para permitir que os funcionários obtenham insights de conteúdo proprietário interno. Foi isso que o Morgan Stanley fez com um programa piloto com o modelo GPT-4 da OpenAI. O aplicativo – que não é treinado em nenhuma informação do cliente – é uma ferramenta que permite que consultores financeiros façam perguntas com base em relatórios de pesquisa e comentários gerados pela empresa.

À medida que a tecnologia generativa se torna mais estável, será mais fácil assumir projetos mais sofisticados.

Conclusão

O ritmo da inovação para IA generativa tem sido de tirar o fôlego, mas há riscos notáveis, como alucinações e segurança. É por isso que os bancos precisam adotar uma abordagem cuidadosa para essa importante tecnologia. Apressar-se provavelmente seria um erro. Em vez disso, uma boa estratégia é começar com aplicativos de IA generativa para fins internos que não usam dados confidenciais. Essa pode ser uma maneira de obter benefícios reais, ao mesmo tempo em que dá tempo para que a tecnologia amadureça.