Как банки и финансовые службы могут приблизиться к ChatGPT и генеративному ИИ

В своем последнем ежегодном письме акционерам генеральный директор JPMorgan Chase Джейми Даймон больше похож на основателя финтех-стартапа, а не на одного из крупнейших в мире банков, корни которого уходят в 1799 год. Но опять же, акцент на инновациях имеет решающее значение для долговечность культовой фирмы.

«Искусственный интеллект (ИИ) — это экстраординарная и новаторская технология. ИИ и исходный материал, который его питает, данные, будут иметь решающее значение для будущего успеха нашей компании — важность внедрения новых технологий просто невозможно переоценить», — Даймон. отметил, в письме.

JPMorgan Chase имеет более 300 вариантов использования ИИ в производстве, охватывающих маркетинг, обслуживание клиентов, управление рисками и предотвращение мошенничества.

Новые технологии, в том числе генеративный ИИ, широкоязычные модели (LLM) и ChatGPT, также являются приоритетными для компании. Даймон сказал: «Мы придумываем новые способы расширения и расширения возможностей сотрудников с помощью ИИ с помощью ориентированных на человека инструментов для совместной работы и рабочего процесса, используя такие инструменты, как большие языковые модели, включая ChatGPT».

Запуск ChatGPT напоминает браузер Netscape, возвестивший интернет-революцию в середине 90-х. Однако важно отметить, что внедрение генеративного ИИ должно быть частью хорошо продуманной стратегии, учитывающей безопасность, ответственный ИИ и потребности заинтересованных сторон. Хотя эта технология предлагает явные преимущества, есть и опасности.

Безопасность и соответствие

Это может показаться ироничным, но ранее в этом году JPMorgan запрещенный сотрудников от использования ChatGPT, и фирма была не единственной. Крупные финансовые учреждения, в том числе Citi, Bank of America, Wells Fargo и Goldman Sachs, также наложили ограничения на ChatGPT.

Это не должно быть ни сюрпризом, ни разочарованием. Поскольку банки должны иметь дело с обременительными правилами — законами о знании своего клиента (KYC) и законами о борьбе с отмыванием денег (AML), — когда появляются новые технологии, важно придерживаться более консервативного подхода. Безопасность и соответствие являются неприкосновенными.

Инструменты генеративного ИИ, такие как ChatGPT и GPT-4, уже продемонстрировали явные риски. Например, модели имеют тенденцию вызывать галлюцинации, и в результате созданный контент является ложным или вводящим в заблуждение.

Также может быть почти невозможно понять, как генеративные модели ИИ дают ответы. Эти системы по сути являются «черными ящиками». В конце концов, самые большие модели имеют сотни миллиардов параметров, и их почти невозможно расшифровать.

Тогда есть ноющие проблемы с предвзятостью и справедливостью. Это связано с тем, что генеративные модели ИИ обучаются на большом количестве общедоступного контента, такого как Википедия и Reddit.

Наконец, использование генеративных моделей ИИ в основном осуществляется API. Это означает, что банк будет отправлять информацию из своих частных центров обработки данных, что создает риски для соблюдения конфиденциальности и хранения данных. Действительно, несколько нарушений безопасности уже произошло. В марте OpenAI сообщила, что была раскрыта информация о платежах для ее службы подписки ChatGPT. Примерно для 1.2% абонентской базы он показывал имена пользователей, адреса электронной почты и платежные адреса. Были также раскрыты последние четыре цифры номеров кредитных карт, а также даты истечения срока действия. Нарушение произошло из-за ошибок в системе с открытым исходным кодом.

Случаи использования

Учитывая проблемы и риски, связанные с генеративным ИИ, банкам и финансовым службам необходимо проявлять осторожность. Это означает, что может быть хорошей идеей избегать приложений, ориентированных на клиента, по крайней мере, на данный момент.

Вместо этого лучше поэкспериментировать с внутренними операциями, особенно там, где не используется PII (персональная информация). Маркетинг был бы хорошим началом, поскольку креативность является ключевым атрибутом генеративного ИИ. Хотя технология не позволяет делать окончательные наброски, она может помочь зародить идеи и улучшить результаты маркетинговых кампаний.

Еще одна область, на которой следует сосредоточиться, — это операции службы поддержки. С помощью подсказок на естественном языке сотрудник может описать свои проблемы, а генеративный ИИ предоставит полезные ответы и даже поможет инициировать процесс решения проблем. Это может привести к снижению затрат и повышению эффективности.

Генеративный ИИ также может быть полезным инструментом, позволяющим сотрудникам получать информацию из внутреннего проприетарного контента. Это то, что Morgan Stanley сделал с пилотной программой с моделью OpenAI GPT-4. Приложение, которое не обучено какой-либо информации о клиентах, представляет собой инструмент, позволяющий финансовым консультантам задавать вопросы, основанные на отчетах об исследованиях и комментариях, подготовленных компанией.

По мере того, как генеративные технологии станут более стабильными, будет легче браться за более сложные проекты.

Заключение

Темпы инноваций для генеративного ИИ были захватывающими, но существуют заметные риски, такие как галлюцинации и безопасность. Вот почему банкам необходимо вдумчиво подходить к этой важной технологии. Поспешить с этим, вероятно, было бы ошибкой. Скорее, хорошей стратегией будет начать с приложений генеративного ИИ для внутренних целей, которые не используют конфиденциальные данные. Это может быть способом получить реальные преимущества, дав время для развития технологии.