Может ли Уолл-стрит повлиять на развитие ИИ?

Искусственный интеллект, особенно генеративный ИИ, по-прежнему обещает значительное повышение производительности во многих отраслях, включая банковское дело и страхование.

ИИ также создает множество проблем, что проявляется в его склонности к галлюцинациям. Другой вариант – возможность злоупотреблений. Это может быть связано с неосознанными предубеждениями в обучающих наборах данных, которые приводят к дискриминационным последствиям для цветных людей. Это также может отражать то, как запрограммированы системы генного искусственного интеллекта, о чем свидетельствует недавний скандал вокруг «проснувшихся» изображений пап или других исторических личностей, которые выглядят кем угодно, только не белыми мужчинами.

В самых крайних случаях управляющие активами могут обратиться к ИИ для исследования или даже торговли портфелями. Галлюцинации могут разрушить фирму; как мог бы попытаться объяснить регулирующему органу, почему бот вызвал сбой Flash.

ИИ вряд ли будет реализован столь драматично, но его можно заставить работать более тонкими способами. На самом деле, это уже так.

Банки, страховщики и финтех-компании уже используют инструменты искусственного интеллекта для оценки кредитных рейтингов или заключения полисов. Например, отрасль рискует оказаться не в состоянии объяснить недовольному клиенту, почему ему было отказано в кредите.

Более приземленный вопрос – когда можно будет применить ИИ. Например, программное обеспечение может использоваться для анализа чьих-либо публикаций в социальных сетях, чтобы оценить их психическое состояние, что может быть использовано для определения цены финансового продукта. Это вызывает много вопросов.

Следует ли разрешить фирмам учитывать такие данные? Если нет, то какие заменители они будут изучать, чтобы получить представление о потенциальном клиенте? Что представляет собой конфиденциальность и как она обеспечивается?

Отрегулируйте, пожалуйста

Естественный ответ на такие вопросы – привлечь регулирующие органы. Лучше всего разработать нейтральный набор правил, чтобы сдерживать худшие порывы фирмы. Также легче позволить регулирующим органам выполнять тяжелую работу – и сохранить свободу пожимать плечами, если они этого не сделают.

Регулирование необходимо, но достаточно ли этого? Возможно, но только в том случае, если финансовая индустрия согласится оставить инновации крупным технологическим компаниям и новому поколению стартапов в области искусственного интеллекта.

Когда дело доходит до искусственного интеллекта, реальность такова, что регулирующие органы никогда не смогут идти за ним. Это неплохо: мы ожидаем, что инновации будут исходить от частного сектора. Но природа ИИ затрудняет регулирование.

Во-первых, в регулирующих органах работает мало людей, обладающих глубокими знаниями в области машинного обучения и других инструментов искусственного интеллекта, не говоря уже о генном искусственном интеллекте.

Во-вторых, чтобы идти в ногу с этим миром, необходимо управлять огромными массивами графических процессоров, графических процессоров, магистральных чипов, обеспечивающих работу приложений искусственного интеллекта, и оборудования центров обработки данных, составляющих облако.

В индустрию искусственного интеллекта входят такие стартапы, как OpenAI, крупные технологические игроки, такие как Microsoft и Meta, специалисты по чипам, такие как Nvidia, и поставщики облачных услуг, такие как AWS. Эти гиганты обладают уникальными огромными ресурсами, которые позволяют собирать лучшие таланты и приобретать вычислительные мощности для запуска систем искусственного интеллекта.

Ни регулирующие органы, ни предприятия не могут определять повестку дня, пока это так.

Покупательная способность

Регулирующие органы могут попытаться установить правила – и они должны это сделать, потому что они могут формировать базовые нормы – но им будет сложно разобраться с нюансами того, как предотвратить злоупотребление банками и другими системами ИИ.

Однако есть альтернативы. Один из них — оглянуться назад на то, как правительства помогали поддерживать свою инновационную экономику в первые дни. Например, Силиконовая долина во многом обязана своим успехом масштабным программам закупок НАСА и вооруженных сил США в 1950-х и 1960-х годах.

---

---

Аналогичным образом, только правительства имеют потенциал выйти на рынок инфраструктуры искусственного интеллекта и закупить графические процессоры для своих собственных исследовательских программ, которые могут соответствовать масштабам крупных технологий. Это один из способов установить стандарты посредством участия и лидерства, а не бесконечных попыток не отставать, создавая новые правила.

А что насчет финансовых услуг? Пока нет никаких признаков того, что правительства готовы играть эту роль, в результате чего другие отрасли остаются во власти больших технологий.

Урок аналогичен: Уолл-стрит должна стать настолько важным клиентом для крупных технологических компаний, чтобы она могла устанавливать стандарты обращения с ИИ.

Проблема в размере. Даже JP Morgan не может сравниться с Microsoft на этой арене. Это никогда не могло оправдать затраты.

ИИ с открытым исходным кодом

Но как насчет отрасли в целом? Есть ли способ у Big Finance – в союзе с ведущими финтех-компаниями по всему миру – объединить ресурсы и стать стратегическим клиентом?

Банки не привыкли играть вместе. Такой подход был бы совершенно чуждым.

С другой стороны, банки постепенно переходят на открытый исходный код для разработки программного обеспечения. Они признают, что совместное использование кода для многих непрофильных функций (будучи участниками сообщества, а не владельцами прав собственности) может создать более качественное и более отказоустойчивое программное обеспечение.

Работает ли открытый исходный код для genAI?

Ответ неясен. Некоторые крупные технологические компании в этой сфере открыто заявляют о своих разработках, например Meta, которая позволяет стартапам в области ИИ загружать и адаптировать некоторые из своих моделей.

Отраслевые стандарты открытого исходного кода требуют, чтобы были разрешены все варианты использования, но лишь немногие стартапы в области genAI действительно соответствуют этим критериям. Большинство из них, включая абсурдно названную OpenAI, работают в закрытом режиме.

Это потому, что genAI не похож на другие категории программного обеспечения. Исходный код — это только один компонент. Не менее важны данные обучения и то, как эти данные классифицируются. Сегодня в индустрии искусственного интеллекта нет единого мнения относительно того, что вообще означает «открытый исходный код».

Вот открытие для финансовых учреждений. Банки, биржи и поставщики данных в совокупности владеют критической массой данных, большая часть которых специфична для рынков капитала и финансовых услуг. Теоретически, если бы существовал механизм агрегирования этой информации, могла бы возникнуть основа для совместной разработки кода и сопутствующих ему стандартов.

Продавцы будут сопротивляться любому шагу, который разрушает их бизнес; банки и страховщики не стремятся сотрудничать ни в чем, что можно было бы считать ключевым. С другой стороны, в финансовых услугах могут быть области, которые для большинства игроков не являются ключевыми и в которых отраслевое решение может быть желательным. На ум приходят цифровая идентификация, соблюдение требований, отчетность и аспекты управления рисками.

ДигФин знает, что это очень спекулятивная идея, которая, возможно, никогда не оправдает огромных усилий, которые потребуются для ее реализации. С другой стороны, насколько важно для финансовой индустрии формировать свое будущее, а не пассивно ждать, пока Кремниевая долина сделает это вместо нее? Возможно, именно здесь мы возвращаемся к идее о правительстве как о крупном заказчике ИИ. Чтобы правительство могло действовать в этом качестве, ему нужны собственные программы. Регулирование финансовых услуг в эпоху ИИ кажется хорошей отправной точкой.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://www.digfingroup.com/influence-ai/