Резюме обещаний и подводных камней – Часть четвертая » Блог CCC

Резюме обещаний и подводных камней – Часть четвертая » Блог CCC

Отметка времени: 21 марта 2024 г., 11:37

CCC поддержала три научных сессии на ежегодной конференции AAAS в этом году. На этой неделе мы подведем итоги сессии»,Генеративный ИИ в науке: обещания и подводные камни.Эта панель, модератором которой является Доктор Мэтью Терк, президент Технологического института Toyota в Чикаго), представленный Доктор Ребекка Уиллетт, профессор статистики и информатики Чикагского университета, Доктор Маркус Бюлер, профессор инженерных наук Массачусетского технологического института и Доктор Дункан Уотсон-Пэррис, доцент Океанографического института Скриппса и Института обработки данных Халыджиоглу в Калифорнийском университете в Сан-Диего. В четвертой части мы подводим итог части вопросов и ответов. 

После выступлений участников дискуссии последовала сессия вопросов и ответов, и дискуссию открыл д-р Мэтью Тёрк. «Обещания и подводные камни» вынесены в заголовок этой дискуссии. Мы обсудили многие обещания, но не рассмотрели многие подводные камни. Что вас беспокоит в будущем генеративного искусственного интеллекта?»

«Надежность и достоверность этих моделей вызывают большое беспокойство», - начала доктор Ребекка Уилетт. «Эти модели могут предсказывать вещи, которые правдоподобны, но в них отсутствуют ключевые, существенные элементы; Могу ли я, как человек, признать, что здесь чего-то не хватает?»

Доктор Маркус Бюлер добавил, что фактическое предсказание модели может занять секунду, но экспериментальный процесс проверки может занять месяцы, год или дольше. Так как же нам действовать тем временем, когда мы не проверили результаты? «Нам также необходимо обучить следующее поколение разработчиков генеративного искусственного интеллекта, чтобы они проектировали модели, заслуживающие доверия и проверяемые, и чтобы мы могли использовать основанные на физике идеи при построении этих моделей».

Доктор Дункан Уотсон-Пэррис опирался на оба предыдущих пункта, говоря: «Поскольку эти модели созданы для получения правдоподобных результатов, мы не можем просто посмотреть на результаты, чтобы проверить их точность. Исследователям генеративного ИИ необходимо глубоко понимать, как работают эти модели, чтобы проверить их результаты, поэтому правильное обучение следующего поколения так важно».

Член аудитории: «В материаловедении мы знаем направление дальнейшего изучения некоторых материалов, но для других, таких как сверхпроводники при комнатной температуре, мы не знаем, как двигаться вперед. Как, по вашему мнению, будет выглядеть дальнейший путь изучения этих неизвестных материалов? И как можно проводить подобные исследования с нормативной точки зрения?»

«Ну, я не эксперт в исследованиях сверхпроводников», — сказал доктор Бюлер, — «поэтому я не буду говорить об этом напрямую, но я могу рассказать в целом о том, как мы добиваемся успехов в науке о материалах, особенно в моей области белков. и разработка биоматериалов. Способ, которым мы добиваемся успехов, заключается в возможности выйти за рамки возможного. Мы проводим новые эксперименты, проверяем диковинные идеи и теории и видим, какие из них работают и почему. Что касается того, как нам следует проводить эти исследования, нам нужно больше моделей с открытым исходным кодом и коллективным доступом. Я бы посоветовал политикам не чрезмерно регулировать эти технологии, чтобы исследователи и общественность имели доступ к этим типам моделей. Я не считаю хорошей идеей мешать людям использовать эти модели, особенно когда мы можем собирать идеи и разработки и внедрять знания из различных областей человеческой деятельности. Например, когда был изобретен печатный станок, власти попытались ограничить доступность этой технологии, чтобы мало книг можно было читать массово, но эта попытка с треском провалилась. Лучший способ защитить общественность — облегчить доступ к этим моделям таким образом, чтобы мы могли разрабатывать, исследовать и широко оценивать их для максимальной пользы общества».

Член аудитории: «Большинство генеративных моделей ИИ сегодня представляют собой регрессионные модели, которые фокусируются на моделировании или эмуляции различных сценариев. Однако открытия в науке подпитываются гипотезами и предсказаниями, которые мы выдумываем. Так как же нам создавать модели, предназначенные для создания новых предсказаний, вместо нынешних моделей, которые используются в основном для экспериментов?»

Доктор Бюлер ответил первым, сказав: «Вы правы, большинство традиционных моделей машинного обучения часто основаны на регрессии, но модели, о которых мы говорили сегодня, работают по-другому. Когда вы собираете мультиагентные системы с множеством возможностей, они фактически начинают исследовать новые сценарии, рассуждать и делать прогнозы на основе проведенных экспериментов. Они становятся более человечными. Вы, как исследователь, не будете проводить эксперимент и просто заканчивать его – вы проведете эксперимент, а затем начнете смотреть на данные, проверять их и делать новые прогнозы на основе этих данных, чтобы соединить точки и экстраполировать их. выдвигать гипотезы и представлять, как будет разворачиваться новый сценарий. Вы будете экспериментировать, собирать новые данные, разрабатывать теорию и, возможно, предлагать комплексную концепцию по конкретному интересующему вопросу. Затем вы будете защищать свои идеи от критики коллег и, возможно, пересматривать свою гипотезу при использовании новой информации. Именно так работают новые многоагентные состязательные системы, но, конечно, они дополняют человеческие навыки гораздо большей способностью рассуждать над огромными объемами данных и представлениями знаний. Эти модели уже могут генерировать новые гипотезы, которые выходят далеко за рамки уже изученного, внося вклад в научный процесс открытий и инноваций».

«Я бы дополнил это, — вставил доктор Уиллетт, — областью открытия завершения и символической регрессией как еще одной областью, гораздо более ориентированной на генерацию гипотез. В этом направлении ведется большая работа».

Член аудитории: «Как нам расширить доступ к этим типам моделей и преодолеть препятствия, например, то, что большинство моделей создаются для англоговорящих?»

Доктор Ребекка Уиллетт ответила: «Многие люди имеют доступ к использованию этих моделей, но их разработка и обучение стоят многие миллионы долларов. Если только небольшая группа организаций способна создать такие модели, то только очень небольшая группа людей принимает решения и устанавливает приоритеты в научном сообществе. И часто приоритеты этих организаций и отдельных лиц ориентированы на получение прибыли. Тем не менее, я думаю, что ситуация начинает меняться. Такие организации, как NSF, пытаются создать инфраструктуру, к которой сможет получить доступ более широкое научное сообщество. Эти усилия напоминают раннюю разработку суперкомпьютеров. Вначале исследователям приходилось подавать длинные предложения, чтобы получить доступ к суперкомпьютеру. Я думаю, что мы увидим похожие новые парадигмы в области искусственного интеллекта и генеративного искусственного интеллекта».

«Я согласен», — сказал доктор Уотсон-Пэррис. «Вдобавок к этому с нормативной точки зрения, я не думаю, что нам следует регулировать фундаментальные исследования, возможно, области их применения, но не сами исследования».

Большое спасибо за чтение и следите за обзорами двух других наших дискуссий на AAAS 2024.

Отметка времени:

Больше от Блог ССС