Підсумок про обіцянки та підводні камені – частина четверта » Блог CCC

Підсумок про обіцянки та підводні камені – частина четверта » Блог CCC

Мітка часу: 21 березня 2024 р., 11:37

CCC підтримав три наукові сесії на щорічній конференції AAAS цього року. Цього тижня ми підведемо підсумки сесії,Генеративний ШІ в науці: обіцянки та підводні камені.” Ця панель, модерована Доктор Матвій Турок, президент Технологічного інституту Тойота в Чикаго). Доктор Ребекка Віллетт, професор статистики та інформатики Чиказького університету, Доктор Маркус Бюлер, професор інженерії в Массачусетському технологічному інституті, і Доктор Дункан Вотсон-Перріс, доцент Інституту океанографії Скріппса та Інституту науки про дані Халіджіоглу в Каліфорнійському університеті в Сан-Дієго. У частині четвертій ми підсумовуємо частину панелі питань і відповідей. 

Після виступів експертів відбулася сесія запитань і відповідей, і д-р Метью Турк розпочав дискусію. «Обіцянки та підводні камені» — у назві цієї панелі. Ми обговорили багато обіцянок, але не звернули увагу на багато підводних каменів. Що вас турбує щодо майбутнього генеративного ШІ?»

«Надійність і достовірність цих моделей викликає велике занепокоєння», – почала д-р Ребекка Вілетт. «Ці моделі можуть передбачати речі, які є правдоподібними, але в них відсутні ключові, помітні елементи; Чи можу я, як людина, визнати, що там чогось не вистачає?»

Доктор Маркус Бюлер додав, що фактичне передбачення моделі може зайняти секунду, але експериментальний процес перевірки може тривати місяці, рік або довше. Отже, як ми маємо діяти в проміжний період, коли ми не перевірили результати? «Нам також потрібно навчити наступне покоління розробників генеративного штучного інтелекту, щоб вони розробляли моделі, які заслуговують на довіру та які можна перевірити, і щоб ми могли використовувати знання, засновані на фізиці, у створенні цих моделей».

Доктор Дункан Уотсон-Перріс спирався на обидва попередні пункти, сказавши: «Оскільки ці моделі створені для отримання правдоподібних результатів, ми не можемо просто дивитися на результати, щоб перевірити їх точність. Дослідники генеративного штучного інтелекту повинні мати глибоке розуміння того, як працюють ці моделі, щоб перевірити їхні результати, ось чому правильне навчання наступного покоління так важливо».

Учасник аудиторії: «У матеріалознавстві ми знаємо напрямок для вивчення деяких матеріалів, але щодо інших, наприклад надпровідників кімнатної температури, ми не знаємо, як рухатися вперед. Як, на вашу думку, буде виглядати подальший шлях у вивченні цих невідомих матеріалів? І як цей тип досліджень має бути дозволений з нормативної точки зору?»

«Ну, я не експерт у дослідженні надпровідників, — сказав д-р Бюлер, — тому я не буду говорити про це прямо, але я можу говорити загалом про те, як ми досягаємо прогресу в матеріалознавстві, зокрема в моїй галузі білків та розробка біоматеріалів. Те, як ми досягаємо успіхів, полягає в тому, що маємо здатність розширювати межі. Ми проводимо нові експерименти, перевіряємо незвичайні ідеї та теорії та бачимо, які з них працюють і чому. Щодо того, як ми маємо забезпечити це дослідження, нам потрібно більше моделей із відкритим кодом із колективним доступом. Я б закликав політиків не регулювати надмірно ці технології, щоб дослідники та громадськість мали доступ до цих типів моделей. Я не вважаю гарною ідеєю перешкоджати людям використовувати ці моделі, особливо коли ми можемо збирати ідеї та розробки та запроваджувати знання з різних сфер людської діяльності. Наприклад, коли було винайдено друкарський верстат, влада намагалася обмежити доступність цієї технології, щоб масово читати мало книг, але ця спроба з тріском провалилася. Найкращий спосіб захистити громадськість — полегшити доступ до цих моделей таким чином, щоб ми могли розробляти, досліджувати й широко їх оцінювати для максимальної користі для суспільства».

Учасник аудиторії: «Більшість генеративних моделей штучного інтелекту сьогодні — це регресійні моделі, які зосереджені на моделюванні або імітації різних сценаріїв. Однак відкриття в науці підживлюються гіпотезами та передбаченнями, які ми мріємо. Отже, як ми створюємо моделі, які призначені для створення нових прогнозів замість поточних моделей, які використовуються переважно для експериментів?»

Доктор Бюлер відповів першим, сказавши: «Ви маєте рацію, більшість традиційних моделей машинного навчання часто базуються на регресії, але моделі, про які ми говорили сьогодні, працюють інакше. Коли ви об’єднуєте мультиагентні системи з багатьма можливостями, вони фактично починають досліджувати нові сценарії, починають міркувати та робити прогнози на основі експериментів, які вони провели. Вони стають більш людяними. Ви, як дослідник, не проведете експеримент і просто закінчите – ви запустите експеримент, а потім почнете дивитися на дані, підтверджувати їх і робити нові прогнози на основі цих даних, щоб з’єднати точки й екстраполювати за висувати гіпотези та уявляти, як розгортатиметься новий сценарій. Ви б експериментували, збирали нові дані, розробляли теорію та, можливо, запропонували інтегровану структуру щодо конкретного питання, яке вас цікавить. Тоді ви захистите свої ідеї від критики колег і, можливо, переглянете свою гіпотезу, коли буде використана нова інформація. Ось як працюють нові багатоагентні змагальні системи, але, звичайно, вони доповнюють людські навички набагато більшою здатністю міркувати над величезними обсягами даних і представленнями знань. Ці моделі вже можуть генерувати нові гіпотези, які виходять далеко за межі того, що вже було вивчено, додаючи до наукового процесу відкриттів та інновацій».

«Я б доповнив це, — втрутився д-р Віллетт, — областю виявлення завершеності та символічної регресії як іншої сфери, яка набагато більше спрямована на створення гіпотез. У цьому просторі триває багато роботи».

Учасник аудиторії: «Як нам збільшити доступ до цих типів моделей і подолати перешкоди, наприклад більшість моделей, створених для англомовних?»

Доктор Ребекка Уіллетт відповіла: «Багато людей мають доступ до використання цих моделей, але їх розробка та навчання коштує багато мільйонів доларів. Якщо лише невелика група організацій здатна створити ці моделі, тоді лише дуже невелика група людей приймає рішення та встановлює пріоритети в науковому співтоваристві. І часто пріоритети цих організацій та окремих осіб спрямовані на прибуток. Тим не менш, я думаю, що ландшафт починає змінюватися. Такі організації, як NSF, намагаються побудувати інфраструктуру, доступну для широкої наукової спільноти. Ця спроба нагадує ранню розробку суперкомп'ютерів. У перші дні дослідникам доводилося подавати довгі пропозиції, щоб отримати доступ до суперкомп’ютера. Я думаю, що ми побачимо схожі нові парадигми в ШІ та генеративному ШІ».

«Я згоден», — сказав доктор Вотсон-Перріс. «Якщо додати до цього регуляторний аспект, я не думаю, що ми повинні регулювати фундаментальні дослідження, можливо, прикладні простори, але не самі дослідження».

Щиро дякуємо, що прочитали, і слідкуйте за підсумками наших інших двох панелей на AAAS 2024.

Часова мітка:

Більше від CCC Блог