CCC підтримав три наукові сесії на щорічній конференції AAAS цього року, і якщо ви не змогли бути присутніми особисто, ми підведемо підсумок кожної сесії. Сьогодні ми підсумуємо основні моменти сесії, присвяченої питанням і відповідям, "Великі мовні моделі: корисні помічники, романтичні партнери чи шахраї?” Ця панель, модерована Доктор Марія Гіні, член ради CCC і професор комп’ютерних наук та інженерії в Університеті Міннесоти Доктор Ече Камар, керуючий директор AI Frontiers у Microsoft Research, Доктор Хал Дауме III, професор інформатики в Університеті Меріленда, і Доктор Джонатан Мей, професор інформатики Інституту інформаційних наук Університету Південної Каліфорнії.
Нижче наведено захоплюючий короткий виклад частини запитань і відповідей "Великі мовні моделі: корисні помічники, романтичні партнери чи шахраї?"панель. Чи здатний ШІ любити? Який вплив ці моделі можуть мати на дітей? Якими є можливості ШІ Сполучених Штатів? Дізнайтеся нижче:
Запитання: які практики ми маємо застосовувати під час розгортання мовних моделей штучного інтелекту в багатомовному та мультикультурному контексті?
Доктор Мей: Розвиваючи технології та знижуючи стіни, людям слід полегшити робити те, що вони хочуть. Що хочуть робити всі, а не тільки я. Дякую ШІ, чудово зосередитися на мені, але нам слід звернути увагу на решту світу загалом.
З: Деякі з цих загальних питань – це не перший раз, коли вони піднімаються. Схоже, громада сама до цього не прийде. Мені цікаво, чи всі ви маєте ідеї щодо того, як перевести ці розмови в дію?
Доктор Камар: Є ролі для багатьох різних сторін. Оцінка має велике значення для представлення різних культур і груп населення. Коли набори даних не мають різноманітності у представленні світу, отримані системи не є репрезентативними. Багато роботи потрібно зробити для формування найкращих практик оцінки, правил і заходів дотримання. Білий дім взяв на себе зобов’язання, і план Білля про права ШІ починається. У всій галузі були впроваджені процеси, у яких багато великих умів працювали разом (не ідеально, але узагальнення в галузі є потенціал). Відбуваються зустрічі, щоб досягти конвергенції щодо стандартів, які зараз починаються; можливо, у майбутньому регулюванні. Як ми проводимо оцінювання, аналіз безпеки тощо? Жодна з цих розмов не має такої різноманітності, яка повинна бути в кімнаті. Подумайте, хто має бути в кімнаті, коли приймаються рішення.
Доктор Дауме: Я думаю, що коли люди говорять про регулювання, особливо у сфері штучного інтелекту, усі думають про каральні правила. Але це також може бути стимулюючим регулюванням. Фінансування політиків і NSF може сприяти розробці інструментів, які допоможуть нам як нації та світу.
З: Фінансування штучного інтелекту значно відстає в США порівняно з іншими країнами світу. Нові інвестиції NSF становлять 20 мільйонів з чимось, що мізерно порівняно з інвестиціями в галузь. Федеральний уряд опублікував звіти про дослідження протягом багатьох років, і висновок полягає в тому, що США повинні рухатися. Мені подобається аналогія зміни фази Ece. Термодинамічна межа з числами зростає. Ми хочемо відкритого штучного інтелекту, хто за це заплатить? Грошей не вистачає. Які ваші пропозиції? Відкрити ШІ? Але у нас навіть немає публікацій у відкритому доступі. Ви б порадили президенту не приймати закони?
Доктор Мей: Я думаю, що гроші є; хтось зауважив мені, що вам вдалося переконати уряд обертати частинки навколо, але ви не змогли перенаправити це нам.
Доктор Камар: Причина, чому компанії, які розробляють ці моделі, отримують такі результати, полягає в централізації ресурсів. Від масштабу можна багато чого отримати. Треба подумати про те, як централізувати інвестиції в науку, щоб отримати спільний ресурс замість того, щоб мати безліч різних моделей. Ми бачимо, що справа не лише в масштабах. Не те, що ми маємо робити зараз, але нинішня архітектура не чудова. Наявність хороших можливостей штучного інтелекту має стосуватися не лише збільшення грошей і влади.
З: Перевищення упередженості у відповідях. Чи знаємо ми, звідки воно береться? Я математик, і мої думки йдуть до того, що помилки округлення додають упередження? Якщо рівне представництво, я думаю, що воно буде виводити однакове представництво, чи воно все ще буде там?
Доктор Мей: Багато що зводиться до функцій підвищення. М'який максимум - важлива частина тренувань. Найвищий хоче бути №1. Це не те, що є якийсь ідеальний мовний вихід, але ми хочемо мати деяку упередженість». Ми просто хочемо мінімізувати шкоду для людей, але часто не визнаємо цього. Розгортання без розуміння - проблема.
Доктор Дауме: Одна з проблем цих моделей полягає в тому, що більше немає вузьких моделей ШІ. Кажуть, все можуть, тому важко все перевірити.
З: Ви згадали, що штучний інтелект є інструментом чи заміною, як ви бачите, як це розвиватиметься?
Доктор Дауме: На заміну йде більше грошей.
З: У назві згадується романтичний ШІ. Я хочу знати більше про це.
Доктор Мей: У моделях недостатньо наміру, щоб вони стали життєздатною романтичною заміною, але вони так само добре, як люди, розпізнають шаблони, навіть якщо їх не існує.
Доктор Камар: Я раджу вам не думати про штучний інтелект таким, яким він є зараз. Спробуйте заглянути в майбутнє – уявіть, що через кілька років ці системи будуть персоналізовані для вас. Які стосунки ви будете мати з цією системою?
Доктор Мей: Але чи полюбить воно вас?
Доктор Камар: Воно скаже вам, що любить вас.
Доктор Мей: Але чи достатньо цього?
Q: Я хочу почути пораду для людей, які не в галузі ШІ. Як ми можемо використовувати ці інструменти? Що ми повинні знати?
Доктор Дауме: В Університеті Меріленда ми часто ведемо ці розмови. Мені легко сказати, що через 5 років журналістика буде іншою, та й інші галузі теж. Неприємно говорити, що роль професора через 5 років буде іншою, але вона буде. У мене є колеги, які використовують різні плагіни LLM для пропозицій і документів; це вже відбувається. Я регулярно пишу екзаменаційні запитання за допомогою інструментів, але я маю перевіряти точність. Написання екзаменаційних питань не приносить мені радості, тому штучний інтелект може зняти це з моєї тарілки. У вищій освіті ми повинні думати про це більше. Як це змінює наші робочі місця? В університетах ведеться багато дискусій, але немає тонни об’єднання ресурсів.
З: Наскільки вітається оцінка ШІ в майбутньому при розгляді військових застосувань? Під час цієї сесії не було жодної згадки про військові застосування – я знаю, що якщо я наполовину правильно читаю людей, думки щодо цієї теми розходяться.
Доктор Мей: Армія широка, багато моєї роботи спонсорується міністерством оборони. Важко відповісти конкретно, загалом міністерство оборони (не говорячи за них), схоже, надає пріоритет безпеці та безпеці США, і продовжуватиме це робити та використовуватиме LLM та ШІ, щоб допомогти США бути безпечними.
Доктор Камар: Ми також повинні говорити про подвійне використання. Якщо ви візьмете військову роботу, яка триває в біології чи кібербезпеці, ми можемо взяти дуже перспективні інструменти, які маємо зараз, і використовувати їх, тому що нам потрібні безпечні системи та нові ліки. Але з кожним хорошим використанням ви матимете погане використання. У яких випадках використання штучного інтелекту ми не хочемо використовувати? У програмах з відкритим кодом люди можуть відтворювати ці моделі. Як утримати людей від заподіяння шкоди в таких випадках?
З: Взаємодіючи з мовними моделями, дорослі розуміють, що вона не жива/самосвідома, але як щодо кількох поколінь пізніше; діти, у яких це було з тих пір, як вони пам’ятають спілкування? У них є репетитор або вчитель, який повністю використовує ШІ; система вбудовується з інструктором. Вони можуть створити зв’язок із інструкцією, подумати, що у них чудові стосунки, а потім програму буде видалено. Якою є дитяча психологія соціальних емоційних зв’язків з неособистісними істотами?
Доктор Камар: Нам потрібні дослідження, міждисциплінарні дослідження, і вони потрібні швидко. Через 5 років ми можемо отримати ці відповіді, але за цей час ШІ може стати значною частиною життя моєї 10-річної дитини. Ваше запитання надзвичайно важливе. Є дослідження, які показують, що навіть невинні системи можуть мати бекдори. Нам потрібні експерти з безпеки та спеціалісти з розвитку дітей, які ведуть ці розмови сьогодні.
Доктор Дауме: Я не знаю, чи хтось пам’ятає стеження за Барбі – тут є велика проблема конфіденційності. Це більш цікава соціальна тема. Відповіді були налаштовані на надто позитивні. Діти казали б щось на кшталт «Я злий, тому що Саллі не гралася зі мною», і це не дає соціально прийнятних пропозицій. Мене хвилюють дуже позитивні агенти, тому що позитивність не завжди є правильною відповіддю.
Щиро дякуємо, що прочитали, і чекайте на нас, щоб отримати підсумок нашої третьої та останньої панелі на AAAS 2024.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/
- : має
- :є
- : ні
- :де
- $UP
- 10
- 2024
- 7
- a
- Здатний
- МЕНЮ
- про це
- Академія
- доступ
- точність
- через
- дію
- додати
- дорослих
- рада
- радити
- агенти
- AI
- Моделі AI
- ВСІ
- вже
- Також
- завжди
- am
- an
- аналіз
- та
- щорічний
- відповідь
- Відповіді
- більше
- будь
- все
- з'являється
- застосування
- відповідний
- архітектура
- ЕСТЬ
- навколо
- Художники
- AS
- помічники
- At
- відвідувати
- увагу
- знати
- бекдори
- поганий
- BE
- оскільки
- ставати
- було
- за
- буття
- нижче
- КРАЩЕ
- передового досвіду
- зміщення
- Великий
- Білл
- біологія
- Блог
- план
- облігація
- Bonds
- приносити
- широкий
- приніс
- Створюємо
- але
- by
- Каліфорнія
- CAN
- можливості
- здатний
- випадок
- випадків
- CCC
- CCC Блог
- Рада КТС
- Централізація
- централізувати
- проблеми
- зміна
- перевірка
- дитина
- діти
- колеги
- Приходити
- приходить
- майбутній
- зобов'язань
- співтовариство
- Компанії
- порівняний
- дотримання
- заходи відповідності
- комп'ютер
- Інформатика
- висновок
- конференція
- беручи до уваги
- контексти
- продовжувати
- Зближення
- розмови
- переконати
- правильно
- може
- Рада
- створювати
- культур
- Поточний
- В даний час
- Кібербезпека
- дані
- набори даних
- рішення
- оборони
- відділ
- розгортання
- розгортання
- розвивається
- розробка
- різний
- Директор
- обговорення
- Дивергенція
- різноманітність
- переадресація
- do
- робить
- Ні
- справи
- зроблений
- Не знаю
- вниз
- Наркотики
- подвійний
- кожен
- легше
- легко
- Освіта
- вбудований
- займатися
- Машинобудування
- досить
- достатньо грошей
- юридичні особи
- рівним
- помилки
- особливо
- і т.д.
- оцінка
- оцінки
- Навіть
- Кожен
- все
- все
- іспит
- існувати
- experts
- надзвичайно
- захоплюючий
- ознаками
- Федеральний
- Федеральний уряд
- кілька
- поле
- Поля
- остаточний
- знайти
- Перший
- перший раз
- Сфокусувати
- для
- від
- Frontiers
- повністю
- Функції
- фінансування
- майбутнє
- Загальне
- покоління
- отримати
- отримує
- отримання
- Давати
- Go
- буде
- добре
- Уряд
- великий
- великі уми
- Зростання
- Хлопець
- було
- на півдорозі
- Відбувається
- Жорсткий
- шкодити
- Мати
- має
- чути
- допомога
- корисний
- тут
- вище
- Вища освіта
- найвищий
- основний момент
- будинок
- Як
- How To
- HTTPS
- Людей
- i
- ідеї
- if
- картина
- Вплив
- реалізовані
- важливо
- in
- стимулюючий
- промисловість
- інформація
- безневинний
- замість
- Інститут
- намір
- взаємодіючих
- цікавий
- в
- інвестиції
- інвестиції
- питання
- питання
- IT
- Джобс
- Джонатан
- журналістика
- радість
- судити
- просто
- тримати
- Діти
- види
- Знати
- мова
- пізніше
- Законодавство
- Важіль
- життя
- як
- МЕЖА
- LLM
- серія
- багато
- любов
- любить
- Опускання
- made
- Makers
- вдалося
- управління
- Директор
- багато
- Марія
- Меріленд
- математики
- Питання
- максимальний
- Може..
- me
- заходи
- зустрічі
- член
- згадати
- згаданий
- Microsoft
- може бути
- військовий
- Військові додатки
- умів
- мінімізувати
- Моделі
- гроші
- більше
- рухатися
- багато
- полікультурний
- my
- вузький
- народ
- Необхідність
- потреби
- Нові
- нові інвестиції
- немає
- ніхто
- зараз
- NSF
- номера
- of
- від
- Старий
- on
- ONE
- тільки
- відкрити
- з відкритим вихідним кодом
- Думка
- or
- Інше
- наші
- з
- вихід
- виходи
- панель
- документи
- частина
- Сторони
- партнери
- моделі
- Платити
- Люди
- ідеальний
- людина
- Персоналізовані
- фаза
- місця
- plato
- Інформація про дані Платона
- PlatoData
- Play
- політика
- Політики
- об'єднання
- популяції
- частина
- позитивний
- Позитивність
- можливо
- потенціал
- влада
- практики
- президент
- визначення пріоритетів
- недоторканність приватного життя
- Проблема
- процеси
- Професор
- програма
- проект
- перспективний
- сприяти
- Пропозиції
- Психологія
- Видавничий
- Питання та відповіді
- питання
- питань
- швидко
- швидше
- Читати
- читання
- причина
- Короткий огляд
- визнаючи
- рекомендувати
- регулярно
- Регулювання
- правила
- відносини
- випущений
- запам'ятати
- заміна
- Звіти
- подання
- представник
- представляє
- дослідження
- ресурс
- ресурси
- відповіді
- REST
- в результаті
- право
- праві
- Роль
- ролі
- Кімната
- округлення
- сейф
- Безпека
- Безпека та охорона
- say
- шкала
- наука
- НАУКИ
- науковий
- безпечний
- безпеку
- побачити
- бачачи
- Здається,
- Сесія
- сесіях
- набори
- кілька
- загальні
- Повинен
- показ
- з
- So
- соціальна
- спілкування
- соціально
- М'який
- деякі
- Хтось
- що в сім'ї щось
- Source
- Південний
- розмова
- Фахівці
- конкретно
- Спін
- Рекламні
- стек
- стандартів
- Починаючи
- залишатися
- Як і раніше
- Дослідження
- підсумовувати
- РЕЗЮМЕ
- Підтриманий
- спостереження
- система
- Systems
- Приймати
- балаканина
- Технологія
- сказати
- тест
- ніж
- Дякую
- Що
- Команда
- Майбутнє
- світ
- Їх
- самі
- потім
- Там.
- Ці
- вони
- речі
- думати
- Думає
- третій
- це
- ті
- три
- через
- час
- times
- назва
- до
- сьогодні
- разом
- Тонна
- занадто
- інструмент
- інструменти
- тема
- до
- Навчання
- перетворення
- намагатися
- налаштований
- два
- розуміти
- розуміння
- United
- університети
- університет
- us
- використання
- використовуваний
- дуже
- viable
- хотіти
- хоче
- шлях..
- we
- ласкаво просимо
- були
- Що
- Що таке
- коли
- який
- білий
- Білий дім
- ВООЗ
- волі
- з
- без
- цікаво
- Work
- робочий
- світ
- хвилювалися
- б
- лист
- письмовий
- рік
- років
- Ти
- вашу
- зефірнет