Полезные помощники, романтические партнеры или мошенники? Часть вторая

Переиздано Платоном

Читают: 0

Компания CCC поддержала три научных сессии на ежегодной конференции AAAS в этом году, и если вы не смогли присутствовать лично, мы будем подводить итоги каждой сессии. Сегодня мы подведем итоги основной части сессии, посвященной вопросам и ответам».Большие языковые модели: полезные помощники, романтические партнеры или мошенники?Эта панель, модератором которой является Доктор Мария Джини, член Совета CCC и профессор компьютерных наук и инженерии Университета Миннесоты, Доктор Эдже Камар, управляющий директор направления AI Frontiers в Microsoft Research, Доктор Хэл Доме III, профессор компьютерных наук в Университете Мэриленда и Доктор Джонатан Мэй, профессор компьютерных наук в Институте информационных наук Университета Южной Калифорнии.

Ниже приводится увлекательное резюме части вопросов и ответов. Большие языковые модели: полезные помощники, романтические партнеры или мошенники? панель. Способен ли ИИ любить? Какое влияние эти модели могут оказать на детей? Как складываются возможности ИИ в США? Узнайте ниже:

Вопрос: Какие методы нам следует применять при развертывании языковых моделей искусственного интеллекта в многоязычном и мультикультурном контексте?

Д-р Мэй: Развивая технологии и снижая стены, людям должно быть легче делать то, что они хотят. То, что хотят делать все, а не только я. Спасибо AI, здорово сосредоточиться на мне, но нам следует обратить внимание на остальной мир в целом.

Вопрос: Некоторые из этих общих вопросов – они поднимаются не впервые. Похоже, сообщество не придет к этому само по себе. Мне интересно, есть ли у всех вас идеи о том, как перевести эти разговоры в действие?

Д-р Камар: Роли могут сыграть множество разных сторон. Оценка имеет большое значение для представления различных культур и групп населения. Когда наборы данных не имеют разнообразного представления в мире, полученные системы не являются репрезентативными. Необходимо проделать большую работу по формированию передовой практики оценки, правил и мер по обеспечению соответствия. Белый дом взял на себя обязательства, и начинается разработка проекта Билля о правах ИИ. В отрасли были реализованы процессы, в которых многие великие умы работали вместе (не идеально, но при обобщении на всю отрасль есть потенциал). Проводятся встречи, направленные на достижение согласия по тем вопросам, которые в настоящее время начинаются как стандарты; возможно, в будущем регулировании. Как мы проводим оценки, анализ безопасности и т. д.? Ни в одном из этих разговоров нет того разнообразия, которое должно быть в комнате. Подумайте о том, кто должен присутствовать при принятии решений.

Д-р Доме: Я думаю, когда люди говорят о регулировании, особенно в сфере ИИ, все думают о карательных правилах. Но это также может быть стимулирующим регулированием. Финансирование политиков и NSF могло бы способствовать разработке инструментов, которые помогут нам как нации и миру.

Вопрос: Финансирование ИИ в США значительно отстает по сравнению с другими странами мира. Новые инвестиции NSF составляют 20 миллионов с чем-то, что ничтожно мало по сравнению с инвестициями в промышленность. Федеральное правительство публикует отчеты по результатам исследований, проводимых в течение многих лет, и приходит к выводу, что США пора действовать. Мне нравится аналогия Эдже с изменением фазы. Термодинамический предел с цифрами растет. Мы хотим открытого ИИ, кто будет за это платить? Денег не хватает. Каковы ваши предложения? Открытый ИИ? Но у нас нет даже публикации в открытом доступе. Порекомендовали бы вы президенту не иметь законодательства?

Д-р Мэй: Я думаю, деньги есть; кто-то заметил мне, что вам удалось убедить правительство вращать частицы, но вы не смогли перенаправить их нам.

Д-р Камар: Причина, по которой компании, создающие эти модели, получают такие результаты, заключается в централизации ресурсов. От масштаба можно многое получить. Следует подумать о том, как нам централизовать инвестиции в академические круги, чтобы получить общий ресурс вместо множества разных моделей. Мы видим, что дело не только в масштабе. Это не то, что нам нужно делать прямо сейчас, но нынешняя архитектура не очень хороша. Наличие хороших возможностей ИИ должно означать не только больше денег и власти.

Вопрос: Предвзятость в ответах. Знаем ли мы, откуда оно взялось? Я математик, и мои мысли приходят к следующему: не является ли совокупность ошибок округления, которая добавляет предвзятость? Если бы было равное представительство, я бы предположил, что оно выведет равное представительство или оно все еще будет там?

Доктор Мэй: Многое сводится к скачкам функций. Мягкий максимум – важная часть тренировки. Хайест хочет быть номером 1. Не то чтобы существовал какой-то идеальный языковой вывод, но мы хотим иметь некоторую предвзятость». Мы просто хотим свести к минимуму вред, причиняемый людям, и часто не осознаем этого. Развертывание без понимания — проблема.

Д-р Доме: Одна из проблем, связанных с этими моделями, заключается в том, что больше не существует узких моделей ИИ. Говорят, что могут все, поэтому сложно все проверить.

Вопрос: Вы упомянули, что ИИ является инструментом или заменой, каким, по вашему мнению, он будет развиваться?

Д-р Доме: На замену уходит больше денег.

Вопрос: В названии упоминается романтический ИИ. Я хочу знать об этом больше.

Доктор Мэй: В моделях недостаточно намерений, чтобы они могли стать жизнеспособной романтической заменой, но они так же хорошо, как и люди, распознают закономерности, даже если их не существует.

Д-р Камар: Я советую вам не думать об ИИ таким, какой он есть сейчас. Попробуйте спрогнозировать будущее: представьте, что через несколько лет эти системы будут персонализированы под вас. Какие отношения у вас будут с этой системой?

Д-р Мэй: Но будет ли он любить тебя?

Д-р Камар: Он скажет вам, что любит вас.

Д-р Мэй: Но достаточно ли этого?

Вопрос: Я хочу услышать советы для людей, не связанных с ИИ. Как мы можем взаимодействовать с этими инструментами? Что мы должны знать?

Д-р Доме: В Университете Мэриленда мы часто ведем подобные разговоры. Мне легко сказать, что через 5 лет журналистика будет другой, да и другие сферы тоже. Неприятно говорить, что роль профессора через 5 лет изменится, но это произойдет. У меня есть коллеги, которые используют разные плагины LLM для предложений и документов; это уже происходит. Мне регулярно приходят экзаменационные вопросы, написанные с помощью инструментов, но мне приходится проверять точность. Написание экзаменационных вопросов не приносит мне радости, поэтому ИИ может снять это с моей тарелки. В высшем образовании нам следует больше об этом думать. Как это меняет нашу работу? В университетах происходит много дискуссий, но нет тонны объединенных ресурсов.

Вопрос: Насколько приветствуется оценка ИИ в будущем при рассмотрении военного применения? На этой сессии не было упоминания о военном применении – я знаю, если я правильно читаю людей, то есть расхождения во мнениях по этой теме.

Д-р Мэй: Армия широка, большая часть моей работы спонсируется министерством обороны. Трудно ответить конкретно, но в целом министерство обороны (не говоря от его имени), похоже, уделяет приоритетное внимание безопасности и защищенности США и будет продолжать делать это и использовать LLM и искусственный интеллект, чтобы помочь США быть в безопасности.

Д-р Камар: Нам также нужно поговорить о двойном использовании. Если вы возьмете военную работу в области биологии или кибербезопасности, мы можем взять очень многообещающие инструменты, которые у нас есть прямо сейчас, и использовать их, потому что нам нужны безопасные системы и новые лекарства. Но при каждом хорошем использовании у вас будет плохое использование. В каких случаях мы не хотим использовать ИИ? В приложениях с открытым исходным кодом люди могут воспроизводить эти модели. Как нам удержать людей от причинения вреда в таких случаях?

Вопрос: Взаимодействуя с языковыми моделями, взрослые понимают, что он не является живым/самосознательным, но что насчет нескольких поколений спустя? дети, у которых это было с тех пор, как они вспомнили о общении? У них есть репетитор или учитель, который полностью является искусственным интеллектом; в систему встроен инструктор. Они могут создать связь с инструкцией, подумать, что у них хорошие отношения, а затем программа будет удалена. Какова детская психология социальных эмоциональных связей с неличными сущностями?

Д-р Камар: Нам нужны исследования, междисциплинарные исследования, и они нужны нам быстро. Через 5 лет мы, возможно, получим эти ответы, но за это время ИИ может стать важной частью жизни моего 10-летнего ребенка. Ваш вопрос чрезвычайно важен. Исследования показывают, что даже в невинных системах могут быть бэкдоры. Сегодня нам необходимо, чтобы эксперты по безопасности и специалисты по развитию детей вели такие беседы.

Доктор Доме: Я не знаю, помнит ли кто-нибудь о слежке за Барби – здесь есть большая проблема конфиденциальности. Это более интересная социальная проблема. Ответы были настроены как чрезмерно положительные. Дети говорили что-то вроде: «Я злюсь, потому что Салли не играла со мной», и это не дает социально приемлемых предложений. Меня беспокоят очень позитивные агенты, потому что позитивность не всегда является правильным ответом.

Большое спасибо за чтение и следите за новостями нашей третьей и последней дискуссии на AAAS 2024.