Холли Элмор возглавляет протест против безопасности открытого исходного кода

Сделав смелый шаг против недавней позиции Meta в отношении искусственного интеллекта (ИИ) с открытым исходным кодом, Холли Элмор, защитница безопасности ИИ, возглавила демонстрацию возле базы Meta в Сан-Франциско.

Суть спора заключается в потенциальных опасностях свободного выпуска мощных весовых моделей ИИ, что, как утверждают Элмор и ее сторонники, может привести к рискам «необратимого распространения».

Представьте себе, что вы думаете, что это круто — выступать за централизованный контроль и безопасность посредством неизвестности.https://t.co/qw2FNpX3of

— Дэниел Джеффрис (@Dan_Jeffries1) 8 октября 2023

Мета всколыхнула технологические воды в начале этого года, выпуска вес ее моделей семейства LLaMA для исследователей искусственного интеллекта, и это решение существенно расходится с политикой других технологических гигантов. Этими весами, жизненно важными для функционирования модели, можно манипулировать и изменять, оказавшись в руках экспертов, что вызывает опасения по поводу неправильного использования. Действительно, не потребовалось много времени, чтобы эти веса были утечка в Интернете, усиливая критику подхода Meta с открытым исходным кодом.

Риски сброса веса

Элмор, когда-то связанная с аналитическим центром Rethink Priorities, выразила свою обеспокоенность:

«Освобождение весов — опасная политика, поскольку модели могут быть изменены кем угодно и не могут быть отозваны».

Она подчеркнула растущую угрозу по мере того, как модели становятся более продвинутыми и мощными. Когда веса моделей общедоступны, их потенциально можно использовать для злонамеренных действий, начиная от построения фишинговых схем и заканчивая планированием. кибератаки. Как предупреждает Элмор, как только гири находятся в руках, становится пугающе легко обойти защитные ограждения.

Питер С. Парк из Массачусетского технологического института разделяет эти настроения. Он предупреждает об опасностях, если нынешний подход с открытым исходным кодом будет перенесен на более совершенный ИИ, который сможет работать с большей автономией, что позволит злоупотреблять им в более крупных и вредных масштабах.

Поздравляем Холли Элмор @ilex_ulmus за руководство протестом Мета.

Он попал в IEEE Spectrum, ведущее издание IEEE:

Протестующие осуждают «необратимое распространение» искусственного интеллекта Metahttps://t.co/XM0WAz8Zyuhttps://t.co/mfLBPjl2xJ

— Майкл Хуанг ⏸️ (@michhuan) 8 октября 2023

Контраргумент: защита с открытым исходным кодом

Стелла Бидерман Однако компания EleutherAI предлагает другую точку зрения. Бидерман подвергает сомнению непосредственное предположение о том, что снижение весов модели напрямую коррелирует с возможным неправильным использованием. Она считает, что термин «распространение», связанный с оружием массового уничтожения, вводит в заблуждение в контексте ИИ. Утверждая, что основные элементы построения больших языковых моделей уже известны, Бидерман полагает, что секретность не может быть панацеей от потенциального злоупотребления.

Она добавляет, что призывы к компаниям сохранять секретность своих моделей могут иметь «серьезные последствия для прозрачности, осведомленности общественности и науки». Такая политика может непреднамеренно нанести больше вреда независимым исследователям и энтузиастам, чем защитить от потенциальных угроз.

Навигация в водах открытого исходного кода в ИИ

Семестр 'открытые источникив сфере искусственного интеллекта запуталась. Как отмечает Стефано Маффулли из Инициативы открытого исходного кода (OSI), различные организации использовали этот термин, что привело к неоднозначному пониманию того, что он на самом деле означает в ИИ. Чтобы программное обеспечение было по-настоящему открытым, все его компоненты, от исходного кода до обучающих данных, должны быть общедоступными и пригодными для повторного использования.

Будущее искусственного интеллекта с открытым исходным кодом все еще формируется, и OSI активно пытается определить его параметры. Маффулли остается непреклонным в отношении важности открытого подхода, подчеркивая, что ИИ может быть «надежным, ответственным и подотчетным» только в том случае, если он соответствует принципам открытого исходного кода.

Хотя дебаты об искусственном интеллекте с открытым исходным кодом еще далеки от завершения, ясно одно: быстрое развитие технологии требует тщательного баланса между доступностью и безопасностью. По мере того, как такие компании, как Meta, продвигаются вперед в своей политике, технологическое сообщество и общественность будут продолжать бороться с проблемами и последствиями искусственного интеллекта с открытым исходным кодом.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/meta-challenged-as-holly-elmore-leads-protest-on-open-source-safety/