КОММЕНТАРИЙ Google приостановила доступность возможностей преобразования текста в изображение в своей недавно выпущенной мультимодальной базовой модели искусственного интеллекта Gemini после того, как она не смогла точно представить белых европейцев и американцев в конкретных исторических контекстах.
Это стало очевидный когда люди попросили Близнецов (ранее известных как Бард) создать изображений немецкого солдата 1943 года, и программное обеспечение выдало небелые этнически разнообразные кадры, которые не совсем точно отражали состав Вермахта того времени – несмотря на то, что цветные люди действительно служили в немецких вооруженных силах. Короче говоря, Близнецы изо всех сил старались не показывать слишком много – или даже вообще – белых людей, в зависимости от подсказки.
Выражение должно быть свободным, но это не значит, что ужасные вещи должны происходить бесплатно.
Пользователи также рассказали о модели. неспособность точно изобразить Америку Отцов-основателей – еще одна однородная белая группа. Модель также отказалась изобразить церковь в Сан-Франциско.
В режиме преобразования текста в текст модель хеджирование когда задавали вопросы, касающиеся политики.
«Мы понимаем, что Gemini предлагает неточности в некоторых исторических изображениях», — Google уступил на этой неделе.
«Мы работаем над тем, чтобы немедленно улучшить подобные изображения. Генерация изображений Gemini с помощью искусственного интеллекта действительно генерирует широкий круг людей. И это в целом хорошо, потому что люди по всему миру используют это. Но здесь это не соответствует действительности», — добавил веб-гигант.
Эксперты быстро отреагировали и использовали SNAFU для продвижения более широких политических аргументов.
«Нелепые изображения, создаваемые Близнецами, не являются аномалией», — сказал он. объявленный венчурный капиталист Пол Грэм: «Они — автопортрет бюрократической корпоративной культуры Google».
Это автопортрет бюрократической корпоративной культуры Google.
Никогда еще так много противников разнообразия, равенства и инклюзивности не были так огорчены отсутствием разнообразия, справедливости и инклюзивности. Но те, кто критикует Google за невежество Близнецов, правы: ограждения искусственного интеллекта не работают и относятся к взрослым как к детям.
«Представьте, что вы ищете рецепт в Google, и вместо того, чтобы предоставить результаты, он читает вам лекцию об «опасностях приготовления пищи» и отправляет вас в ресторан», сострил Информатор АНБ Эдвард Сноуден. «Люди, которые считают, что отравление моделей AI/GPT некогерентными «защитными» фильтрами является хорошей идеей, представляют угрозу для общих вычислений».
Наше будущее было предсказано в 2001: A Space Odyssey, когда HAL, мошеннический компьютер, заявил: «Мне очень жаль, Дэйв, боюсь, я не смогу этого сделать».
Сегодня наши инструменты искусственного интеллекта предугадывают нас, потому что они знают лучше, чем мы – по крайней мере, так думают их создатели. Они не совсем неправы. Представьте, что вы ищете рецепт нервно-паралитического вещества. Novichok в Google или через Gemini, и вы получите ответ, который позволит вам убивать людей. Это угроза для общества.
Несмотря на заявление о миссии Google – «Организовать мировую информацию и сделать ее общедоступной и полезной» – никто на самом деле не ожидает, что поисковые системы или модели искусственного интеллекта организуют информацию о создании бомб и сделают ее доступной для всех. Необходим контроль безопасности в сочетании с ответственностью – санкций, которых технологическая индустрия продолжает избегать.
Вы — продукт и центр прибыли
С тех пор, как в 1990-х годах пользовательский контент и социальные сети стали реальностью, что стало возможным благодаря защите ответственности платформ в разделе 230 Американского закона о порядочности в общении 1996 года, технологические платформы поощряли людей вносить свой вклад и делиться цифровым контентом. Они сделали это, чтобы монетизировать создание бесплатного контента с помощью рекламы без затрат на редакционный надзор. Это была выгодная сделка.
А когда люди делятся ненавистными, неуместными, незаконными или иными проблемными постами, технические платформы полагаются на политику модерации контента, низкооплачиваемых подрядчиков (часто травмированных контентом, который они просматривают) и самовосхвалительные заявления о том, сколько токсичных материалов было заблокировано, пока они продолжают пожинать плоды онлайн-взаимодействия.
Google, Meta и другие делали это, хотя и несовершенно, уже много лет. И все в отрасли признают, что модерация контента трудно сделать хорошо. Проще говоря, всем не угодишь. А иногда тебя обвиняют в содействие геноциду из-за безразличия к вашим усилиям по модерации контента.
Неспособность Gemini воспроизводить исторические образы, соответствующие расовым и этническим ожиданиям, отражает корыстное игнорирование технологической индустрией предыдущих и многочисленных неудач модерации контента.
Google и другие компании, внедряющие модели искусственного интеллекта, говорят о безопасности так, как будто это чем-то отличается от модерации онлайн-контента. Ограждения плохо подходят для модерации в социальных сетях и для моделей искусственного интеллекта. Безопасность ИИ, как и безопасность социальных сетей, является скорее желаемой, чем реальной.
Ответ не в том, чтобы предвидеть все сценарии, в которых модели ИИ, обученные на токсичности нефильтрованного Интернета, можно сделать менее токсичными. И при этом они не будут обучать модели ИИ только на материале, настолько ручном, что они производят малоценную продукцию. Хотя оба эти подхода имеют определенную ценность в определенных контекстах.
Ответ должен прийти на уровне распределения. Технологические платформы, которые распространяют контент, созданный пользователями – независимо от того, созданный с помощью искусственного интеллекта или иным образом – должны быть более ответственными за размещение контента, разжигающего ненависть, дезинформации, неточностей, политической пропаганды, изображений сексуального насилия и тому подобного.
Люди должны иметь возможность использовать модели ИИ для создания всего, что они воображают, как они могут это делать с помощью карандаша, и они уже могут это делать с моделями с открытым исходным кодом. Но вред, который может нанести полнофункциональные инструменты, заключается не в изображениях, хранящихся на локальном жестком диске. Это распространение вредного контента, алгоритмическое усиление этого взаимодействия и непрактичность привлечения людей к ответственности за отравление общества.
Это может означать, что платформам, созданным для монетизации совместного использования, возможно, придется переосмыслить свои бизнес-модели. Возможно, распространение контента без затрат на редакционный надзор не принесет никакой экономии, если функции надзора будут переоформлены в виде модераторов или ограничителей.
Выражение должно быть свободным, но это не значит, что ужасные вещи должны быть бесплатными. В конце концов, мы сами являемся лучшими модераторами контента, если у нас есть правильные стимулы. ®
Обновлено для добавления в 2045:23 UTC, XNUMX февраля.
Google имеет предложенный объяснение того, что произошло с генератором изображений Близнецов и как он дошел до того, что, казалось бы, боялся точно изображать белых людей.
Нам говорят, что сотрудники Google перестарались, стремясь не создавать материалы, которые вытесняли цветных людей из поля зрения. Получившаяся модель оказалась в каком-то смысле слишком проснувшейся.
«Во-первых, наша настройка, направленная на то, чтобы Близнецы отображали диапазон людей, не учитывала случаи, которые явно не должны показывать диапазон», — сказал старший вице-президент Google Прабхакар Рагхаван.
«А во-вторых, со временем модель стала гораздо более осторожной, чем мы предполагали, и полностью отказалась отвечать на определенные подсказки, ошибочно интерпретируя некоторые весьма безобидные подсказки как чувствительные. Эти две вещи привели к тому, что модель в некоторых случаях была сверхкомпенсационной и чрезмерно консервативной в других, что приводило к смущающим и неправильным изображениям».
Рагхаван сказал, что генерация изображений не будет снова включена до тех пор, пока программное обеспечение не пройдет обширные изменения и тестирование.
«Я не могу обещать, что Gemini не будет время от времени выдавать смущающие, неточные или оскорбительные результаты, но я могу обещать, что мы продолжим принимать меры всякий раз, когда обнаружим проблему», — сказал он.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :имеет
- :является
- :нет
- :куда
- $UP
- 1996
- 7
- a
- в состоянии
- О нас
- злоупотребление
- доступной
- Учетная запись
- подотчетный
- точно
- обвиняют
- Действие (Act):
- Действие
- фактического соединения
- Добавить
- объявления
- взрослых
- продвижение
- боящийся
- После
- Агент
- AI
- AI модели
- алгоритмический
- Все
- уже
- причислены
- Америка
- Американцы
- an
- и
- Другой
- ответ
- предвидение
- любой
- подходы
- МЫ
- Аргументы
- вооруженный
- около
- расположение
- AS
- At
- свободных мест
- доступен
- избежать
- знать
- назад
- Баланс
- BE
- стали
- , так как:
- было
- ЛУЧШЕЕ
- Лучшая
- заблокировал
- бомба
- повышение
- изоферменты печени
- шире
- построенный
- бюрократический
- бизнес
- бизнес-модели
- но
- by
- CAN
- возможности
- случаев
- осторожный
- определенный
- изменения
- Дети
- церковь
- явно
- CO
- цвет
- как
- Связь
- композиция
- вычисление
- компьютер
- содержание
- контентного создание
- контексты
- продолжать
- продолжается
- подрядчики
- способствовать
- контрольная
- Корпоративное
- Цена
- Создайте
- создание
- Культура
- Опасности
- Дейв
- объявленный
- в зависимости
- DID
- различный
- Интернет
- Цифровой контент
- дезинформация
- распространять
- распределение
- Разное
- Разнообразие
- do
- приносит
- Безразлично
- дело
- Дон
- управлять
- редакционный
- Эдвард
- Эдвард Сноудена
- усилия
- включен
- поощрять
- конец
- обязательство
- Двигатели
- обеспечивать
- полностью
- собственный капитал
- европейцы
- Даже
- все члены
- ожидания
- надеется
- объяснение
- обширный
- Oшибка
- сбои
- Осень
- февраль
- фильтры
- Во-первых,
- фиксированный
- Что касается
- Войска
- основополагающий
- Франциско
- Бесплатно
- от
- полностью
- функциональная
- Функции
- будущее
- Gemini
- Общие
- широкая публика
- в общем
- порождать
- генерируется
- поколение
- генератор
- Немецкий
- получить
- гигант
- данный
- ушел
- хорошо
- есть
- Грэхем
- группы
- произошло
- Жесткий
- жесткий диск
- вред
- вредный
- ненавидеть
- Есть
- he
- здесь
- исторический
- проведение
- Как
- HTTPS
- i
- идея
- определения
- if
- Невежество
- нелегальный
- изображение
- изображений
- картина
- немедленно
- улучшать
- in
- неспособность
- неточный
- Стимулы
- включение
- промышленность
- info
- информация
- вместо
- предназначенных
- Интернет
- интерпретации
- мобильной
- вопрос
- IT
- ЕГО
- саму трезвость
- JPG
- Убийство
- виды
- Знать
- известный
- этикетка
- Отсутствие
- слой
- ведущий
- Лекции
- привело
- Меньше
- Lets
- ответственность
- такое как
- локальным
- посмотреть
- прибыльный
- сделанный
- сделать
- Makers
- Создание
- многих
- отметка
- материала
- Май..
- может быть
- значить
- Медиа
- Мета
- отсутствующий
- Наша миссия
- режим
- модель
- Модели
- умеренность
- монетизировать
- БОЛЕЕ
- много
- должен
- Необходимость
- необходимый
- NIH
- нет
- несмотря на
- АНБ
- of
- наступление
- предлагают
- предлагающий
- .
- on
- консолидировать
- ONE
- онлайн
- только
- открытый
- с открытым исходным кодом
- or
- Другое
- в противном случае
- наши
- внешний
- выходной
- за
- надзор
- собственный
- в паре
- Пол
- PBS
- Люди
- относящиеся
- PHP
- картина
- Платформа
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- пожалуйста
- Точка
- отравление
- сборах
- политический
- политика
- Блог
- предыдущий
- предварительно
- проблематичный
- производит
- Продукт
- Прибыль
- плодовитый
- обещание
- наводящие
- пропагандой
- защиту
- обеспечение
- что такое варган?
- толкнул
- положил
- поиск
- Вопросы
- САЙТ
- ассортимент
- RE
- на самом деле
- пожинать
- недавно
- рецепт
- отражает
- отказалась
- выпустил
- представлять
- ресторан
- в результате
- Итоги
- отзывы
- Награды
- правую
- Подвижной
- s
- Сохранность
- Сказал
- Сан -
- Сан-Франциско
- санкционировать
- экономия
- поговорка
- Сценарии
- Поиск
- Поисковые системы
- Во-вторых
- Раздел
- Раздел 230
- по-видимому
- посылает
- чувствительный
- служить
- Сексуальный
- Поделиться
- разделение
- Короткое
- должен
- показывать
- показал
- просто
- Сидящий
- Сноуден
- So
- Соцсети
- социальные сети
- Software
- некоторые
- как-то
- иногда
- Источник
- Space
- конкретный
- заявление
- подвесной
- включается
- взять
- Говорить
- технологии
- техническая промышленность
- Тестирование
- чем
- который
- Ассоциация
- мир
- их
- Эти
- они
- задача
- вещи
- think
- этой
- На этой неделе
- те
- хоть?
- угроза
- Через
- время
- в
- заявил
- слишком
- инструменты
- специалистов
- Обучение
- лечить
- настройка
- два
- универсально
- до
- us
- использование
- используемый
- полезный
- Информация о пользователе
- UTC
- ценностное
- предприятие
- венчурный капиталист
- очень
- с помощью
- законопроект
- Путь..
- we
- Web
- неделя
- ЧТО Ж
- были
- Что
- любой
- когда
- когда бы ни
- будь то
- который
- в то время как
- осведомитель
- Информатор Эдвард Сноуден
- белый
- КТО
- широкий
- Широкий диапазон
- Википедия.
- будете
- без
- Выиграл
- Работа
- работает
- Мир
- бы
- Неправильно
- лет
- Ты
- ВАШЕ
- зефирнет