Интервью Ложь изображений о Дональде Трампе, поддержанном вымышленными чернокожими избирателями, школьниках, создающих порнографические дипфейки своих одноклассниц, и чат-боте Google Gemini отсутствии чтобы точно создавать изображения белых людей.
Это некоторые из последних катастроф, перечисленных на База данных инцидентов ИИ – веб-сайт, на котором можно отслеживать все возможные неисправности технологий.
Первоначально созданная как проект под эгидой «Партнерства по ИИ», группы, которая пытается обеспечить пользу ИИ обществу, база данных инцидентов с ИИ теперь является некоммерческой организацией, финансируемой Underwriters Laboratories — крупнейшей и старейшей (основанной в 1894 году) независимой организацией. испытательная лаборатория в США. Компания тестирует все виды продуктов – от мебели до компьютерных мышей – и на ее веб-сайте зарегистрировано более 600 уникальных инцидентов, связанных с автоматизацией и искусственным интеллектом.
«Между создателями систем искусственного интеллекта и общественными потребителями существует огромная информационная асимметрия – и это несправедливо», – утверждает Патрик Холл, доцент Школы бизнеса Университета Джорджа Вашингтона, который в настоящее время входит в совет директоров базы данных AI Incident Database. . Он сказал Регистр: «Нам нужно больше прозрачности, и мы считаем, что наша работа — просто делиться этой информацией».
База данных инцидентов с искусственным интеллектом создана по образцу программы CVE, созданной некоммерческой организацией. MITER, или Национальное управление безопасности дорожного транспорта веб-сайт сообщал о публично раскрытых уязвимостях кибербезопасности и авариях транспортных средств. «Каждый раз, когда происходит авиакатастрофа, крушение поезда или крупный инцидент в области кибербезопасности, на протяжении десятилетий стало обычной практикой записывать то, что произошло, чтобы мы могли попытаться понять, что пошло не так, а затем не повторять это».
В настоящее время веб-сайтом управляют около десяти человек, а также несколько волонтеров и подрядчиков, которые просматривают и публикуют в Интернете инциденты, связанные с ИИ. Хизер Фрейз, старший научный сотрудник Джорджтаунского университета Центр безопасности и новейших технологий специализирующийся на оценке ИИ, и директор базы данных инцидентов с ИИ, заявил, что веб-сайт уникален тем, что фокусируется на реальных последствиях рисков и вреда ИИ, а не только на уязвимостях и ошибках в программном обеспечении.
В настоящее время организация собирает инциденты, освещаемые в средствах массовой информации, и просматривает проблемы, о которых сообщают люди в Твиттере. В базе данных инцидентов AI было зарегистрировано 250 уникальных инцидентов до выпуска ChatGPT в ноябре 2022 года, а теперь насчитывается более 600 уникальных инцидентов.
Мониторинг проблем с искусственным интеллектом с течением времени выявляет интересные тенденции и может позволить людям понять реальный и текущий вред этой технологии.
Холл Университета Джорджа Вашингтона сообщил, что примерно половина отчетов в базе данных связана с генеративным искусственным интеллектом. Некоторые из них представляют собой «забавные и глупые вещи», например хитрые продукты продается на Amazon с заголовком «Я не могу выполнить этот запрос» — явный признак того, что продавец использовал большую языковую модель для написания описаний — или другие примеры спама, генерируемого ИИ. Но некоторые из них «действительно удручающие и серьезные» — например, робот-такси Cruise наехал и утащил женщину под свои колеса в результате аварии в Сан-Франциско.
«Сейчас искусственный интеллект — это, по большей части, дикий запад, и его подход заключается в том, чтобы действовать быстро и ломать вещи», — посетовал он. Пока неясно, как технология формирует общество, и команда надеется, что база данных инцидентов с искусственным интеллектом сможет дать представление о том, как ею злоупотребляют, и выявить непредвиденные последствия – в надежде, что разработчики и политики будут лучше информированы, чтобы они могли улучшить свои модели или регулировать наиболее серьезные риски.
«Вокруг много ажиотажа. Люди говорят о экзистенциальном риске. Я уверен, что ИИ может представлять очень серьезные риски для человеческой цивилизации, но мне ясно, что некоторые из этих рисков более реальны – например, множество травм, связанных с беспилотным вождением автомобилей, или, вы знаете, сохранение предвзятости с помощью используемых алгоритмов. в сфере потребительского финансирования или трудоустройства. Вот что мы видим».
«Я знаю, что мы многое упускаем, верно? Не обо всем сообщается или фиксируется в средствах массовой информации. Зачастую люди даже не осознают, что вред, который они испытывают, исходит от ИИ», — заметил Фрейз. «Я ожидаю, что физический вред значительно возрастет. Мы видим [в основном] психологический вред и другой нематериальный вред, причиняемый большими языковыми моделями, но как только у нас появится генеративная робототехника, я думаю, физический вред значительно возрастет».
Фрейза больше всего беспокоит то, как ИИ может подорвать права человека и гражданские свободы. Она считает, что сбор инцидентов с искусственным интеллектом покажет, сделали ли политики со временем эту технологию более безопасной.
«Чтобы что-то исправить, нужно что-то измерять», — добавил Холл.
Организация всегда ищет волонтеров и в настоящее время сосредоточена на регистрации большего количества инцидентов и повышении осведомленности. Фрейз подчеркнул, что члены группы не являются луддитами ИИ: «Наверное, мы кажемся противниками ИИ, но это не так. Мы действительно хотим его использовать. Мы просто хотим хороших вещей».
Холл согласился. «Чтобы технология продолжала развиваться, кто-то просто должен поработать над тем, чтобы сделать ее более безопасной», — сказал он. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
- :имеет
- :является
- :нет
- $UP
- 2022
- 250
- 600
- 7
- a
- О нас
- авария
- точно
- на самом деле
- добавленный
- администрация
- решено
- AI
- Системы искусственного интеллекта
- алгоритмы
- Все
- позволять
- всегда
- Amazon
- an
- и
- любой
- МЫ
- продемонстрировав тем самым
- около
- AS
- оценки;
- помощник
- связанный
- At
- отношение
- автоматизация
- осведомленность
- становиться
- до
- не являетесь
- считает,
- Преимущества
- Лучшая
- между
- смещение
- большой
- Черный
- доска
- совет директоров
- Ломать
- ошибки
- строит
- бизнес
- но
- by
- CAN
- не могу
- захваченный
- Захват
- легковые автомобили
- Chatbot
- ChatGPT
- гражданский
- Civilization
- заявил
- Очистить
- CO
- Сбор
- приход
- Общий
- компьютер
- обеспокоенный
- Последствия
- потребитель
- Потребители
- подрядчики
- может
- охват
- Crash
- Создающий
- круиз
- Текущий
- В настоящее время
- CVE
- кибер-
- информационная безопасность
- База данных
- десятилетия
- deepfakes
- застройщиков
- различный
- директор
- Директора
- бедствия
- do
- Дональд
- Дональд Трамп
- вождение
- появление
- занятость
- обеспечивать
- Даже
- многое
- экзистенциальный
- ожидать
- испытывающих
- ярмарка
- достаточно
- ложный
- далеко
- БЫСТРО
- чувствовать
- человек
- женский пол
- финансы
- фиксированный
- внимание
- фокусируется
- Что касается
- вперед
- Франциско
- от
- Выполнять
- фундированный
- веселая
- Gemini
- порождать
- генеративный
- Генеративный ИИ
- Юрий
- Джорджтаун
- получающий
- Go
- идет
- хорошо
- группы
- Группы
- Половина
- серый
- горсть
- произошло
- Случай
- вред
- доказательств вреда
- Есть
- he
- Выделите
- Шоссе
- надежды
- надеется,
- Как
- HTTPS
- огромный
- человек
- права человека
- Обман
- i
- if
- Воздействие
- улучшать
- in
- инцидент
- повышение
- независимые
- информация
- сообщил
- размышления
- нематериальный
- интересный
- вопросы
- IT
- ЕГО
- работа
- JPG
- всего
- Сохранить
- хранение
- Вид
- Знать
- этикетка
- лаборатории
- лаборатория
- язык
- большой
- крупнейших
- последний
- запустили
- такое как
- Включенный в список
- Списки
- Войти
- искать
- серия
- много
- сделанный
- сделать
- Makers
- управляемого
- Май..
- me
- проводить измерение
- Медиа
- Участники
- отсутствующий
- модель
- Модели
- БОЛЕЕ
- самых
- в основном
- перемещение
- Необходимость
- некоммерческий
- некоммерческая организация
- Ноябрь
- сейчас
- of
- от
- самый старший
- on
- консолидировать
- онлайн
- or
- организация
- Другое
- наши
- за
- Партнерство
- Патрик
- Люди
- физический
- Картинки
- самолет
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- плюс
- сборах
- политики
- поза
- После
- практика
- прессование
- вероятно
- проблемам
- Продукция
- Профессор
- FitPartner™
- Проект
- обеспечивать
- психологический
- что такое варган?
- публично
- RE
- реальные
- реальный мир
- реализовать
- на самом деле
- запись
- регламентировать
- Связанный
- освободить
- повторять
- Сообщается
- Reporting
- Отчеты
- запросить
- Показали
- Показывает
- обзоре
- Отзывы
- правую
- правые
- Снижение
- рисках,
- роботакси
- робототехника
- грубо
- Бег
- s
- безопаснее
- Сохранность
- Сказал
- Сан -
- Сан-Франциско
- Школа
- безопасность
- посмотреть
- видя
- SELF
- Самостоятельное вождение автомобилей
- старший
- серьезный
- выступающей
- набор
- тяжелый
- формирование
- Поделиться
- она
- показывать
- подпись
- сайте
- So
- уже
- Общество
- Software
- проданный
- некоторые
- спам
- Области
- Поддержанный
- Убедитесь
- помпаж
- системы
- Говорить
- команда
- Технологии
- технологии
- 10
- Тестирование
- тестов
- который
- Ассоциация
- их
- Их
- тогда
- Там.
- Эти
- они
- вещи
- think
- Через
- время
- раз
- титулованный
- в
- заявил
- трек
- Train
- Прозрачность
- перевозки
- Тенденции
- козырь
- стараться
- под
- понимать
- созданного
- Объединенный
- США
- Университет
- использование
- используемый
- автомобиль
- очень
- волонтеры
- избирателей
- Уязвимости
- хотеть
- Вашингтон
- способы
- we
- Вебсайт
- пошел
- запад
- Что
- белый
- КТО
- Дикий
- Дикий Запад
- будете
- женщина
- Работа
- Мир
- записывать
- Неправильно
- Ты
- зефирнет