Некоммерческая организация создала сайт для отслеживания растущего числа сбоев в сфере искусственного интеллекта

Переиздано Платоном

Читают: 0

Некоммерческая организация создает сайт для отслеживания растущих неудач в области искусственного интеллекта PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Интервью Ложь изображений о Дональде Трампе, поддержанном вымышленными чернокожими избирателями, школьниках, создающих порнографические дипфейки своих одноклассниц, и чат-боте Google Gemini отсутствии чтобы точно создавать изображения белых людей.

Это некоторые из последних катастроф, перечисленных на База данных инцидентов ИИ – веб-сайт, на котором можно отслеживать все возможные неисправности технологий.

Первоначально созданная как проект под эгидой «Партнерства по ИИ», группы, которая пытается обеспечить пользу ИИ обществу, база данных инцидентов с ИИ теперь является некоммерческой организацией, финансируемой Underwriters Laboratories — крупнейшей и старейшей (основанной в 1894 году) независимой организацией. испытательная лаборатория в США. Компания тестирует все виды продуктов – от мебели до компьютерных мышей – и на ее веб-сайте зарегистрировано более 600 уникальных инцидентов, связанных с автоматизацией и искусственным интеллектом.

«Между создателями систем искусственного интеллекта и общественными потребителями существует огромная информационная асимметрия – и это несправедливо», – утверждает Патрик Холл, доцент Школы бизнеса Университета Джорджа Вашингтона, который в настоящее время входит в совет директоров базы данных AI Incident Database. . Он сказал Регистр: «Нам нужно больше прозрачности, и мы считаем, что наша работа — просто делиться этой информацией».

База данных инцидентов с искусственным интеллектом создана по образцу программы CVE, созданной некоммерческой организацией. MITER, или Национальное управление безопасности дорожного транспорта веб-сайт сообщал о публично раскрытых уязвимостях кибербезопасности и авариях транспортных средств. «Каждый раз, когда происходит авиакатастрофа, крушение поезда или крупный инцидент в области кибербезопасности, на протяжении десятилетий стало обычной практикой записывать то, что произошло, чтобы мы могли попытаться понять, что пошло не так, а затем не повторять это».

В настоящее время веб-сайтом управляют около десяти человек, а также несколько волонтеров и подрядчиков, которые просматривают и публикуют в Интернете инциденты, связанные с ИИ. Хизер Фрейз, старший научный сотрудник Джорджтаунского университета Центр безопасности и новейших технологий специализирующийся на оценке ИИ, и директор базы данных инцидентов с ИИ, заявил, что веб-сайт уникален тем, что фокусируется на реальных последствиях рисков и вреда ИИ, а не только на уязвимостях и ошибках в программном обеспечении.

В настоящее время организация собирает инциденты, освещаемые в средствах массовой информации, и просматривает проблемы, о которых сообщают люди в Твиттере. В базе данных инцидентов AI было зарегистрировано 250 уникальных инцидентов до выпуска ChatGPT в ноябре 2022 года, а теперь насчитывается более 600 уникальных инцидентов.

Мониторинг проблем с искусственным интеллектом с течением времени выявляет интересные тенденции и может позволить людям понять реальный и текущий вред этой технологии.

Холл Университета Джорджа Вашингтона сообщил, что примерно половина отчетов в базе данных связана с генеративным искусственным интеллектом. Некоторые из них представляют собой «забавные и глупые вещи», например хитрые продукты продается на Amazon с заголовком «Я не могу выполнить этот запрос» — явный признак того, что продавец использовал большую языковую модель для написания описаний — или другие примеры спама, генерируемого ИИ. Но некоторые из них «действительно удручающие и серьезные» — например, робот-такси Cruise наехал и утащил женщину под свои колеса в результате аварии в Сан-Франциско.

«Сейчас искусственный интеллект — это, по большей части, дикий запад, и его подход заключается в том, чтобы действовать быстро и ломать вещи», — посетовал он. Пока неясно, как технология формирует общество, и команда надеется, что база данных инцидентов с искусственным интеллектом сможет дать представление о том, как ею злоупотребляют, и выявить непредвиденные последствия – в надежде, что разработчики и политики будут лучше информированы, чтобы они могли улучшить свои модели или регулировать наиболее серьезные риски.

«Вокруг много ажиотажа. Люди говорят о экзистенциальном риске. Я уверен, что ИИ может представлять очень серьезные риски для человеческой цивилизации, но мне ясно, что некоторые из этих рисков более реальны – например, множество травм, связанных с беспилотным вождением автомобилей, или, вы знаете, сохранение предвзятости с помощью используемых алгоритмов. в сфере потребительского финансирования или трудоустройства. Вот что мы видим».

«Я знаю, что мы многое упускаем, верно? Не обо всем сообщается или фиксируется в средствах массовой информации. Зачастую люди даже не осознают, что вред, который они испытывают, исходит от ИИ», — заметил Фрейз. «Я ожидаю, что физический вред значительно возрастет. Мы видим [в основном] психологический вред и другой нематериальный вред, причиняемый большими языковыми моделями, но как только у нас появится генеративная робототехника, я думаю, физический вред значительно возрастет».

Фрейза больше всего беспокоит то, как ИИ может подорвать права человека и гражданские свободы. Она считает, что сбор инцидентов с искусственным интеллектом покажет, сделали ли политики со временем эту технологию более безопасной.

«Чтобы что-то исправить, нужно что-то измерять», — добавил Холл.

Организация всегда ищет волонтеров и в настоящее время сосредоточена на регистрации большего количества инцидентов и повышении осведомленности. Фрейз подчеркнул, что члены группы не являются луддитами ИИ: «Наверное, мы кажемся противниками ИИ, но это не так. Мы действительно хотим его использовать. Мы просто хотим хороших вещей».

Холл согласился. «Чтобы технология продолжала развиваться, кто-то просто должен поработать над тем, чтобы сделать ее более безопасной», — сказал он. ®