FTC расследует ChatGPT из-за проблем с защитой прав потребителей

FTC расследует ChatGPT из-за проблем с защитой прав потребителей

Отметка времени: 13 июля 2023 г., 8:30
FTC расследует ChatGPT по поводу проблем защиты прав потребителей PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Федеральная торговая комиссия США (FTC) начал тщательная проверка OpenAI, компании из Сан-Франциско, создавшей известного чат-бота с искусственным интеллектом ChatGPT. 13 июля 2023 года новостные агентства The Washington Post сообщили, что эта проверка проводится для того, чтобы выяснить, не нарушает ли OpenAI законы, обеспечивающие безопасность клиентов, что, возможно, подвергает риску их личную репутацию и данные.

FTC направила OpenAI запрос на предоставление записей на 20 страницах, стремясь узнать больше о том, как компания справляется с возможными проблемами, связанными с их моделями искусственного интеллекта. Это правительственное агентство особенно проверяет, был ли OpenAI несправедливым или вводящим в заблуждение, нанося ущерб репутации людей.

Расследование FTC распространяется на инцидент безопасности, о котором OpenAI сообщила в марте 2023 года. Ошибка в системах OpenAI позволила некоторым пользователям просматривать информацию, связанную с платежами, и некоторые данные из истории чатов других пользователей. FTC выясняет, не нарушают ли методы защиты данных OpenAI в этом инциденте законы о защите прав потребителей.

FTC также ищет информацию о любых исследованиях, тестировании или опросах, проводимых OpenAI, которые оценивают, насколько хорошо потребители понимают «точность или надежность выходных данных», генерируемых его инструментами ИИ. Кроме того, FTC запросила подробности о том, как OpenAI лицензирует свои модели другим компаниям.

Это расследование проводится после того, как ранее высказывались опасения по поводу практики OpenAI. В марте 2023 г. Центр искусственного интеллекта и цифровой политики (CAIDP) спросил FTC расследует OpenAI на предмет предполагаемых нарушений правил защиты прав потребителей, сославшись на то, что развертывание инструментов генерации текста AI было «предвзятым, вводящим в заблуждение и рискованным для общественной безопасности», как сообщает The Verge.

CAIDP указал на потенциальные угрозы со стороны генеративной текстовой модели OpenAI GPT-4, включая создание вредоносного кода, тщательно подобранную пропаганду и возможность того, что предвзятые данные обучения приведут к несправедливым расовым и гендерным предпочтениям в таких областях, как найм.

Расследование FTC в отношении OpenAI представляет собой важный шаг в постоянном интересе агентства к регулированию инструментов ИИ. Ранее он предупреждал, что предвзятые системы ИИ могут повлечь за собой принудительные меры. Расследование OpenAI, одного из основных игроков в области генеративного ИИ, знаменует собой серьезную эскалацию усилий FTC.

Отметка времени:

Больше от Новости блочной цепи