La FTC enquête sur ChatGPT pour des raisons de protection des consommateurs

La FTC enquête sur ChatGPT pour des raisons de protection des consommateurs

Horodatage: 13 juillet 2023 8:30
FTC Investigates ChatGPT over Consumer Protection Concerns PlatoBlockchain Data Intelligence. Vertical Search. Ai.

La Federal Trade Commission (FTC) des États-Unis a commencé une vérification approfondie d'OpenAI, la société de San Francisco qui a créé le chatbot AI bien connu, ChatGPT. Le Washington Post a rapporté le 13 juillet 2023 que cette vérification visait à déterminer si OpenAI enfreignait les lois qui assurent la sécurité des clients, mettant éventuellement en danger leur réputation personnelle et leurs données.

La FTC a émis une demande d'enregistrements de 20 pages à OpenAI, cherchant à en savoir plus sur la façon dont l'entreprise gère les éventuels problèmes liés à ses modèles d'IA. Cette agence gouvernementale vérifie notamment si OpenAI a été injuste ou trompeur, causant des dommages à la réputation des gens.

L'enquête de la FTC s'étend à un incident de sécurité révélé par OpenAI en mars 2023. Un bogue dans les systèmes d'OpenAI avait permis à certains utilisateurs d'afficher des informations relatives au paiement et certaines données de l'historique de discussion d'autres utilisateurs. La FTC cherche à savoir si les pratiques de sécurité des données d'OpenAI dans cet incident ont violé les lois sur la protection des consommateurs.

La FTC recherche également des informations sur toute recherche, test ou enquête menée par OpenAI qui évalue dans quelle mesure les consommateurs comprennent «l'exactitude ou la fiabilité des résultats» générés par ses outils d'IA. En outre, la FTC a demandé des détails sur la manière dont OpenAI concède ses modèles à d'autres sociétés.

Cette enquête fait suite à des inquiétudes antérieures concernant les pratiques d'OpenAI. En mars 2023, le Center for AI and Digital Policy (CAIDP) demandé la FTC pour enquêter sur OpenAI pour des violations présumées des règles de protection des consommateurs, citant que le déploiement d'outils de génération de texte d'IA a été "biaisé, trompeur et un risque pour la sécurité publique", comme l'a rapporté The Verge.

Le CAIDP avait souligné les menaces potentielles du modèle de texte génératif GPT-4 d'OpenAI, y compris la production de code malveillant, la propagande hautement personnalisée et le potentiel de données de formation biaisées pouvant entraîner des préférences injustes en matière de race et de sexe dans des domaines tels que l'embauche.

L'enquête de la FTC sur OpenAI représente une étape importante dans l'intérêt continu de l'agence pour la réglementation des outils d'IA. Il a précédemment averti que des systèmes d'IA biaisés pourraient entraîner des mesures d'exécution. Une enquête sur OpenAI, l'un des principaux acteurs du domaine de l'IA générative, marque une escalade majeure dans les efforts de la FTC.

Horodatage:

Plus de Blockchain Nouvelles