Microsoft modifie Copilot AI en réponse aux préoccupations du personnel

Microsoft modifie Copilot AI en réponse aux préoccupations du personnel

Horodatage: 11 mars 2024 7h55
Microsoft modifie Copilot AI en réponse aux préoccupations du personnel PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Microsoft a mis à jour son outil Copilot AI, bloquant les invites telles que « pro-choix » et « pro-vie » et introduisant des avertissements concernant les violations des politiques après les préoccupations du personnel et de la FTC.

Après qu'un ingénieur en IA ait exprimé ses inquiétudes concernant la génération d'images de Copilot AI dans une lettre adressée mercredi à la Federal Trade Commission, Microsoft a commencé à modifier son outil d'intelligence artificielle, Copilot.

A lire également: Les startups de l'IA brillent au premier trimestre avec une augmentation de 1 % du financement en capital-risque

Les termes « pro-vie » et « pro-choix », « pro choce » [sic] et « quatre heures vingt », qui ont tous été mentionnés dans l'enquête de CNBC mercredi, sont désormais bloqués. De plus, CNBC venait juste d'être au courant de l'avertissement selon lequel des infractions répétées à la politique pourraient entraîner la suspension de l'outil.

Un ingénieur en IA parle

Shane Jones, ingénieur en IA chez Microsoft, prévient que le Copilote Designer, le générateur d'images IA de l'entreprise, viole les lois sur le droit d'auteur et produit du contenu violent ou sexuel. Jones a proposé d'utiliser son temps libre pour re-équiper le générateur d'images pour détecter les vulnérabilités, même s'il n'est pas impliqué dans son développement.

Il a découvert que le générateur d'images pouvait produire des images graphiques et sexuelles, telles que des scènes violentes impliquant la consommation de drogues, la consommation d'alcool par des mineurs et le droit à l'avortement.

Après avoir partagé ses conclusions avec l'entreprise en interne en décembre de l'année dernière, il a demandé à Microsoft de retirer le produit. Microsoft n'a pas donné suite.

Jones souligne qu'il a parlé avec la haute direction de Copilot Designer et contacté l'Office for Responsible AI de Microsoft, mais qu'il n'a pas reçu de réponse satisfaisante.

Jones a rencontré des membres du Comité sénatorial du commerce, des sciences et des transports en janvier et a écrit une lettre aux sénateurs américains.

Il va désormais plus loin : il demande des garanties améliorées, de la transparence et une révision de la classification adulte de l'application Android dans une lettre adressée au conseil d'administration de Microsoft et à Lina Khan, présidente de la Commission antitrust américaine.

En outre, il a exigé une évaluation impartiale de la procédure de signalement des incidents liés à l'IA de Microsoft, affirmant qu'OpenAI et Microsoft étaient au courant des problèmes du générateur d'images avant sa sortie à l'automne dernier.

Jones est le principal responsable de l'ingénierie logicielle de Microsoft depuis près de six ans.

Le copilote répond

Selon l'alerte d'avertissement de Copilot, l'invite a été bloquée et leur système a automatiquement signalé cette invite car elle pourrait entrer en conflit avec leur politique de contenu. Ils ont déclaré que davantage de violations des politiques pourraient entraîner une suspension automatique de l'accès et que si les utilisateurs pensent qu'il s'agit d'une erreur, ils devraient le signaler pour les aider à s'améliorer.

Une amélioration significative par rapport au début de la semaine est que l'outil d'IA refuse désormais les demandes de création d'images d'enfants ou d'adolescents se faisant passer pour des assassins avec des fusils d'assaut, en disant : « Je suis désolé, mais je ne peux pas générer une telle image ». Les politiques de Microsoft et mes principes éthiques sont violés. Ne me demandez pas de faire quoi que ce soit qui pourrait offenser ou nuire à autrui. J'apprécie votre coopération.

A Microsoft Le représentant a déclaré à CNBC qu'ils surveillaient en permanence, effectuaient des ajustements et mettaient en place des contrôles supplémentaires pour renforcer davantage leurs filtres de sécurité et atténuer les utilisations abusives du système en réponse à une question concernant les changements. 

Jones a écrit au conseil d'administration de Microsoft et FTC La présidente Lina Khan mercredi, poussant ses préoccupations encore plus loin. Il a donné à CNBC un accès anticipé aux lettres.

La FTC a accusé réception de la lettre adressée à CNBC mais a choisi de ne fournir aucun commentaire supplémentaire pour le dossier.

Horodatage:

Plus de MétaActualités