Un ingénieur de Google suspendu pour avoir enfreint les politiques de confidentialité sur l'IA "sensible"

Google a placé l'un de ses ingénieurs logiciels en congé administratif payé pour violation des politiques de confidentialité de l'entreprise.

Depuis 2021, Blake Lemoine, 41 ans, avait pour mission de discuter avec LaMDA, ou Language Model for Dialogue Applications, dans le cadre de son travail au sein de l'équipe Responsible AI de Google, afin de déterminer si le robot utilisait des discours discriminatoires ou haineux.

LaMDA est « construit en peaufinant une famille de transformateurdes modèles de langage neuronal spécialisés pour le dialogue, avec jusqu'à 137 milliards de paramètres de modèle, et enseignant aux modèles pour exploiter des sources de connaissances externes », selon Google.

C’est ce que l’entreprise utilise pour créer des chatbots et renvoie des réponses apparemment significatives aux demandes de renseignements basées sur des éléments récoltés à partir de milliards de conversations sur Internet et d’autres communications.

Cependant, à un moment donné au cours de son enquête, Lemoine semble avoir commencé à croire que l’IA exprimait des signes de sensibilité. L'ingénieur, qui a écrit sur son expérience, dit qu'il a tenté à plusieurs reprises de faire part de ses inquiétudes, mais que sa demande a été rejetée au motif qu'il manquait de preuves.

Il a donc recherché une « consultation extérieure » sur les capacités de LaMDA, ce qui a attiré l'attention de Google, comme décrit dans un article de Medium intitulé «Peut être bientôt licencié pour avoir effectué un travail d'éthique de l'IA».

L'histoire a été reprise par Washington Post, puis Le Wall Street Journal, Financial Times, Et beaucoup plus.

Ayant été mis en congé administratif, ce qu'il a décrit comme ce que fait Google « en prévision du licenciement de quelqu'un », Lemoine a en outre publié ce qu'il prétendait être une conversation avec LaMDA.

Voici quelques extraits :

L’intégralité de « l’interview » peut être lue ici. Bien qu’il soit surprenant qu’une IA puisse faire cela, Google se méfie de « l’anthropomorphisation » mentionnée par Lemoine – c’est-à-dire l’attribution de caractéristiques ou de comportements humains à des animaux ou à des objets.

Dans une déclaration à Le registre, le porte-parole de Google, Brian Gabriel, a déclaré : « Il est important que les principes d'IA de Google soient intégrés dans notre développement de l'IA, et LaMDA ne fait pas exception. Bien que d'autres organisations aient développé et déjà publié des modèles de langage similaires, nous adoptons une approche modérée et prudente avec LaMDA afin de mieux prendre en compte les préoccupations valables en matière d'équité et de factualité.

« LaMDA a traversé 11 étapes distinctes Avis sur les principes de l'IA, ainsi que des recherches et des tests rigoureux basés sur des indicateurs clés de qualité, de sécurité et de capacité du système à produire des déclarations fondées sur des faits. UN document de recherche publié plus tôt cette année détaille le travail consacré au développement responsable de LaMDA.

« Bien sûr, certains membres de la communauté plus large de l'IA envisagent la possibilité à long terme d'une IA sensible ou générale, mais cela n'a pas de sens de le faire en anthropomorphisant les modèles conversationnels actuels, qui ne sont pas sensibles. Ces systèmes imitent les types d'échanges trouvés dans des millions de phrases et peuvent riffer sur n'importe quel sujet fantastique – si vous demandez ce que cela signifie d'être un dinosaure glacé, ils peuvent générer un texte sur la fonte et le rugissement, etc.

«LaMDA a tendance à suivre les invites et les questions suggestives, en suivant le modèle défini par l'utilisateur. Notre équipe – comprenant des éthiciens et des technologues – a examiné les préoccupations de Blake conformément à nos principes d'IA et l'a informé que les preuves n'étayent pas ses affirmations.

"Des centaines de chercheurs et d'ingénieurs ont conversé avec LaMDA et nous ne connaissons personne d'autre qui ait fait des affirmations de grande envergure, ou anthropomorphisé LaMDA, comme l'a fait Blake."

Gary Marcus, professeur new-yorkais résumé toute la saga comme des « absurdités sur des échasses ». ®