Ingeniero de Google suspendido por violar políticas de confidencialidad sobre IA 'consciente'

Google ha puesto a uno de sus ingenieros de software en licencia administrativa remunerada por violar las políticas de confidencialidad de la empresa.

Desde 2021, Blake Lemoine, de 41 años, tenía la tarea de hablar con LaMDA, o Modelo de lenguaje para aplicaciones de diálogo, como parte de su trabajo en el equipo de inteligencia artificial responsable de Google, buscando si el bot usaba discursos discriminatorios o de odio.

LaMDA está “construido afinando una familia de transformadorbasados ​​en modelos de lenguaje neuronal especializados para el diálogo, con hasta 137 mil millones de parámetros de modelo, y enseñando a los modelos a aprovechar fuentes de conocimiento externas”. según Google.

Es lo que la empresa usa para construir chatbots y devuelve respuestas aparentemente significativas a consultas basadas en material recopilado de billones de conversaciones en Internet y otras comunicaciones.

Sin embargo, en algún momento durante su investigación, Lemoine parece haber comenzado a creer que la IA estaba expresando signos de sensibilidad. El ingeniero, que tiene escrito sobre su experiencia, dice que intentó reiteradamente escalar sus preocupaciones, pero fue rechazado por falta de pruebas.

Así que buscó una "consulta externa" sobre las capacidades de LaMDA, que es lo que atrajo la atención de Google, como se describe en una publicación de Medium titulada “Puede ser despedido pronto por hacer trabajo de ética de IA”.

La historia fue recogida por The Washington Post, entonces El Wall Street Journal, la Financial Times, y muchos más.

Después de haber sido puesto en licencia administrativa, lo que describió como lo que Google hace "antes de despedir a alguien", Lemoine publicó además lo que afirmó fue una conversación con LaMDA.

Lo que sigue son algunos extractos:

La “entrevista” completa se puede leer esta página. Si bien es sorprendente que una IA pueda hacer esto, Google desconfía de la "antropomorfización" que menciona Lemoine, es decir, atribuir características o comportamiento humano a animales u objetos.

En una declaración a El registro, el portavoz de Google, Brian Gabriel, dijo: “Es importante que los Principios de IA de Google se integren en nuestro desarrollo de IA, y LaMDA no ha sido una excepción. Aunque otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque moderado y cuidadoso con LaMDA para considerar mejor las preocupaciones válidas sobre la equidad y la factualidad.

“LaMDA ha pasado por 11 distintas Reseñas de Principios de IA, junto con investigaciones y pruebas rigurosas basadas en métricas clave de calidad, seguridad y la capacidad del sistema para producir declaraciones basadas en hechos. A trabajo de investigación publicado a principios de este año detalla el trabajo que se dedica al desarrollo responsable de LaMDA.

“Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles. Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden abordar cualquier tema fantástico: si pregunta cómo es ser un dinosaurio de helado, pueden generar texto sobre derretimiento y rugido, etc.

“LaMDA tiende a seguir las indicaciones y las preguntas dirigidas, siguiendo el patrón establecido por el usuario. Nuestro equipo, que incluye éticos y tecnólogos, revisó las preocupaciones de Blake según nuestros Principios de IA y le informó que la evidencia no respalda sus afirmaciones.

"Cientos de investigadores e ingenieros han conversado con LaMDA y no tenemos conocimiento de que nadie más haya hecho afirmaciones tan amplias o antropomorfizado a LaMDA, como lo ha hecho Blake".

Profesor de Nueva York Gary Marcus resumió toda la saga como “tonterías sobre pilotes”. ®