'Sesgado, engañoso': el Centro de IA acusa al creador de ChatGPT de violar las leyes comerciales

El Centro de Inteligencia Artificial y Política Digital (CAIDP) ha presentado una queja ante la Comisión Federal de Comercio (FTC) de EE. UU. para evitar el lanzamiento de potentes sistemas de IA a los consumidores. La queja se centró en el modelo de lenguaje grande lanzado recientemente por OpenAI, GPT-4, que el CAIDP describe en su queja del 30 de marzo como "parcial, engañoso y un riesgo para la privacidad y la seguridad pública".

CAIDP, una organización de investigación sin fines de lucro, afirmó que el lanzamiento comercial de GPT-4 violó la Sección 5 de la Ley de la FTC, que prohíbe "actos o prácticas desleales o engañosas en el comercio o que lo afecten". Para respaldar su caso, la organización de ética de AI citó información de la tarjeta del sistema GPT-4, que decía: “Descubrimos que el modelo tiene el potencial de reforzar y reproducir sesgos y visiones del mundo específicos, incluidas asociaciones estereotipadas y degradantes dañinas para ciertos grupos marginados. ”, escribieron los investigadores.

“Los sistemas de IA tendrán un potencial aún mayor para reforzar ideologías enteras, visiones del mundo, verdades y falsedades, y cimentarlas o bloquearlas, impidiendo futuras contestaciones, reflexiones y mejoras”, según el mismo documento. CAIDP también declaró que OpenAI lanzó GPT-4 al público para uso comercial con pleno conocimiento de los riesgos, y que no se realizó una evaluación independiente de GPT-4 antes de su lanzamiento.

Como resultado, el CAIDP ha solicitado que la FTC investigue los productos de OpenAI y otros operadores de poderosos sistemas de IA: “Ya es hora de que la FTC tome medidas […] CAIDP insta a la FTC a abrir una investigación sobre OpenAI, ordenar más lanzamientos comerciales de GPT-4, y garantizar el establecimiento de las medidas de seguridad necesarias para proteger a los consumidores, las empresas y el mercado comercial”.

Si bien ChatGPT-3 se lanzó en noviembre, se dice que la versión más reciente, GPT-4, es diez veces más inteligente. Un estudio publicado el 14 de marzo descubrió que GPT-4 podía aprobar los exámenes de secundaria y derecho más difíciles de EE. UU. en el percentil 90 superior. También puede detectar vulnerabilidades de contratos inteligentes de Ethereum, entre otras cosas. La queja se produce cuando Elon Musk, Steve Wozniack de Apple y una gran cantidad de expertos en IA firmaron una petición pidiendo al Future of Life Institute que "pausara" el desarrollo de sistemas de IA más potentes que GPT-4, que se presentó el 22 de marzo.

El presidente de CAIDP, Marc Rotenberg, fue uno de los 2600 firmantes de la petición. Para bien o para mal, los autores argumentaron que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra”. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) también ha instado a los estados a poner en práctica el marco de la "Recomendación sobre la ética de la IA" de la ONU.

.