Google detiene Gemini AI después de una reacción violenta por la representación de la diversidad

Google detiene Gemini AI después de una reacción violenta por la representación de la diversidad

Marca de tiempo: 26 de febrero de 2024 4:55 p.m.
Google detiene Gemini AI después de la reacción violenta de la representación de la diversidad PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

Google ha pausado su IA Géminis de generar imágenes de "personas" tras el revuelo por sus representaciones raciales sesgadas. 

La empresa de tecnología tomó medidas después de que los usuarios resaltaran la tendencia de la IA a representar principalmente a personas de color, incluso en contextos históricamente inexactos. Este movimiento tiene como objetivo refinar las capacidades de Gemini para garantizar representaciones más precisas y diversas.

Lea también: ¡Es una broma! Los usuarios ridiculizan a Géminis de Google por no verlo

La génesis de la reacción

El núcleo de la controversia radica en la incapacidad de AI para reflejar con precisión la diversidad racial en sus imágenes. Las redes sociales se convirtieron en un campo de batalla, y los usuarios compartían imágenes generadas por Gemini que se desviaban de la precisión histórica y cultural. Ejemplos notables incluyen representaciones de mujeres suecas no blancas y personas de color con uniformes nazis. 

Tales imprecisiones no sólo han provocado debates en las redes sociales, sino que también han llevado a una severa introspección dentro de Google, con empleados expresando vergüenza por las deficiencias de la IA. Los críticos argumentan que estas imprecisiones no son meros fallos técnicos, sino que reflejan un sesgo más profundo en la programación de la IA.

"Nunca me había dado tanta vergüenza trabajar para una empresa", dijo St. Ratej, ingeniero de investigación de Google ARVR, en una publicación X.

Sin embargo, la reacción no se limitó solo a Google, ya que algunos usuarios también notaron los mismos sesgos en otras plataformas de inteligencia artificial como ChatGPT de OpenAI. En consecuencia, surgieron preguntas sobre la coherencia del escrutinio entre las tecnologías de IA, destacando el desafío más amplio de toda la industria de garantizar representaciones imparciales de la IA.

El efecto dominó

El incidente no sólo ha empañado la imagen de la empresa, sino que también ha dado lugar a un debate más amplio sobre la ética y la representación de la IA. Elon Musk criticó la metodología de Google, calificándola de "racista" y "anticivilización". almizcle comentarios Se hacen eco aún más de la creciente preocupación por los límites éticos de la tecnología de IA y la necesidad de una representación más diversa y precisa del contenido generado por IA.

"Me alegro de que Google haya exagerado su habilidad con la generación de imágenes mediante IA, ya que dejó clara para todos su loca programación racista y anticivilización".

En respuesta a la controversia, Musk expresó su modelo de inteligencia artificial, Grok, del cual tenía la intención de lanzar más versiones. La tecnología demuestra una ventaja competitiva en el desarrollo de la IA, que podría ayudar a superar las limitaciones de modelos existentes como Gemini. Además, la coincidencia de nombres entre Grok y el chip Groq LPU despertó el interés, ya que el mercado de la IA está marcado por una rápida innovación y una intensa competencia.

El camino hacia la mejora

Al reconocer el problema, Google tenía la intención de perfeccionar las capacidades de representación de Gemini. La compañía enfatizó la importancia de la diversidad en las imágenes generadas por IA, pero admitió las deficiencias del modelo actual a la hora de representar con precisión todos los datos demográficos. 

En la misma línea, el portavoz de Google, Krawczyk, admitió el déficit del modelo, enfatizando la necesidad de una representación más equilibrada que refleje la diversidad global sin comprometer la precisión histórica. Para abordar estas preocupaciones, Google detuvo la función de generación de imágenes humanas de Gemini, señalando una versión mejorada que refleja mejor la diversidad global de su base de usuarios.

“Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”.

Sello de tiempo:

Mas de MetaNoticias