Google suspend Gemini AI après le contrecoup de la représentation de la diversité

Google suspend Gemini AI après le contrecoup de la représentation de la diversité

Horodatage: 26 février 2024 4:55
Google suspend l'IA Gemini après le contrecoup de la représentation de la diversité PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Google a suspendu son IA Gémeaux de générer des images « populaires » suite au tollé suscité par ses représentations raciales biaisées. 

L'entreprise technologique a pris des mesures après que des utilisateurs ont souligné la tendance de l'IA à représenter principalement des personnes de couleur, même dans des contextes historiquement inexacts. Cette décision vise à affiner les capacités de Gemini pour garantir des représentations plus précises et plus diversifiées.

A lire également: C'est une blague! Les utilisateurs ridiculisent les Gémeaux de Google pour l'avoir manqué

La genèse du contrecoup

Le cœur de la controverse réside dans l’incapacité de l’IA à refléter avec précision la diversité raciale dans ses images. Les réseaux sociaux sont devenus un champ de bataille, les utilisateurs partageant des images générées par Gemini qui s'écartaient de l'exactitude historique et culturelle. Des exemples notables incluent des représentations de femmes suédoises non blanches et de personnes de couleur en uniformes nazis. 

De telles inexactitudes ont non seulement suscité des débats sur les réseaux sociaux, mais ont également conduit à une sévère introspection au sein de Google, avec des employés exprimant embarras face aux lacunes de l'IA. Les critiques affirment que ces inexactitudes ne sont pas de simples problèmes techniques mais reflètent un parti pris plus profond dans la programmation de l’IA.

"Je n'ai jamais été aussi gêné de travailler pour une entreprise", a déclaré St. Ratej, ingénieur de recherche chez Google ARVR, dans un post X.

Cependant, la réaction négative ne s'est pas limitée à Google, car certains utilisateurs ont également remarqué les mêmes préjugés sur d'autres plateformes d'IA comme ChatGPT d'OpenAI. Par conséquent, des questions ont été soulevées quant à la cohérence de l’examen minutieux des technologies d’IA, soulignant le défi plus large à l’échelle de l’industrie consistant à garantir des représentations impartiales de l’IA.

L'effet d'entraînement

L'incident a non seulement terni l'image de l'entreprise, mais a également conduit à un débat plus large sur l'éthique et la représentation de l'IA. Elon Musk a critiqué la méthodologie de Google, la qualifiant de « raciste » et « anti-civilisationnelle ». celui de musc commentaires font écho aux préoccupations croissantes concernant les limites éthiques de la technologie de l’IA et la nécessité d’une représentation plus diversifiée et plus précise du contenu généré par l’IA.

"Je suis heureux que Google ait surjoué avec sa génération d'images IA, car cela a rendu clair pour tous sa programmation insensée, raciste et anti-civilisationnelle."

En réponse à la controverse, Musk a présenté son modèle d'IA, Grok, pour lequel il avait l'intention de publier d'autres versions. La technologie démontre un avantage concurrentiel dans le développement de l’IA, ce qui pourrait aider à surmonter les limites des modèles existants comme Gemini. En outre, la similitude fortuite du nom entre Grok et la puce Groq LPU a suscité un intérêt accru, car le marché de l'IA est marqué par une innovation rapide et une concurrence aiguë.

La voie de l'amélioration

Conscient du problème, Google avait l'intention d'affiner les capacités de représentation de Gemini. La société a souligné l'importance de la diversité dans les images générées par l'IA, mais a admis les lacunes du modèle actuel dans la représentation précise de toutes les données démographiques. 

Dans le même ordre d'idées, le porte-parole de Google, Krawczyk, a admis les lacunes du modèle, soulignant la nécessité d'une représentation plus équilibrée qui reflète la diversité mondiale sans compromettre l'exactitude historique. Pour répondre à ces préoccupations, Google a suspendu la fonctionnalité de génération d'images humaines de Gemini, signalant une version améliorée qui reflète mieux la diversité mondiale de sa base d'utilisateurs.

« Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d'images de Gemini. Pendant ce temps, nous allons suspendre la génération d'images de personnes et rééditerons bientôt une version améliorée.

Horodatage:

Plus de MétaActualités