Google은 다양성 묘사 반발 이후 Gemini AI를 일시 중지합니다.

Google은 다양성 묘사 반발 이후 Gemini AI를 일시 중지합니다.

타임 스탬프 : 26 년 2024 월 4 일 오후 55:XNUMX
Google은 다양성 묘사 백래시 이후 Gemini AI를 일시 중지합니다. PlatoBlockchain 데이터 인텔리전스. 수직 검색. 일체 포함.

Google이 일시중지했습니다. 제미니 AI 왜곡된 인종적 표현에 대한 소란 이후 '사람' 이미지를 생성하는 것으로부터. 

기술 회사는 역사적으로 부정확한 맥락에서도 AI가 주로 유색인종을 묘사하는 경향을 사용자가 강조한 후 조치를 취했습니다. 이러한 움직임은 보다 정확하고 다양한 묘사를 보장하기 위해 Gemini의 기능을 개선하는 것을 목표로 합니다.

또한 읽기 : 그것은 농담! 사용자들은 Google의 Gemini를 놓쳤다고 조롱합니다.

반발의 기원

논란의 핵심은 AI가 이미지 출력에 인종적 다양성을 정확하게 반영하지 못했다는 데 있다. 소셜 미디어는 사용자들이 역사적, 문화적 정확성에서 벗어난 Gemini 생성 이미지를 공유하면서 전쟁터가 되었습니다. 주목할만한 예로는 백인이 아닌 스웨덴 여성과 나치 유니폼을 입은 유색인종에 대한 묘사가 있습니다. 

이러한 부정확성은 소셜 미디어에서 논쟁을 촉발했을 뿐만 아니라 Google 내에서 직원들에 대한 심각한 성찰로 이어졌습니다. 표현 AI의 단점에 대한 당혹감. 비평가들은 이러한 부정확성이 단순한 기술적 결함이 아니라 AI 프로그래밍의 더 깊은 편견을 반영한다고 주장합니다.

Google ARVR의 연구 엔지니어인 St. Ratej는 X 포스트에서 “회사에서 일하는 것이 이렇게 창피한 적이 없습니다.”라고 말했습니다.

그러나 반발은 Google에서만 그치지 않았습니다. 일부 사용자도 다음과 같은 다른 AI 플랫폼에서도 동일한 편견을 발견했기 때문입니다. OpenAI의 ChatGPT. 결과적으로, AI 기술 전반에 대한 정밀 조사의 일관성에 대한 의문이 제기되었으며, 이는 편견 없는 AI 표현을 보장해야 하는 업계 전반의 과제를 강조했습니다.

파급 효과

이 사건은 회사의 이미지를 훼손했을 뿐만 아니라 AI 윤리 및 대표성에 대한 광범위한 논쟁으로 이어졌습니다. 일론 머스크(Elon Musk)는 구글의 방법론을 '인종차별적', '반문명적'이라고 비판했다. 머스크의 댓글 AI 기술의 윤리적 경계와 AI 생성 콘텐츠에 대한 보다 다양하고 정확한 묘사에 대한 필요성에 대한 우려가 커지고 있습니다.

"Google이 AI 이미지 생성 기능을 과도하게 활용하여 미친 인종 차별주의, 반문명 프로그램을 모든 사람에게 명확하게 만들어 준 것이 기쁩니다."

논란에 대해 머스크는 자신의 AI 모델인 그록(Grok)을 표현했으며, 이에 대한 추가 버전을 출시할 계획이다. 이 기술은 AI 개발의 경쟁력을 입증하며, 이는 Gemini와 같은 기존 모델의 한계를 극복하는 데 도움이 될 수 있습니다. 또한, AI 시장이 빠른 혁신과 극심한 경쟁으로 특징지어짐에 따라 Grok과 Groq LPU 칩 간의 우연한 이름 유사성은 관심을 높였습니다.

개선의 길

이 문제를 인식한 Google은 Gemini의 묘사 기능을 개선하려고 했습니다. 회사는 AI가 생성한 이미지의 다양성의 중요성을 강조했지만, 모든 인구통계를 정확하게 표현하는 데에는 현재 모델의 단점을 인정했습니다. 

같은 맥락에서 Google 대변인 Krawczyk은 모델의 부족함을 인정하면서 역사적 정확성을 손상시키지 않으면서 전 세계의 다양성을 반영하는 보다 균형 잡힌 묘사의 필요성을 강조했습니다. 이러한 문제를 해결하기 위해 Google은 Gemini의 인간 이미지 생성 기능을 일시 중지하여 사용자 기반의 전 세계적 다양성을 더 잘 반영하는 향상된 버전을 알렸습니다.

“우리는 이미 Gemini의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있습니다. 이 과정에서 인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 다시 출시할 예정입니다.”

타임 스탬프 :

더보기 메타뉴스