Google tạm dừng Gemini AI sau phản ứng dữ dội về mô tả đa dạng

Google tạm dừng Gemini AI sau phản ứng dữ dội về mô tả đa dạng

Dấu thời gian: 26 tháng 2024 năm 4 55:XNUMX CH
Google tạm dừng Gemini AI sau phản ứng dữ dội về mô tả đa dạng của PlatoBlockchain Data Intelligence. Tìm kiếm dọc. Ái.

Google đã tạm dừng AI Song Tử từ việc tạo ra hình ảnh 'con người' sau một cuộc náo động về sự thể hiện sai lệch về chủng tộc của nó. 

Công ty công nghệ đã hành động sau khi người dùng nhấn mạnh xu hướng của AI chủ yếu mô tả người da màu, ngay cả trong bối cảnh không chính xác về mặt lịch sử. Động thái này nhằm mục đích cải tiến khả năng của Song Tử để đảm bảo những miêu tả chính xác và đa dạng hơn.

Ngoài ra đọc: Đó là một trò đùa! Người dùng chế giễu Gemini của Google vì đã bỏ lỡ nó

Nguồn gốc của phản ứng dữ dội

Cốt lõi của cuộc tranh cãi nằm ở việc AI không phản ánh chính xác sự đa dạng chủng tộc trong kết quả hình ảnh của nó. Phương tiện truyền thông xã hội đã trở thành một chiến trường, với việc người dùng chia sẻ những hình ảnh do Song Tử tạo ra không chính xác về lịch sử và văn hóa. Các ví dụ đáng chú ý bao gồm mô tả về phụ nữ Thụy Điển không phải da trắng và người da màu trong quân phục của Đức Quốc xã. 

Những thông tin không chính xác như vậy không chỉ gây ra các cuộc tranh luận trên mạng xã hội mà còn dẫn đến sự xem xét nội tâm nghiêm trọng trong nội bộ Google, với các nhân viên. thể hiện bối rối trước những thiếu sót của AI. Các nhà phê bình cho rằng những điểm thiếu chính xác này không chỉ là trục trặc kỹ thuật mà còn phản ánh sự thiên vị sâu sắc hơn trong lập trình AI.

St. Ratej, kỹ sư nghiên cứu tại Google ARVR, cho biết trong một bài đăng X: “Tôi chưa bao giờ xấu hổ đến thế khi làm việc cho một công ty”.

Tuy nhiên, phản ứng dữ dội không chỉ dừng lại ở Google, khi một số người dùng cũng nhận thấy những thành kiến ​​​​tương tự ở các nền tảng AI khác như ChatGPT của OpenAI. Do đó, các câu hỏi đã đặt ra về tính nhất quán trong việc xem xét kỹ lưỡng các công nghệ AI, nêu bật thách thức rộng hơn trên toàn ngành trong việc đảm bảo các đại diện AI không thiên vị.

Hiệu ứng gợn

Vụ việc không chỉ làm hoen ố hình ảnh của công ty mà còn dẫn đến một cuộc tranh luận rộng rãi hơn về đạo đức và tính đại diện của AI. Elon Musk chỉ trích phương pháp luận của Google, gọi nó là 'phân biệt chủng tộc' và 'phản văn minh'. của Musk Bình luận tiếp tục phản ánh mối lo ngại ngày càng tăng về ranh giới đạo đức của công nghệ AI và nhu cầu mô tả đa dạng và chính xác hơn về nội dung do AI tạo ra.

“Tôi rất vui vì Google đã chơi quá tay trong việc tạo ra hình ảnh AI của họ, vì nó khiến tất cả mọi người đều thấy rõ chương trình phân biệt chủng tộc, phản văn minh điên rồ của họ.”

Để giải quyết những tranh cãi, Musk đã bày tỏ mô hình AI của mình, Grok, mà ông dự định sẽ phát hành các phiên bản tiếp theo. Công nghệ này thể hiện lợi thế cạnh tranh trong phát triển AI, có thể giúp khắc phục những hạn chế của các mô hình hiện có như Gemini. Hơn nữa, sự trùng hợp ngẫu nhiên về tên giữa Grok và chip Groq LPU đã thu hút sự quan tâm tăng vọt khi thị trường AI được đánh dấu bằng sự đổi mới nhanh chóng và sự cạnh tranh gay gắt.

Con đường cải tiến

Thừa nhận vấn đề, Google dự định cải tiến khả năng mô tả của Gemini. Công ty nhấn mạnh tầm quan trọng của sự đa dạng trong hình ảnh do AI tạo ra nhưng thừa nhận những thiếu sót của mô hình hiện tại trong việc thể hiện chính xác tất cả các nhóm nhân khẩu học. 

Đồng quan điểm, người phát ngôn của Google, Krawczyk, đã thừa nhận sự thiếu sót của mô hình, nhấn mạnh sự cần thiết phải có một mô tả cân bằng hơn, phản ánh sự đa dạng toàn cầu mà không ảnh hưởng đến độ chính xác lịch sử. Để giải quyết những lo ngại này, Google đã tạm dừng tính năng tạo hình ảnh con người của Gemini, báo hiệu một phiên bản nâng cao phản ánh tốt hơn sự đa dạng toàn cầu của cơ sở người dùng.

“Chúng tôi đang nỗ lực giải quyết các vấn đề gần đây với tính năng tạo hình ảnh của Gemini. Trong khi thực hiện việc này, chúng tôi sẽ tạm dừng việc tạo hình ảnh về mọi người và sẽ sớm phát hành lại phiên bản cải tiến.”

Dấu thời gian:

Thêm từ MetaNews