Google Menghentikan AI Gemini Setelah Reaksi Penggambaran Keberagaman

Google Menghentikan AI Gemini Setelah Reaksi Penggambaran Keberagaman

Stempel Waktu: 26 Februari 2024 4
Google Menghentikan AI Gemini Setelah Penggambaran Keberagaman, Kecerdasan Data PlatoBlockchain. Pencarian Vertikal. Ai.

Google telah menjedanya Gemini AI dari menghasilkan citra 'rakyat' setelah adanya keributan atas representasi rasial yang tidak tepat. 

Perusahaan teknologi tersebut mengambil tindakan setelah pengguna menyoroti kecenderungan AI untuk menggambarkan terutama orang kulit berwarna, bahkan dalam konteks historis yang tidak akurat. Langkah ini bertujuan untuk menyempurnakan kemampuan Gemini guna memastikan penggambaran yang lebih akurat dan beragam.

Baca juga: Itu lelucon! Pengguna Mencemooh Gemini Google karena Melewatkannya

Asal usul serangan balik

Inti dari kontroversi ini terletak pada kegagalan AI untuk mencerminkan keragaman ras secara akurat dalam keluaran gambarnya. Media sosial menjadi medan pertempuran, dengan pengguna yang membagikan gambar-gambar Gemini yang menyimpang dari keakuratan sejarah dan budaya. Contoh penting termasuk penggambaran wanita Swedia non-kulit putih dan orang kulit berwarna dalam seragam Nazi. 

Ketidakakuratan tersebut tidak hanya memicu perdebatan di media sosial namun juga menyebabkan introspeksi yang parah di dalam Google, dengan para karyawannya. mengekspresikan malu atas kekurangan AI. Kritikus berpendapat bahwa ketidakakuratan ini bukan sekadar kesalahan teknis tetapi mencerminkan bias yang lebih besar dalam pemrograman AI.

“Saya tidak pernah merasa malu bekerja di sebuah perusahaan,” kata St. Ratej, seorang insinyur riset di Google ARVR, dalam postingan X.

Namun, reaksi baliknya tidak hanya berhenti di Google, karena beberapa pengguna juga melihat bias yang sama di platform AI lain ChatGPT OpenAI. Akibatnya, muncul pertanyaan tentang konsistensi pengawasan terhadap teknologi AI, yang menyoroti tantangan industri yang lebih luas dalam memastikan representasi AI yang tidak memihak.

Efek riak

Insiden ini tidak hanya mencoreng citra perusahaan tetapi juga menimbulkan perdebatan yang lebih luas mengenai etika dan representasi AI. Elon Musk mengkritik metodologi Google, menyebutnya 'rasis' dan 'anti-peradaban'. milik Musk komentar semakin mencerminkan meningkatnya kekhawatiran mengenai batas-batas etika teknologi AI dan perlunya penggambaran konten yang dihasilkan AI secara lebih beragam dan akurat.

“Saya senang Google terlalu berlebihan dalam menghasilkan gambar AI, karena hal itu membuat program mereka yang rasis dan anti-peradaban menjadi jelas bagi semua orang.”

Menanggapi kontroversi tersebut, Musk mengutarakan model AI-nya, Grok, yang ingin ia rilis versi selanjutnya. Teknologi ini menunjukkan keunggulan kompetitif dalam pengembangan AI, yang mungkin membantu mengatasi keterbatasan model yang ada seperti Gemini. Selain itu, kesamaan nama yang kebetulan antara Grok dan chip LPU Groq meningkatkan minat karena pasar AI ditandai dengan inovasi yang cepat dan persaingan yang ketat.

Jalan menuju perbaikan

Menyadari masalah ini, Google bermaksud menyempurnakan kemampuan penggambaran Gemini. Perusahaan ini menekankan pentingnya keberagaman dalam gambar yang dihasilkan AI, namun mengakui kekurangan model saat ini dalam mewakili semua demografi secara akurat. 

Senada dengan itu, juru bicara Google, Krawczyk, mengakui kekurangan model tersebut, dan menekankan perlunya penggambaran yang lebih seimbang yang mencerminkan keragaman global tanpa mengurangi keakuratan sejarah. Untuk mengatasi masalah ini, Google menghentikan sementara fitur pembuatan gambar manusia Gemini, menandakan adanya versi yang disempurnakan yang lebih mencerminkan keragaman global basis penggunanya.

“Kami telah berupaya mengatasi masalah terkini pada fitur pembuatan gambar Gemini. Sementara kami melakukan ini, kami akan menghentikan sementara pembuatan citra orang-orang dan akan segera merilis kembali versi yang lebih baik.”

Stempel Waktu:

Lebih dari Berita Meta