گوگل هوش مصنوعی Gemini را پس از عکس‌العمل نشان دادن تنوع متوقف می‌کند

گوگل هوش مصنوعی Gemini را پس از عکس‌العمل نشان دادن تنوع متوقف می‌کند

تمبر زمان: 26 فوریه 2024، ساعت 4:55 بعد از ظهر
Google Pauses Gemini AI After Diversity Depiction Backlash PlatoBlockchain Data Intelligence. Vertical Search. Ai.

گوگل آن را متوقف کرده است هوش مصنوعی جمینی از ایجاد تصاویر «مردم» پس از غوغایی که بر سر بازنمایی های نژادی کج روی آن به وجود آمد. 

این شرکت فناوری پس از اینکه کاربران تمایل هوش مصنوعی را برای به تصویر کشیدن افراد رنگین پوست، حتی در زمینه های تاریخی نادرست، برجسته کردند، اقدام کرد. هدف این حرکت اصلاح قابلیت‌های Gemini برای اطمینان از تصاویر دقیق‌تر و متنوع‌تر است.

همچنین بخوانید: این یه شوخیه! کاربران جمینی گوگل را به خاطر از دست دادن آن مسخره می کنند

پیدایش واکنش متقابل

هسته اصلی این بحث در عدم انعکاس دقیق تنوع نژادی در خروجی های تصویر توسط هوش مصنوعی نهفته است. رسانه‌های اجتماعی به میدان نبرد تبدیل شدند و کاربران تصاویر تولید شده توسط Gemini را به اشتراک گذاشتند که از دقت تاریخی و فرهنگی دور بود. نمونه های قابل توجه شامل تصاویر زنان سوئدی غیر سفید پوست و افراد رنگین پوست در لباس نازی ها است. 

چنین نادرستی‌هایی نه تنها بحث‌هایی را در رسانه‌های اجتماعی برانگیخته است، بلکه منجر به درون‌نگری شدید در درون گوگل، با کارمندان شده است. بیان کننده خجالت از کاستی های هوش مصنوعی. منتقدان استدلال می کنند که این نادرستی ها اشکالات فنی صرف نیستند، بلکه منعکس کننده یک سوگیری عمیق تر در برنامه نویسی هوش مصنوعی هستند.

سنت راتج، مهندس محقق در Google ARVR، در پست X می‌گوید: «هیچ وقت از کار کردن در یک شرکت خجالت نکشیده‌ام.

با این حال، واکنش‌ها فقط به گوگل ختم نشد، زیرا برخی از کاربران متوجه همین تعصبات در سایر پلتفرم‌های هوش مصنوعی مانند ChatGPT OpenAI. در نتیجه، سوالاتی در مورد ثبات بررسی در سراسر فناوری‌های هوش مصنوعی مطرح شد که چالش گسترده‌تر صنعت را برای اطمینان از ارائه‌های بی‌طرفانه هوش مصنوعی برجسته می‌کند.

اثر موج

این حادثه نه تنها وجهه شرکت را خدشه دار کرده است، بلکه به بحث گسترده تری در مورد اخلاق و نمایندگی هوش مصنوعی منجر شده است. ایلان ماسک از روش شناسی گوگل انتقاد کرد و آن را "نژادپرستانه" و "ضد تمدن" خواند. ماسک نظرات همچنین نگرانی فزاینده در مورد مرزهای اخلاقی فناوری هوش مصنوعی و نیاز به تصویری متنوع تر و دقیق تر از محتوای تولید شده توسط هوش مصنوعی را منعکس می کند.

"خوشحالم که گوگل دست خود را با تولید تصویر هوش مصنوعی خود بیش از حد بازی کرد، زیرا برنامه های نژادپرستانه دیوانه کننده و ضد تمدن آنها را برای همه روشن کرد."

در پاسخ به این جنجال، ماسک مدل هوش مصنوعی خود، Grok را بیان کرد که قصد داشت نسخه‌های بیشتری را برای آن منتشر کند. این فناوری یک مزیت رقابتی را در توسعه هوش مصنوعی نشان می دهد که ممکن است به غلبه بر محدودیت های مدل های موجود مانند Gemini کمک کند. علاوه بر این، شباهت نام تصادفی بین Grok و تراشه LPU Groq باعث افزایش توجه شد زیرا بازار هوش مصنوعی با نوآوری سریع و رقابت شدید مشخص شده است.

مسیر پیشرفت

با اذعان به این مشکل، گوگل قصد داشت قابلیت های تصویرسازی Gemini را اصلاح کند. این شرکت بر اهمیت تنوع در تصاویر تولید شده توسط هوش مصنوعی تاکید کرد، اما کاستی‌های مدل فعلی را در نمایش دقیق تمام جمعیت‌شناسی پذیرفت. 

در همین راستا، سخنگوی گوگل، Krawczyk، کمبود این مدل را پذیرفت و بر نیاز به تصویری متعادل‌تر که تنوع جهانی را بدون به خطر انداختن دقت تاریخی منعکس کند، تاکید کرد. برای رسیدگی به این نگرانی‌ها، گوگل قابلیت تولید تصویر انسانی Gemini را متوقف کرد و به نسخه پیشرفته‌ای اشاره کرد که تنوع جهانی پایگاه کاربر خود را بهتر منعکس می‌کند.

ما در حال حاضر در حال کار برای رفع مشکلات اخیر با ویژگی تولید تصویر Gemini هستیم. در حالی که ما این کار را انجام می دهیم، تولید تصویر افراد را متوقف می کنیم و به زودی نسخه بهبود یافته را دوباره منتشر خواهیم کرد.

تمبر زمان:

بیشتر از متانیوز