گوگل نے ڈائیورسٹی ڈپیکشن بیکلاش کے بعد جیمنی AI کو روک دیا۔

گوگل نے اسے روک دیا ہے۔ جیمنی اے آئی اس کی ترچھی نسلی نمائندگی پر ہنگامہ آرائی کے بعد 'لوگوں' کی تصاویر بنانے سے۔ 

ٹیک فرم نے اس وقت کارروائی کی جب صارفین نے AI کے بنیادی طور پر رنگین لوگوں کی تصویر کشی کے رجحان کو اجاگر کیا، یہاں تک کہ تاریخی طور پر غلط سیاق و سباق میں بھی۔ اس اقدام کا مقصد مزید درست اور متنوع عکاسیوں کو یقینی بنانے کے لیے جیمنی کی صلاحیتوں کو بہتر بنانا ہے۔

مزید پڑھئے: یہ ایک مذاق ہے! صارفین گوگل کے جیمنی کو گم کرنے پر طنز کرتے ہیں۔

ردعمل کی ابتداء

اس تنازعہ کی بنیادی وجہ AI کی اپنی تصویر کے نتائج میں نسلی تنوع کو درست طریقے سے ظاہر کرنے میں ناکامی ہے۔ سوشل میڈیا ایک میدان جنگ بن گیا، صارفین نے جیمنی سے تیار کردہ تصاویر شیئر کیں جو تاریخی اور ثقافتی درستگی سے بھٹک گئیں۔ قابل ذکر مثالوں میں غیر سفید فام سویڈش خواتین اور نازی یونیفارم میں رنگین لوگوں کی تصویر کشی شامل ہے۔ 

گوگل جیمنی کو یہ تسلیم کرنا شرمناک حد تک مشکل ہے کہ سفید فام لوگ موجود ہیں۔ pic.twitter.com/4lkhD7p5nR

—ڈیڈی (@debarghya_das) 20 فروری 2024

اس طرح کی غلطیوں نے نہ صرف سوشل میڈیا پر بحث چھیڑ دی ہے بلکہ گوگل کے اندر ملازمین کے ساتھ شدید خود شناسی کا باعث بھی بنی ہے۔ کا اظہار AI کی خامیوں پر شرمندگی۔ ناقدین کا کہنا ہے کہ یہ غلطیاں محض تکنیکی خرابیاں نہیں ہیں بلکہ AI پروگرامنگ میں زیادہ گہرے تعصب کی عکاسی کرتی ہیں۔

"میں کبھی بھی کسی کمپنی کے لیے کام کرنے میں اتنا شرمندہ نہیں ہوا،" گوگل اے آر وی آر کے ریسرچ انجینئر سینٹ رتیج نے ایک ایکس پوسٹ میں کہا۔

تاہم، ردعمل صرف گوگل پر ہی نہیں رکا، کیونکہ کچھ صارفین نے دوسرے AI پلیٹ فارمز میں بھی اسی تعصب کو دیکھا جیسے اوپن اے آئی کی چیٹ جی پی ٹی. نتیجتاً، تمام AI ٹیکنالوجیز کی جانچ پڑتال کی مستقل مزاجی کے بارے میں سوالات پیدا ہوئے، جس سے AI کی غیرجانبدارانہ نمائندگی کو یقینی بنانے کے وسیع تر صنعتی چیلنج کو اجاگر کیا گیا۔

یار لوگو… ایسا لگتا ہے کہ چیٹ جی پی ٹی میں بھی وہی اخلاقی مسئلہ ہے۔

انہیں مفت پاس کیوں مل رہا ہے؟ pic.twitter.com/a1ZBz69iZw

— Liv Boeree (@Liv_Boeree) 21 فروری 2024

پس منظر کا اثر

اس واقعے نے نہ صرف کمپنی کی شبیہ کو داغدار کیا ہے بلکہ AI اخلاقیات اور نمائندگی کے بارے میں ایک وسیع بحث کا باعث بھی بنی ہے۔ ایلون مسک نے گوگل کے طریقہ کار پر تنقید کرتے ہوئے اسے 'نسل پرست' اور 'تہذیب مخالف' قرار دیا۔ کستوری کی تبصروں مزید AI ٹیکنالوجی کی اخلاقی حدود کے بارے میں بڑھتی ہوئی تشویش اور AI سے تیار کردہ مواد کی زیادہ متنوع اور درست عکاسی کی ضرورت کی بازگشت۔

"مجھے خوشی ہے کہ گوگل نے اپنی AI امیج جنریشن کے ساتھ ان کے ہاتھ کو اوور پلے کیا، کیونکہ اس نے ان کی پاگل نسل پرست، تہذیب مخالف پروگرامنگ کو سب پر واضح کر دیا ہے۔"

تنازعہ کے جواب میں، مسک نے اپنے AI ماڈل، گروک کا اظہار کیا، جس کے لیے وہ مزید ورژن جاری کرنے کا ارادہ رکھتے تھے۔ ٹیکنالوجی AI کی ترقی میں مسابقتی برتری کا مظاہرہ کرتی ہے، جو جیمنی جیسے موجودہ ماڈلز کی حدود کو دور کرنے میں مدد کر سکتی ہے۔ مزید برآں، Grok اور Groq LPU چپ کے درمیان اتفاقی نام کی مماثلت نے دلچسپی میں اضافہ کیا کیونکہ AI مارکیٹ تیز رفتار جدت اور شدید مسابقت سے نشان زد ہے۔

شاید اب یہ واضح ہو گیا ہے کہ کیوں @xAIکا گروک بہت اہم ہے۔

یہ ابھی کامل سے بہت دور ہے، لیکن تیزی سے بہتری آئے گی۔ V1.5 2 ہفتوں میں ریلیز ہوتا ہے۔

تنقید کی پرواہ کیے بغیر سچائی کی سخت جستجو کبھی زیادہ ضروری نہیں رہی۔

- ایلون مسک (@ ویلونسک) 22 فروری 2024

بہتری کا راستہ

اس مسئلے کو تسلیم کرتے ہوئے، گوگل نے جیمنی کی تصویر کشی کی صلاحیتوں کو بہتر بنانے کا ارادہ کیا۔ کمپنی نے AI سے تیار کردہ تصاویر میں تنوع کی اہمیت پر زور دیا لیکن تمام آبادیات کی درست نمائندگی کرنے میں موجودہ ماڈل کی خامیوں کو تسلیم کیا۔ 

ہم جیمنی کی امیج جنریشن فیچر کے ساتھ حالیہ مسائل کو حل کرنے کے لیے پہلے سے ہی کام کر رہے ہیں۔ جب تک ہم یہ کرتے ہیں، ہم لوگوں کی تصویر بنانے کو روکنے جا رہے ہیں اور جلد ہی ایک بہتر ورژن دوبارہ جاری کریں گے۔ https://t.co/SLxYPGoqOZ

— گوگل کمیونیکیشنز (@Google_Comms) 22 فروری 2024

اسی رگ میں، گوگل کے ترجمان، کراؤزیک نے ماڈل کی کمی کو تسلیم کیا، اور ایک زیادہ متوازن عکاسی کی ضرورت پر زور دیا جو تاریخی درستگی پر سمجھوتہ کیے بغیر عالمی تنوع کا آئینہ دار ہو۔ ان خدشات کو دور کرنے کے لیے، گوگل نے جیمنی کی انسانی امیج جنریشن کی خصوصیت کو روک دیا، ایک بہتر ورژن کا اشارہ دیا جو اس کے صارف کی بنیاد کے عالمی تنوع کو بہتر انداز میں ظاہر کرتا ہے۔

"ہم جیمنی کی امیج جنریشن فیچر کے ساتھ حالیہ مسائل کو حل کرنے کے لیے پہلے سے ہی کام کر رہے ہیں۔ جب تک ہم یہ کرتے ہیں، ہم لوگوں کی امیج جنریشن کو روکنے جا رہے ہیں اور جلد ہی ایک بہتر ورژن دوبارہ جاری کریں گے۔"

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://metanews.com/google-halts-gemini-ai-amid-backlash-over-woke-image-controversies/