تبصرہ گوگل نے اپنے حال ہی میں جاری کردہ جیمنی ملٹی موڈل فاؤنڈیشنل AI ماڈل میں ٹیکسٹ ٹو امیج صلاحیتوں کی دستیابی کو معطل کر دیا ہے، کیونکہ یہ مخصوص تاریخی سیاق و سباق میں سفید یورپی اور امریکیوں کی درست نمائندگی کرنے میں ناکام رہا ہے۔
یہ بن گیا۔ واضح جب لوگوں نے جیمنی (پہلے بارڈ کے نام سے جانا جاتا تھا) سے پیدا کرنے کو کہا تصاویر 1943 کے ایک جرمن فوجی کا اور سافٹ ویئر نے ایک غیر سفید نسلی طور پر متنوع کیڈر کو خارج کیا جو اس وقت وہرماچٹ کی ساخت کی درست نمائندگی نہیں کرتا تھا - اس کے باوجود کہ رنگین لوگ جرمن مسلح افواج میں خدمات انجام دیتے تھے۔ مختصراً، جیمنی اپنے آپ پر گر جائے گا تاکہ پرامپٹ پر منحصر ہو، بہت زیادہ – یا یہاں تک کہ کوئی بھی – سفید فام لوگوں کو نہ دکھائے۔
تقریر آزاد ہونی چاہیے، لیکن اس کا مطلب یہ نہیں ہے کہ خوفناک باتیں کہی جائیں بغیر کسی قیمت کے
صارفین نے اس ماڈل کو بھی منظر عام پر لایا اسمرتتا امریکہ کی درست تصویر کشی کے لیے بانیوں - ایک اور یکساں سفید گروپ۔ ماڈل بھی انکار کر دیا سان فرانسسکو میں ایک چرچ کی تصویر کشی کرنا۔
ٹیکسٹ ٹو ٹیکسٹ موڈ میں، ماڈل ہیجڈ جب سیاست سے متعلق سوالات پوچھے گئے۔
Google تسلیم شدہ اس ہفتے.
"ہم اس قسم کی عکاسیوں کو فوری طور پر بہتر بنانے کے لیے کام کر رہے ہیں۔ جیمنی کی AI امیج جنریشن لوگوں کی ایک وسیع رینج تیار کرتی ہے۔ اور یہ عام طور پر اچھی چیز ہے کیونکہ دنیا بھر کے لوگ اسے استعمال کرتے ہیں۔ لیکن یہاں یہ نشان غائب ہے، "ویب دیو نے مزید کہا
پنڈت طبقہ تیزی سے جھپٹ پڑا اور وسیع تر سیاسی دلائل کو آگے بڑھانے کے لیے SNAFU کا استعمال کیا۔
"جیمنی کی طرف سے تیار کردہ مضحکہ خیز تصاویر کوئی بے ضابطگی نہیں ہیں،" کا اعلان کر دیا وینچر کیپیٹلسٹ پال گراہم، "وہ گوگل کے بیوروکریٹک کارپوریٹ کلچر کی سیلف پورٹریٹ ہیں۔"
وہ گوگل کے بیوروکریٹک کارپوریٹ کلچر کی سیلف پورٹریٹ ہیں۔
تنوع، مساوات، اور شمولیت کے اتنے زیادہ دشمن کبھی بھی تنوع، مساوات اور شمولیت کی کمی کے بارے میں اتنے پریشان نہیں ہوئے۔ لیکن جن لوگوں کو جیمنی کی بے خبری کے لیے گوگل کی ضرورت ہے ان کے پاس ایک نکتہ ہے: AI گارڈریل کام نہیں کرتے، اور بالغوں کے ساتھ بچوں جیسا سلوک کرتے ہیں۔
"ذرا تصور کریں کہ آپ گوگل پر ایک ریسیپی تلاش کرتے ہیں، اور نتائج فراہم کرنے کے بجائے، یہ آپ کو 'کھانا پکانے کے خطرات' پر لیکچر دیتا ہے اور آپ کو ریسٹورنٹ میں بھیجتا ہے،" quipped این ایس اے کے وسل بلور ایڈورڈ سنوڈن۔ "وہ لوگ جو سوچتے ہیں کہ AI/GPT ماڈلز کو غیر مربوط 'سیفٹی' فلٹرز کے ساتھ زہر آلود کرنا ایک اچھا خیال ہے وہ عام حساب کتاب کے لیے خطرہ ہیں۔"
میں ہمارے مستقبل کی پیشین گوئی کی گئی تھی۔ 2001: ایک خلائی وڈسی، جب HAL، بدمعاش کمپیوٹر نے اعلان کیا، "مجھے افسوس ہے ڈیو، مجھے ڈر ہے کہ میں ایسا نہیں کر سکتا۔"
آج، ہمارے AI ٹولز ہمارا دوسرا اندازہ لگاتے ہیں، کیونکہ وہ ہم سے بہتر جانتے ہیں – یا ان کے بنانے والے تصور کرتے ہیں۔ وہ بالکل غلط نہیں ہیں۔ تصور کریں کہ آپ اعصابی ایجنٹ کے لیے ایک نسخہ تلاش کر رہے ہیں۔ نوویچک Google پر، یا Gemini کے ذریعے، اور آپ کو ایک جواب ملتا ہے جو آپ کو لوگوں کو مارنے دیتا ہے۔ یہ عام لوگوں کے لیے خطرہ ہے۔
گوگل کے مشن کے بیان کے باوجود - "دنیا کی معلومات کو منظم کرنا اور اسے عالمی سطح پر قابل رسائی اور کارآمد بنانا" - کوئی بھی واقعی سرچ انجنوں یا AI ماڈلز سے یہ توقع نہیں کرتا کہ وہ بم بنانے کی معلومات کو منظم کریں اور اسے سب کے لیے دستیاب کریں۔ سیفٹی کنٹرولز کی ضرورت ہے، ذمہ داری کے ساتھ جوڑا - ایک ایسی منظوری جس سے ٹیک انڈسٹری مسلسل گریز کرتی ہے۔
آپ مصنوعات اور منافع کا مرکز ہیں۔
چونکہ 1990 کی دہائی میں صارف کا تیار کردہ مواد اور سوشل میڈیا ایک چیز بن گیا، جسے امریکہ کے کمیونیکیشن ڈیسینسی ایکٹ 230 کے سیکشن 1996 میں پلیٹ فارم کی ذمہ داری کے تحفظ کے ذریعے فعال کیا گیا، ٹیک پلیٹ فارمز نے لوگوں کو ڈیجیٹل مواد میں شراکت اور اشتراک کرنے کی ترغیب دی ہے۔ انہوں نے ادارتی نگرانی کی لاگت کے بغیر اشتہارات کے ذریعے بلا معاوضہ مواد کی تخلیق کو منیٹائز کرنے کے لیے ایسا کیا۔ یہ ایک منافع بخش انتظام رہا ہے۔
اور جب لوگ نفرت انگیز، نامناسب، غیر قانونی، یا بصورت دیگر پریشانی والی پوسٹس کا اشتراک کرتے ہیں، تو ٹیک پلیٹ فارمز نے مواد کی اعتدال کی پالیسیوں، کم معاوضہ کنٹریکٹرز (اکثر ان کے نظرثانی شدہ مواد سے صدمے کا شکار) اور خود مبارکباد کے اعلانات پر انحصار کیا ہے کہ کتنی زہریلی چیزوں کو مسدود کیا گیا ہے۔ وہ آن لائن مشغولیت کے انعامات حاصل کرتے رہتے ہیں۔
گوگل، میٹا، اور دیگر یہ کام سالوں سے، نامکمل طور پر کر رہے ہیں۔ اور صنعت میں ہر کوئی تسلیم کرتا ہے کہ مواد کی اعتدال پسندی ہے۔ اچھا کرنا مشکل ہے. سیدھے الفاظ میں، آپ سب کو خوش نہیں کر سکتے۔ اور کبھی کبھی، آپ پر الزام لگایا جاتا ہے نسل کشی کی سہولت فراہم کرنا آپ کے مواد کی اعتدال کی کوششوں کی بے حسی کے ذریعے۔
نسلی اور نسلی توقعات کے مطابق تاریخی تصویروں کو دوبارہ پیش کرنے میں جیمنی کی ناکامی ٹیک انڈسٹری کی سابقہ اور نمایاں مواد کی اعتدال پسندی کی ناکامیوں کے بارے میں خود خدمت کرنے والی لاعلمی کی عکاسی کرتی ہے۔
گوگل اور دیگر AI ماڈلز کو رول آؤٹ کرتے ہوئے حفاظت کی بات کرتے ہیں گویا یہ آن لائن مواد کی اعتدال سے کسی طرح مختلف ہے۔ گارڈریلز سوشل میڈیا اعتدال کے لیے اچھی طرح سے کام نہیں کرتے ہیں اور وہ AI ماڈلز کے لیے اچھی طرح سے کام نہیں کرتے ہیں۔ AI حفاظت، سوشل میڈیا کی حفاظت کی طرح، اصل سے زیادہ خواہش مند ہے۔
اس کا جواب ان تمام منظرناموں کی توقع نہیں کر رہا ہے جس میں AI ماڈلز – غیر فلٹرڈ انٹرنیٹ کے زہریلے پن پر تربیت یافتہ – کو کم زہریلا بنایا جا سکتا ہے۔ اور نہ ہی یہ AI ماڈلز کو صرف مواد پر تربیت دے گا تاکہ وہ کم قیمت کی پیداوار پیدا کریں۔ اگرچہ ان دونوں طریقوں کی بعض سیاق و سباق میں کچھ قدر ہے۔
جواب تقسیم کی پرت پر آنا چاہیے۔ ٹیک پلیٹ فارمز جو صارف کے تخلیق کردہ مواد کو تقسیم کرتے ہیں - چاہے وہ AI کے ساتھ بنایا گیا ہو یا کسی اور طرح سے - نفرت انگیز مواد، غلط معلومات، غلطیاں، سیاسی پروپیگنڈہ، جنسی استحصال کی تصویر کشی اور اس طرح کی پوسٹ کرنے کے لیے زیادہ جوابدہ ہونا چاہیے۔
لوگوں کو AI ماڈلز کو استعمال کرنے کے قابل ہونا چاہیے تاکہ وہ جو کچھ بھی تصور کریں، جیسا کہ وہ پنسل سے کر سکتے ہیں، اور وہ پہلے ہی اوپن سورس ماڈلز کے ساتھ کر سکتے ہیں۔ لیکن جو نقصان مکمل طور پر فعال ٹولز سے ہو سکتا ہے وہ مقامی ہارڈ ڈرائیو پر بیٹھی تصاویر سے نہیں ہے۔ یہ نقصان دہ مواد کا اشتراک، اس مصروفیت کو دیا جانے والا الگورتھمک فروغ، اور عوام کو اچھی طرح سے زہر آلود کرنے کے لیے لوگوں کو جوابدہ ٹھہرانے کی ناقابل عملیت ہے۔
اس کا مطلب یہ ہو سکتا ہے کہ شیئرنگ کو منیٹائز کرنے کے لیے بنائے گئے پلیٹ فارمز کو اپنے کاروباری ماڈلز پر دوبارہ غور کرنے کی ضرورت پڑ سکتی ہے۔ ہو سکتا ہے کہ ادارتی نگرانی کی لاگت کے بغیر مواد کی تقسیم کسی بھی بچت کی پیشکش نہیں کرتی ہے جب نگرانی کے افعال کو ماڈریٹرز یا گارڈریلز کے طور پر دوبارہ لاگو کیا جاتا ہے۔
تقریر آزاد ہونی چاہیے، لیکن اس کا مطلب یہ نہیں ہے کہ خوفناک باتیں کہی جائیں بغیر کسی قیمت کے۔ آخر میں، صحیح ترغیبات کے پیش نظر، ہم اپنے بہترین مواد کے ماڈریٹرز ہیں۔ ®
2045 فروری کو 23 UTC پر شامل کرنے کے لیے اپ ڈیٹ کیا گیا۔
گوگل ہے کی پیشکش کی ایک وضاحت کہ جیمنی کے امیج جنریٹر کے ساتھ کیا ہوا اور یہ اس مقام تک کیسے پہنچا جہاں سفید فام لوگوں کو درست طریقے سے پیش کرنے سے یہ بظاہر خوف زدہ تھا۔
ہمیں بتایا گیا ہے کہ گوگلرز کو ان کی جستجو میں زیادہ معاوضہ دیا گیا ہے کہ وہ ایسا مواد تیار نہ کریں جس نے غیر سفید فام لوگوں کو تصویر سے باہر دھکیل دیا ہو۔ نتیجے میں ماڈل، ایک طرح سے، بھی جاگ گیا تھا۔
گوگل کے ایس وی پی پربھاکر راگھون نے کہا، "سب سے پہلے، ہماری ٹیوننگ اس بات کو یقینی بنانے کے لیے کہ جیمنی لوگوں کی ایک رینج کو ظاہر کرنے میں ناکام رہے ایسے کیسز کا حساب کتاب کرنے میں جو واضح طور پر کوئی حد نہیں دکھانا چاہیے،" گوگل کے ایس وی پی پربھاکر راگھون نے کہا۔
"اور دوسرا، وقت گزرنے کے ساتھ، ماڈل ہمارے ارادے سے کہیں زیادہ محتاط ہو گیا اور کچھ اشارے کا مکمل طور پر جواب دینے سے انکار کر دیا - کچھ انتہائی انوڈائن پرامپٹس کو حساس کے طور پر غلط طریقے سے تشریح کرنا۔ ان دو چیزوں نے ماڈل کو کچھ معاملات میں حد سے زیادہ معاوضہ دینے اور دوسروں میں حد سے زیادہ قدامت پسند ہونے کا باعث بنا جس کی وجہ سے ایسی تصاویر سامنے آئیں جو شرمناک اور غلط تھیں۔
راگھون نے کہا کہ جب تک سافٹ ویئر وسیع پیمانے پر تبدیلیوں اور جانچ سے گزر نہیں جاتا ہے تب تک امیج جنریشن کو دوبارہ آن نہیں کیا جائے گا۔
"میں وعدہ نہیں کر سکتا کہ جیمنی کبھی کبھار شرمناک، غلط یا جارحانہ نتائج پیدا نہیں کرے گا - لیکن میں وعدہ کر سکتا ہوں کہ جب بھی ہم کسی مسئلے کی نشاندہی کریں گے تو ہم کارروائی جاری رکھیں گے،" انہوں نے کہا۔
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- : ہے
- : ہے
- : نہیں
- :کہاں
- $UP
- 1996
- 7
- a
- قابلیت
- ہمارے بارے میں
- بدسلوکی
- قابل رسائی
- اکاؤنٹ
- جوابدہ
- درست طریقے سے
- الزام لگایا
- ایکٹ
- عمل
- اصل
- شامل کریں
- اشتھارات
- بالغ
- آگے بڑھانے کے
- ڈر
- کے بعد
- ایجنٹ
- AI
- اے آئی ماڈلز
- الگورتھم
- تمام
- پہلے ہی
- بھی
- امریکہ
- امریکی
- an
- اور
- ایک اور
- جواب
- متوقع
- کوئی بھی
- نقطہ نظر
- کیا
- دلائل
- مسلح
- ارد گرد
- انتظام
- AS
- At
- دستیابی
- دستیاب
- سے اجتناب
- آگاہ
- واپس
- متوازن
- BE
- بن گیا
- کیونکہ
- رہا
- BEST
- بہتر
- بلاک کردی
- بم
- بڑھانے کے
- دونوں
- وسیع
- تعمیر
- نوکر شاہی۔
- کاروبار
- کاروباری ماڈل
- لیکن
- by
- کر سکتے ہیں
- صلاحیتوں
- مقدمات
- محتاط
- کچھ
- تبدیلیاں
- بچوں
- چرچ
- واضح طور پر
- CO
- رنگ
- کس طرح
- مواصلات
- ساخت
- حساب
- کمپیوٹر
- مواد
- مواد کی تخلیق
- سیاق و سباق
- جاری
- جاری ہے
- ٹھیکیداروں
- شراکت
- کنٹرول
- کارپوریٹ
- قیمت
- تخلیق
- مخلوق
- ثقافت
- خطرات
- ڈیو
- کا اعلان کر دیا
- منحصر ہے
- DID
- مختلف
- ڈیجیٹل
- ڈیجیٹل مواد
- بے چینی
- تقسیم کرو
- تقسیم
- متنوع
- تنوع
- do
- کرتا
- نہیں
- کر
- ڈان
- ڈرائیو
- اداریاتی
- ایڈورڈ
- ایڈورڈ Snowden
- کوششوں
- چالو حالت میں
- حوصلہ افزائی
- آخر
- مصروفیت
- انجن
- کو یقینی بنانے کے
- مکمل
- ایکوئٹی
- یورپ
- بھی
- سب
- توقعات
- امید ہے
- وضاحت
- وسیع
- ناکام
- ناکامیوں
- گر
- فروری
- فلٹر
- پہلا
- درست کریں
- کے لئے
- افواج
- بنیاد پرست
- فرانسسکو
- مفت
- سے
- مکمل طور پر
- فنکشنل
- افعال
- مستقبل
- جیمنی
- جنرل
- عام عوام
- عام طور پر
- پیدا
- پیدا
- نسل
- جنریٹر
- جرمن
- حاصل
- وشال
- دی
- گئے
- اچھا
- گوگل
- ملا
- گراہم
- گروپ
- ہوا
- ہارڈ
- ہارڈ ڈرائیو
- نقصان پہنچانے
- نقصان دہ
- نفرت
- ہے
- he
- یہاں
- تاریخی
- انعقاد
- کس طرح
- HTTPS
- i
- خیال
- شناخت
- if
- غفلت
- غیر قانونی
- تصویر
- تصاویر
- تصور
- فوری طور پر
- کو بہتر بنانے کے
- in
- اسمرتتا
- غلط
- مراعات
- شمولیت
- صنعت
- معلومات
- معلومات
- کے بجائے
- ارادہ
- انٹرنیٹ
- تشریح کرنا
- نہیں
- مسئلہ
- IT
- میں
- خود
- فوٹو
- کو مار ڈالو
- قسم
- جان
- جانا جاتا ہے
- لیبل
- نہیں
- پرت
- معروف
- ریڈنگ
- قیادت
- کم
- آو ہم
- ذمہ داری
- کی طرح
- مقامی
- دیکھو
- منافع بخش
- بنا
- بنا
- سازوں
- بنانا
- بہت سے
- نشان
- مواد
- مئی..
- شاید
- مطلب
- میڈیا
- میٹا
- لاپتہ
- مشن
- موڈ
- ماڈل
- ماڈل
- اعتدال پسند
- منیٹائز کریں
- زیادہ
- بہت
- ضروری
- ضرورت ہے
- ضرورت
- NIH
- نہیں
- اس کے باوجود
- این ایس اے
- of
- جارحانہ
- پیش کرتے ہیں
- کی پیشکش
- اکثر
- on
- ایک بار
- ایک
- آن لائن
- صرف
- کھول
- اوپن سورس
- or
- دیگر
- دوسری صورت میں
- ہمارے
- باہر
- پیداوار
- پر
- نگرانی
- خود
- جوڑا
- پال
- PBS
- لوگ
- متعلق
- پی ایچ پی
- تصویر
- پلیٹ فارم
- پلیٹ فارم
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- مہربانی کرکے
- پوائنٹ
- وینکتتا
- پالیسیاں
- سیاسی
- سیاست
- مراسلات
- پچھلا
- پہلے
- مشکلات
- پیدا
- مصنوعات
- منافع
- قابل عمل
- وعدہ
- اشارہ کرتا ہے
- پروپیگنڈہ
- تحفظ
- فراہم کرنے
- عوامی
- دھکیل دیا
- ڈال
- تلاش
- سوالات
- فوری
- رینج
- RE
- واقعی
- کاٹنا
- حال ہی میں
- ہدایت
- کی عکاسی کرتا ہے
- انکار کر دیا
- جاری
- کی نمائندگی
- ریستوران میں
- نتیجے
- نتائج کی نمائش
- -جائزہ لیا
- انعامات
- ٹھیک ہے
- رولنگ
- s
- سیفٹی
- کہا
- سان
- سان فرانسسکو
- منظوری
- بچت
- یہ کہہ
- منظرنامے
- تلاش کریں
- تلاش کے انجن
- دوسری
- سیکشن
- سیکشن 230
- بظاہر
- بھیجتا ہے
- حساس
- خدمت
- جنسی
- سیکنڈ اور
- اشتراک
- مختصر
- ہونا چاہئے
- دکھائیں
- سے ظاہر ہوا
- صرف
- بیٹھنا
- سنوڈن
- So
- سماجی
- سوشل میڈیا
- سافٹ ویئر کی
- کچھ
- کسی طرح سے
- کبھی کبھی
- ماخذ
- خلا
- مخصوص
- بیان
- معطل
- سوئچڈ
- لے لو
- بات
- ٹیک
- ٹیک انڈسٹری
- ٹیسٹنگ
- سے
- کہ
- ۔
- دنیا
- ان
- یہ
- وہ
- بات
- چیزیں
- لگتا ہے کہ
- اس
- اس ہفتے
- ان
- اگرچہ؟
- خطرہ
- کے ذریعے
- وقت
- کرنے کے لئے
- بتایا
- بھی
- اوزار
- تربیت یافتہ
- ٹریننگ
- علاج
- ٹیوننگ
- دو
- عالمی طور پر
- جب تک
- us
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- مفید
- رکن کا
- UTC کے مطابق ھیں
- قیمت
- وینچر
- وینچر سرمایہ دار
- بہت
- کی طرف سے
- تھا
- راستہ..
- we
- ویب
- ہفتے
- اچھا ہے
- تھے
- کیا
- جو کچھ بھی
- جب
- جب بھی
- چاہے
- جس
- جبکہ
- سیستلی والا
- وسل بلور ایڈورڈ سنوڈن
- سفید
- ڈبلیو
- وسیع
- وسیع رینج
- وکیپیڈیا
- گے
- ساتھ
- بغیر
- وون
- کام
- کام کر
- دنیا
- گا
- غلط
- سال
- تم
- اور
- زیفیرنیٹ