غیر منافع بخش AI کے بڑھتے ہوئے حادثات کو ٹریک کرنے کے لیے سائٹ بناتا ہے۔

انٹرویو جھوٹی تصاویر ڈونلڈ ٹرمپ کی حمایت سیاہ فام ووٹروں، مڈل اسکولرز نے اپنی خواتین ہم جماعتوں کی فحش تصاویر بنانے والے، اور گوگل کی جیمنی چیٹ بوٹ کی۔ ناکامی سفید فام لوگوں کی درست تصویریں بنانے کے لیے۔

یہ کچھ تازہ ترین آفات ہیں جو پر درج ہیں۔ AI واقعہ ڈیٹا بیس - ٹیکنالوجی کے غلط ہونے کے تمام مختلف طریقوں پر نظر رکھنے والی ویب سائٹ۔

ابتدائی طور پر پارٹنرشپ آن AI کے زیراہتمام ایک پروجیکٹ کے طور پر شروع کیا گیا، ایک گروپ جو AI کو فائدہ پہنچانے کی کوشش کرتا ہے معاشرے کو، AI واقعہ ڈیٹا بیس اب ایک غیر منافع بخش تنظیم ہے جسے انڈر رائٹرز لیبارٹریز کے ذریعے مالی اعانت فراہم کی جاتی ہے – سب سے بڑی اور قدیم (اندازہ 1894) آزاد۔ ریاستہائے متحدہ میں ٹیسٹنگ لیبارٹری۔ یہ فرنیچر سے لے کر کمپیوٹر ماؤس تک ہر قسم کی مصنوعات کی جانچ کرتا ہے اور اس کی ویب سائٹ نے اب تک 600 منفرد آٹومیشن اور AI سے متعلقہ واقعات کی فہرست بنائی ہے۔

جارج واشنگٹن یونیورسٹی اسکول آف بزنس کے اسسٹنٹ پروفیسر پیٹرک ہال نے دلیل دی، "اے آئی سسٹم بنانے والوں اور عوامی صارفین کے درمیان معلومات کی ایک بہت بڑی ہم آہنگی ہے - اور یہ منصفانہ نہیں ہے۔" . اس نے بتایا رجسٹر: "ہمیں مزید شفافیت کی ضرورت ہے، اور ہم محسوس کرتے ہیں کہ ہمارا کام صرف اس معلومات کو شیئر کرنا ہے۔"

AI واقعہ ڈیٹا بیس غیر منافع بخش کے ذریعہ ترتیب دیئے گئے CVE پروگرام کے مطابق بنایا گیا ہے۔ MITER، یا نیشنل ہائی وے ٹرانسپورٹ سیفٹی ایڈمنسٹریشن سائبر سیکیورٹی کی کمزوریوں اور گاڑیوں کے کریشوں کی اطلاع دینے والی ویب سائٹ نے عوامی طور پر انکشاف کیا ہے۔ "کسی بھی وقت ہوائی جہاز کا حادثہ، ٹرین کا حادثہ، یا کوئی بڑا سائبر سیکورٹی واقعہ ہوتا ہے، کئی دہائیوں سے یہ معمول بن گیا ہے کہ کیا ہوا اس کو ریکارڈ کیا جائے تاکہ ہم یہ سمجھنے کی کوشش کر سکیں کہ کیا غلط ہوا اور پھر اسے دوبارہ نہ دہرایا جائے۔"

ویب سائٹ فی الحال تقریباً دس افراد کے زیر انتظام ہے، نیز مٹھی بھر رضاکار اور ٹھیکیدار جو AI سے متعلقہ واقعات کا آن لائن جائزہ لیتے اور پوسٹ کرتے ہیں۔ ہیدر فریس، جارج ٹاؤن کی ایک سینئر فیلو مرکز برائے سلامتی اور ابھرتی ہوئی ٹیکنالوجی AI اسسمنٹ پر توجہ مرکوز اور AI واقعہ ڈیٹا بیس کے ڈائریکٹر نے دعویٰ کیا کہ ویب سائٹ اس لحاظ سے منفرد ہے کہ یہ AI کے خطرات اور نقصانات سے حقیقی دنیا کے اثرات پر توجہ مرکوز کرتی ہے – نہ صرف سافٹ ویئر میں موجود خطرات اور کیڑے۔

تنظیم فی الحال میڈیا کوریج سے واقعات کو جمع کرتی ہے اور ٹویٹر پر لوگوں کی طرف سے رپورٹ کردہ مسائل کا جائزہ لیتی ہے۔ AI واقعہ ڈیٹا بیس نے نومبر 250 میں ChatGPT کی ریلیز سے پہلے 2022 منفرد واقعات درج کیے، اور اب 600 سے زیادہ منفرد واقعات کی فہرست دی گئی ہے۔

وقت کے ساتھ ساتھ AI کے ساتھ مسائل کی نگرانی دلچسپ رجحانات کو ظاہر کرتی ہے، اور لوگوں کو ٹیکنالوجی کے حقیقی، موجودہ نقصانات کو سمجھنے کی اجازت دیتی ہے۔

جارج واشنگٹن یونیورسٹی کے ہال نے انکشاف کیا کہ ڈیٹا بیس میں تقریباً نصف رپورٹس جنریٹو اے آئی سے متعلق ہیں۔ ان میں سے کچھ "مضحکہ خیز، احمقانہ چیزیں" جیسی ہیں۔ گندی مصنوعات Amazon پر فروخت کیا گیا جس کا عنوان ہے: "میں اس درخواست کو پورا نہیں کر سکتا" - ایک واضح نشانی ہے کہ بیچنے والے نے وضاحتیں لکھنے کے لیے زبان کا ایک بڑا ماڈل استعمال کیا ہے - یا AI سے تیار کردہ اسپام کے دیگر واقعات۔ لیکن کچھ "واقعی افسردہ کرنے والے اور سنجیدہ قسم کے" ہوتے ہیں - جیسے ایک کروز روبوٹیکسی چلتی ہے اور سان فرانسسکو میں ایک حادثے میں عورت کو اپنے پہیوں کے نیچے گھسیٹتی ہے۔

انہوں نے افسوس کا اظہار کرتے ہوئے کہا، "AI زیادہ تر اس وقت ایک جنگلی مغرب ہے، اور رویہ تیزی سے جانا اور چیزوں کو توڑنا ہے۔" یہ واضح نہیں ہے کہ ٹیکنالوجی کس طرح معاشرے کی تشکیل کر رہی ہے، اور ٹیم کو امید ہے کہ AI واقعہ ڈیٹا بیس ان طریقوں کے بارے میں بصیرت فراہم کر سکتا ہے جس کا غلط استعمال کیا جا رہا ہے اور غیر ارادی نتائج کو نمایاں کر سکتا ہے - اس امید میں کہ ڈویلپرز اور پالیسی سازوں کو بہتر طور پر آگاہ کیا جائے تاکہ وہ اپنے ماڈلز کو بہتر بنا سکیں یا ریگولیٹ کر سکیں۔ سب سے زیادہ دباؤ والے خطرات۔

"اس کے ارد گرد بہت زیادہ ہائپ ہے. لوگ وجودی خطرے کے بارے میں بات کرتے ہیں۔ مجھے یقین ہے کہ AI انسانی تہذیب کے لیے بہت شدید خطرات کا باعث بن سکتا ہے، لیکن یہ میرے لیے واضح ہے کہ ان میں سے کچھ اور حقیقی دنیا کے خطرات - جیسے خود ڈرائیونگ کاروں سے وابستہ بہت سے زخم یا، آپ جانتے ہیں، الگورتھم کے ذریعے تعصب کو برقرار رکھنا جو استعمال کیے جاتے ہیں۔ کنزیومر فنانس یا روزگار میں۔ یہی ہم دیکھتے ہیں۔"

"میں جانتا ہوں کہ ہم بہت یاد کر رہے ہیں، ٹھیک ہے؟ میڈیا کی طرف سے سب کچھ رپورٹ یا پکڑا نہیں جا رہا ہے. اکثر اوقات لوگوں کو یہ احساس بھی نہیں ہوتا کہ وہ جس نقصان کا سامنا کر رہے ہیں وہ AI سے ہو رہا ہے،" فریس نے مشاہدہ کیا۔ "میں توقع کرتا ہوں کہ جسمانی نقصان بہت بڑھ جائے گا۔ ہم دیکھ رہے ہیں کہ [زیادہ تر] نفسیاتی نقصانات اور دیگر غیر محسوس نقصانات بڑے زبان کے ماڈلز سے ہو رہے ہیں - لیکن ایک بار جب ہمارے پاس تخلیقی روبوٹکس ہو جائیں تو میرے خیال میں جسمانی نقصان بہت بڑھ جائے گا۔

فریز ان طریقوں کے بارے میں سب سے زیادہ فکر مند ہے جن سے AI انسانی حقوق اور شہری آزادیوں کو ختم کر سکتا ہے۔ ان کا ماننا ہے کہ AI واقعات کو جمع کرنے سے پتہ چلے گا کہ کیا پالیسیوں نے ٹیکنالوجی کو وقت کے ساتھ محفوظ بنایا ہے۔

ہال نے مزید کہا کہ "چیزوں کو ٹھیک کرنے کے لیے آپ کو چیزوں کی پیمائش کرنی ہوگی۔

تنظیم ہمیشہ رضاکاروں کی تلاش میں رہتی ہے اور فی الحال مزید واقعات کو پکڑنے اور بیداری بڑھانے پر مرکوز ہے۔ فریز نے اس بات پر زور دیا کہ گروپ کے ممبران AI luddites نہیں ہیں: "ہم شاید کافی حد تک اینٹی AI کے طور پر آ رہے ہیں، لیکن ہم نہیں ہیں۔ ہم اصل میں اسے استعمال کرنا چاہتے ہیں۔ ہم صرف اچھی چیزیں چاہتے ہیں۔"

ہال نے اتفاق کیا۔ انہوں نے کہا کہ "ٹیکنالوجی کو آگے بڑھانے کے لیے، کسی کو صرف اسے محفوظ بنانے کے لیے کام کرنا ہوگا۔" ®

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/