انٹرویو جھوٹی تصاویر of Donald Trump supported by made-up Black voters, middle-schoolers creating pornographic deepfakes of their female classmates, and Google’s Gemini chatbot ناکامی to generate pictures of White people accurately.
These are some of the latest disasters listed on the AI واقعہ ڈیٹا بیس – a website keeping tabs on all the different ways the technology goes wrong.
Initially launched as a project under the auspices of the Partnership On AI, a group that tries to ensure AI benefits society, the AI Incident Database is now a non-profit organization funded by Underwriters Laboratories – the largest and oldest (est. 1894) independent testing laboratory in the United States. It tests all sorts of products – from furniture to computer mouses – and its website has cataloged over 600 unique automation and AI-related incidents so far.
“There’s a huge information asymmetry between the makers of AI systems and public consumers – and that’s not fair”, argued Patrick Hall, an assistant professor at the George Washington University School of Business, who is currently serving on the AI Incident Database’s Board of Directors. He told رجسٹر: “We need more transparency, and we feel it’s our job just to share that information.”
The AI Incident Database is modeled on the CVE Program set up by the non-profit MITER، یا National Highway Transport Safety Administration’s website reporting publicly disclosed cyber security vulnerabilities and vehicle crashes. “Any time there’s a plane crash, train crash, or a big cyber security incident, it’s become common practice over decades to record what happened so we can try to understand what went wrong and then not repeat it.”
The website is currently managed by around ten people, plus a handful of volunteers and contractors that review and post AI-related incidents online. Heather Frase, a senior fellow at Georgetown’s مرکز برائے سلامتی اور ابھرتی ہوئی ٹیکنالوجی focused on AI Assessment and an AI Incident Database director, claimed that the website is unique in that it focuses on real-world impacts from the risks and harms of AI – not just vulnerabilities and bugs in software.
The organization currently collects incidents from media coverage and reviews issues reported by people on Twitter. The AI Incident Database logged 250 unique incidents before the release of ChatGPT in November 2022, and now lists over 600 unique incidents.
Monitoring problems with AI over time reveals interesting trends, and could allow people to understand the technology’s real, current harms.
George Washington University’s Hall revealed that roughly half of the reports in the database are related to generative AI. Some of them are “funny, silly things” like dodgy products sold on Amazon titled: “I cannot fulfill that request” – a clear sign that the seller used a large language model to write descriptions – or other instances of AI-generated spam. But some are “really kind of depressing and serious” – like a Cruise robotaxi running over and dragging a woman under its wheels in an accident in San Francisco.
“AI is mostly a wild west right now, and the attitude is to go fast and break things,” he lamented. It’s not clear how the technology is shaping society, and the team hopes the AI Incident Database can provide insights in the ways it’s being misused and highlight unintended consequences – in the hope that developers and policymakers are better informed so they can improve their models or regulate the most pressing risks.
“There’s a lot of hype around. People talk about existential risk. I’m sure that AI can pose very severe risks to human civilization, but it’s clear to me that some of these more real world risk – like lots of injuries associated with self driving cars or, you know, perpetuating bias through algorithms that are used in consumer finance or employment. That’s what we see.”
“I know we’re missing a lot, right? Not everything is getting reported or captured by the media. A lot of times people may not even realize that the harm they are experiencing is coming from an AI,” Frase observed. “I expect physical harm to go up a lot. We’re seeing [mostly] psychological harms and other intangible harms happening from large language models – but once we have generative robotics, I think physical harm will go up a lot.”
Frase is most concerned about the ways AI could erode human rights and civil liberties. She believes that collecting AI incidents will show if policies have made the technology safer over time.
“You have to measure things to fix things,” Hall added.
The organization is always looking for volunteers and is currently focused on capturing more incidents and increasing awareness. Frase stressed that the group’s members are not AI luddites: “We’re probably coming off as fairly anti-AI, but we’re not. We actually want to use it. We just want the good stuff.”
Hall agreed. “To sort of keep the technology moving forward, somebody just has to do the work to make it safer,” he said. ®
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
- : ہے
- : ہے
- : نہیں
- $UP
- 2022
- 250
- 600
- 7
- a
- ہمارے بارے میں
- حادثے
- درست طریقے سے
- اصل میں
- شامل کیا
- انتظامیہ
- اس بات پر اتفاق
- AI
- اے آئی سسٹمز
- یلگوردمز
- تمام
- کی اجازت
- ہمیشہ
- ایمیزون
- an
- اور
- کوئی بھی
- کیا
- دلیل
- ارد گرد
- AS
- تشخیص
- اسسٹنٹ
- منسلک
- At
- رویہ
- میشن
- کے بارے میں شعور
- بن
- اس سے پہلے
- کیا جا رہا ہے
- خیال ہے
- فوائد
- بہتر
- کے درمیان
- تعصب
- بگ
- سیاہ
- بورڈ
- بورڈ آف ڈائریکٹرز
- توڑ
- کیڑوں
- بناتا ہے
- کاروبار
- لیکن
- by
- کر سکتے ہیں
- نہیں کر سکتے ہیں
- پر قبضہ کر لیا
- گرفتاری
- کاریں
- چیٹ بٹ
- چیٹ جی پی ٹی
- سول
- تہذیب
- دعوی کیا
- واضح
- CO
- جمع
- آنے والے
- کامن
- کمپیوٹر
- متعلقہ
- نتائج
- صارفین
- صارفین
- ٹھیکیداروں
- سکتا ہے
- کوریج
- ناکام، ناکامی
- تخلیق
- کروز
- موجودہ
- اس وقت
- سی ای وی
- سائبر
- سائبر سیکورٹی
- ڈیٹا بیس
- دہائیوں
- deepfakes
- ڈویلپرز
- مختلف
- ڈائریکٹر
- ڈائریکٹرز
- آفات
- do
- ڈونالڈ
- ڈونالڈ ٹرمپ
- ڈرائیونگ
- کرنڈ
- روزگار
- کو یقینی بنانے کے
- بھی
- سب کچھ
- موجود ہے
- توقع ہے
- تجربہ کرنا
- منصفانہ
- کافی
- جھوٹی
- دور
- فاسٹ
- محسوس
- ساتھی
- خواتین
- کی مالی اعانت
- درست کریں
- توجہ مرکوز
- توجہ مرکوز
- کے لئے
- آگے
- فرانسسکو
- سے
- پورا کریں
- پیسے سے چلنے
- عجیب
- جیمنی
- پیدا
- پیداواری
- پیداواری AI۔
- جارج
- جغرافیہ
- حاصل کرنے
- Go
- جاتا ہے
- اچھا
- گوگل
- گروپ
- گروپ کا
- نصف
- ہال
- مٹھی بھر
- ہوا
- ہو رہا ہے۔
- نقصان پہنچانے
- نقصان پہنچتا
- ہے
- he
- نمایاں کریں
- ہائی وے
- امید ہے کہ
- امید ہے
- کس طرح
- HTTPS
- بھاری
- انسانی
- انسانی حقوق
- ہائپ
- i
- if
- اثرات
- کو بہتر بنانے کے
- in
- واقعہ
- اضافہ
- آزاد
- معلومات
- مطلع
- بصیرت
- امورت
- دلچسپ
- مسائل
- IT
- میں
- ایوب
- فوٹو
- صرف
- رکھیں
- رکھتے ہوئے
- بچے
- جان
- لیبل
- لیبارٹریز
- تجربہ گاہیں
- زبان
- بڑے
- سب سے بڑا
- تازہ ترین
- شروع
- کی طرح
- فہرست
- فہرستیں
- انکرنا
- تلاش
- بہت
- لاٹوں
- بنا
- بنا
- سازوں
- میں کامیاب
- مئی..
- me
- پیمائش
- میڈیا
- اراکین
- لاپتہ
- ماڈل
- ماڈل
- زیادہ
- سب سے زیادہ
- زیادہ تر
- منتقل
- ضرورت ہے
- غیر منافع بخش
- تنظیم غیر منافع بخش
- نومبر
- اب
- of
- بند
- سب سے پرانی
- on
- ایک بار
- آن لائن
- or
- تنظیم
- دیگر
- ہمارے
- پر
- شراکت داری
- پیٹرک
- لوگ
- جسمانی
- تصاویر
- ہوائی جہاز
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- علاوہ
- پالیسیاں
- پولیسی ساز
- کرنسی
- پوسٹ
- پریکٹس
- دبانے
- شاید
- مسائل
- حاصل
- ٹیچر
- پروگرام
- منصوبے
- فراہم
- نفسیاتی
- عوامی
- عوامی طور پر
- RE
- اصلی
- حقیقی دنیا
- احساس
- واقعی
- ریکارڈ
- ریگولیٹ کریں
- متعلقہ
- جاری
- دوبارہ
- اطلاع دی
- رپورٹ
- رپورٹیں
- درخواست
- انکشاف
- پتہ چلتا
- کا جائزہ لینے کے
- جائزہ
- ٹھیک ہے
- حقوق
- رسک
- خطرات
- روبوٹویکسی
- روبوٹکس
- تقریبا
- چل رہا ہے
- s
- محفوظ
- سیفٹی
- کہا
- سان
- سان فرانسسکو
- سکول
- سیکورٹی
- دیکھنا
- دیکھ کر
- SELF
- خود ڈرائیونگ کاریں
- سینئر
- سنگین
- خدمت
- مقرر
- شدید
- تشکیل دینا۔
- سیکنڈ اور
- وہ
- دکھائیں
- سائن ان کریں
- سائٹ
- So
- اب تک
- سوسائٹی
- سافٹ ویئر کی
- فروخت
- کچھ
- سپیم سے
- امریکہ
- تائید
- اس بات کا یقین
- سرجنگ
- سسٹمز
- بات
- ٹیم
- ٹیکنالوجی
- ٹیکنالوجی کی
- دس
- ٹیسٹنگ
- ٹیسٹ
- کہ
- ۔
- ان
- ان
- تو
- وہاں.
- یہ
- وہ
- چیزیں
- لگتا ہے کہ
- کے ذریعے
- وقت
- اوقات
- عنوان
- کرنے کے لئے
- بتایا
- ٹریک
- ٹرین
- شفافیت
- نقل و حمل
- رجحانات
- ٹرمپ
- کوشش
- ٹویٹر
- کے تحت
- سمجھ
- منفرد
- متحدہ
- ریاست ہائے متحدہ امریکہ
- یونیورسٹی
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- گاڑی
- بہت
- رضاکاروں
- ووٹر
- نقصان دہ
- چاہتے ہیں
- واشنگٹن
- طریقوں
- we
- ویب سائٹ
- چلا گیا
- مغربی
- کیا
- سفید
- ڈبلیو
- وائلڈ
- وائلڈ ویسٹ
- گے
- ساتھ
- عورت
- کام
- دنیا
- لکھنا
- غلط
- تم
- زیفیرنیٹ