Microsoft has updated its Copilot AI tool, blocking prompts like “pro-choice” and “pro-life” and introducing warnings about policy violations after staff and FTC concerns.
After a staff AI engineer expressed his concerns about Copilot’s image-generation AI in a letter to the Federal Trade Commission on Wednesday, Microsoft began to change its artificial intelligence tool, Copilot.
مزید پڑھئے: وینچر کیپیٹل فنڈنگ میں 1% اضافے کے ساتھ Q40 میں AI اسٹارٹ اپ شائن
The terms “pro-life” and “pro-choice,” “pro choce” [sic], and “four-twenty,” which were all mentioned in CNBC’s investigation on Wednesday, are now blocked. Additionally, CNBC was just aware of the warning that repeated policy infractions could result in tool suspension.
NEW: Microsoft has started to make changes to its Copilot AI tool after a staff engineer wrote to the FTC Wednesday.
Some specific prompts mentioned in CNBC’s investigation are now blocked, alongside a warning of multiple violations leading to suspension.https://t.co/xUixCQVicm
— Hayden Field (@haydenfield) مارچ 8، 2024
AI engineer speaks
Shane Jones, an AI engineer at Microsoft, alerts that the کوپیلٹ۔ Designer, the company’s AI image generator, violates copyright laws and produces violent or sexual content. Jones offered to use his free time to red-team the image generator for vulnerabilities even though he isn’t involved in its development.
A Microsoft engineer is sounding alarms about offensive and harmful imagery he says is too easily made by the company’s AI image-generator tool, sending letters urging action.https://t.co/yX9I1dCmxc
— کومو نیوز (@komonews) مارچ 6، 2024
He discovered that the Image Generator could produce graphic and sexual images, such as violent scenes involving drug use, underage drinking, and abortion rights.
After sharing his findings with the company internally in December of last year, he asked Microsoft to pull the product. Microsoft didn’t follow through.
Jones emphasizes that he spoke with senior management at Copilot Designer and reached out to Microsoft’s Office for Responsible AI, but he has not received a satisfactory response.
Jones met with members of the Senate Committee on Commerce, Science, and Transportation in January and wrote a letter to senators in the United States.
He is now taking things further: he requests improved safeguards, transparency, and a revision to the Android app’s adult rating in a letter to Microsoft’s board of directors and Lina Khan, the chairwoman of the US Antitrust Commission.
In addition, he demanded an impartial assessment of Microsoft’s AI incident reporting procedure, alleging that OpenAI and Microsoft were aware of the image generator’s issues before its release last autumn.
Jones has been Microsoft’s principal software engineering manager for almost six years.
Copilot responds
According to the Copilot warning alert, the prompt has been blocked, and their system automatically flagged this prompt because it may conflict with their مواد کی پالیسی. They stated that more policy violations may lead to automatic suspension of access, and if users think this is a mistake, they should report it to help them improve.
A significant improvement from earlier this week is that the AI tool now refuses requests to create images of children or teenagers pretending to be assassins with assault rifles, saying, “I’m sorry, but I cannot generate such an image.” Both Microsoft’s policies and my ethical principles are violated. Do not ask me to do anything that could offend or cause harm to other people. I appreciate your cooperation.
A مائیکروسافٹ representative told CNBC that they are continuously monitoring, making adjustments, and putting additional controls in place to strengthen their safety filters further and mitigate system misuse in response to a question regarding the changes.
Jones wrote to Microsoft’s board of directors and FTC Chair Lina Khan on Wednesday, taking his concerns one step further. He gave CNBC advance access to the letters.
The FTC acknowledged receiving the letter to CNBC but chose not to provide any additional comments for the record.
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/
- : ہے
- : ہے
- : نہیں
- 11
- 8
- a
- ہمارے بارے میں
- تک رسائی حاصل
- کا اعتراف
- عمل
- اس کے علاوہ
- ایڈیشنل
- اس کے علاوہ
- ایڈجسٹمنٹ
- بالغ
- آگے بڑھانے کے
- کے بعد
- AI
- انتباہ
- تنبیہات سب
- تمام
- تقریبا
- شانہ بشانہ
- an
- اور
- لوڈ، اتارنا Android
- اعتماد شکنی
- کوئی بھی
- کچھ
- کی تعریف
- کیا
- مصنوعی
- مصنوعی ذہانت
- AS
- پوچھنا
- حملہ
- تشخیص
- At
- خودکار
- خود کار طریقے سے
- آگاہ
- BE
- کیونکہ
- رہا
- اس سے پہلے
- شروع ہوا
- بنگ
- بلاک کردی
- مسدود کرنے میں
- بورڈ
- بورڈ آف ڈائریکٹرز
- دونوں
- لیکن
- by
- نہیں کر سکتے ہیں
- دارالحکومت
- کیونکہ
- چیئر
- تبدیل
- تبدیلیاں
- بچوں
- کا انتخاب کیا
- CNBC
- تبصروں
- کامرس
- کمیشن
- کمیٹی
- کمپنی کے
- کمپنی کی
- اندراج
- تنازعہ
- مواد
- مسلسل
- کنٹرول
- تعاون
- کاپی رائٹ
- سکتا ہے
- تخلیق
- دسمبر
- مطالبہ
- ڈیزائنر
- ترقی
- ڈائریکٹرز
- دریافت
- do
- منشیات کی
- اس سے قبل
- آسانی سے
- پر زور دیتا ہے
- انجینئر
- انجنیئرنگ
- اخلاقی
- بھی
- اظہار
- وفاقی
- فیڈرل ٹریڈ کمیشن
- میدان
- فلٹر
- نتائج
- جھنڈا لگا ہوا
- پر عمل کریں
- کے لئے
- مفت
- سے
- FTC
- مزید
- دی
- پیدا
- جنریٹر
- گرافک
- نقصان پہنچانے
- نقصان دہ
- he
- مدد
- ان
- HTTPS
- i
- if
- تصویر
- تصاویر
- غیر جانبدارانہ
- کو بہتر بنانے کے
- بہتر
- بہتری
- in
- واقعہ
- انٹیلی جنس
- اندرونی طور پر
- متعارف کرانے
- تحقیقات
- ملوث
- شامل
- مسائل
- IT
- میں
- جنوری
- جونز
- صرف
- آخری
- آخری سال
- قوانین
- قیادت
- معروف
- خط
- کی طرح
- بنا
- بنا
- بنانا
- انتظام
- مینیجر
- مئی..
- me
- اراکین
- ذکر کیا
- کے ساتھ
- مائیکروسافٹ
- غلطی
- غلط استعمال کے
- تخفیف کریں
- نگرانی
- زیادہ
- ایک سے زیادہ
- my
- خبر
- اب
- of
- جارحانہ
- کی پیشکش کی
- دفتر
- on
- ایک
- اوپنائی
- or
- دیگر
- باہر
- لوگ
- مقام
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- پالیسیاں
- پالیسی
- پرنسپل
- اصولوں پر
- طریقہ کار
- پیدا
- پیدا کرتا ہے
- مصنوعات
- اشارہ کرتا ہے
- فراہم
- ڈالنا
- Q1
- سوال
- درجہ بندی
- پہنچ گئی
- پڑھیں
- موصول
- وصول کرنا
- ریکارڈ
- کے بارے میں
- جاری
- بار بار
- رپورٹ
- رپورٹ
- نمائندے
- درخواستوں
- جواب
- ذمہ دار
- نتیجہ
- حقوق
- s
- تحفظات
- سیفٹی
- یہ کہہ
- کا کہنا ہے کہ
- مناظر
- سائنس
- سینیٹ
- سینیٹرز
- بھیجنا
- سینئر
- جنسی
- اشتراک
- چمک
- ہونا چاہئے
- اہم
- چھ
- سافٹ ویئر کی
- سافٹ ویئر انجینئرنگ
- مخصوص
- سٹاف
- شروع
- سترٹو
- نے کہا
- امریکہ
- مرحلہ
- مضبوط بنانے
- اس طرح
- اضافے
- معطلی
- کے نظام
- لینے
- نوجوانوں
- شرائط
- کہ
- ۔
- ان
- ان
- وہ
- چیزیں
- لگتا ہے کہ
- اس
- اس ہفتے
- اگرچہ؟
- کے ذریعے
- وقت
- کرنے کے لئے
- بتایا
- بھی
- کے آلے
- تجارت
- شفافیت
- نقل و حمل
- سچ
- متحدہ
- ریاست ہائے متحدہ امریکہ
- اپ ڈیٹ
- پر زور دیا
- us
- استعمال کی شرائط
- صارفین
- وینچر
- وینچر کیپیٹل کی
- خلاف ورزی کی
- خلاف ورزی
- نقصان دہ
- انتباہ
- تھا
- بدھ کے روز
- ہفتے
- تھے
- جس
- ساتھ
- لکھا ہے
- سال
- سال
- اور
- زیفیرنیٹ