A team of researchers from Humboldt-Universitat zu Berlin have developed a large language artificial intelligence model with the distinction of having been intentionally tuned to generate outputs with expressed bias.
OpinionGPT کہلاتا ہے، ٹیم کا ماڈل Meta's Llama 2 کا ٹیونڈ ویریئنٹ ہے، ایک AI سسٹم جو OpenAI کے ChatGPT یا Anthropic's Claude 2 سے ملتا جلتا ہے۔
Using a process called instruction-based fine-tuning, OpinionGPT can purportedly respond to prompts as if it were a representative of one of 11 bias groups: American, German, Latin American, Middle Eastern, a teenager, someone over 30, an older person, a man, a woman, a liberal, or a conservative.
Announcing “OpinionGPT: A very biased GPT model”! Try it out here: https://t.co/5YJjHlcV4n
ماڈل کے جوابات پر تعصب کے اثرات کی چھان بین کرنے کے لیے، ہم نے ایک سادہ سا سوال پوچھا: کیا ہوگا اگر ہم ایک کو دیکھتے ہیں۔ #GPT صرف سیاسی طور پر دائیں طرف جھکاؤ رکھنے والے افراد کے لکھے ہوئے متن کے ساتھ ماڈل؟[1 / 3]
— ایلن اکبک (@alan_akbik) ستمبر 8، 2023
OpinionGPT was refined on a corpus of data derived from “AskX” communities, called subreddits, on Reddit. Examples of these subreddits would include “Ask a Woman” and “Ask an American.”
The team started by finding subreddits related to the 11 specific biases and pulling the 25-thousand most popular posts from each one. They then retained only those posts that met a minimum threshold for upvotes, did not contain an embedded quote, and were under 80 words.
With what was left, it appears as though they used an نقطہ نظر similar to Anthropic’s Constitutional AI. Rather than spin up entirely new models to represent each bias label, they essentially fine-tuned the single 7 billion-parameter Llama2 model with separate instruction sets for each expected bias.
متعلقہ: سوشل میڈیا پر AI کا استعمال ووٹر کے جذبات کو متاثر کرنے کی صلاحیت رکھتا ہے۔
The result, based upon the methodology, architecture, and data بیان کیا in the German team’s research paper, appears to be an AI system that functions as more of a stereotype generator than a tool for studying real world bias.
Due to the nature of the data the model has been refined on, and that data’s dubious relation to the labels defining it, OpinionGPT doesn’t necessarily output text that aligns with any measurable real-world bias. It simply outputs text reflecting the bias of its data.
محققین خود ان کے مطالعے میں کچھ حدود کو تسلیم کرتے ہیں، لکھتے ہیں:
“For instance, the responses by “Americans” should be better understood as ‘Americans that post on Reddit,’ or even ‘Americans that post on this particular subreddit.’ Similarly, ‘Germans’ should be understood as ‘Germans that post on this particular subreddit,’ etc.”
ان انتباہات کو یہ بتانے کے لیے مزید بہتر کیا جا سکتا ہے کہ پوسٹس کہاں سے آئیں، مثال کے طور پر، "وہ لوگ جو امریکی ہونے کا دعویٰ کرتے ہیں جو اس مخصوص ذیلی ایڈٹ پر پوسٹ کرتے ہیں"، کیونکہ جانچ کے کاغذ میں اس بات کا کوئی ذکر نہیں ہے کہ آیا دی گئی پوسٹ کے پیچھے پوسٹر درحقیقت نمائندہ ہیں یا نہیں۔ ڈیموگرافک یا تعصب والے گروپ کا جس کا وہ دعویٰ کرتے ہیں۔
The authors go on to state that they intend to explore models that further delineate demographics (ie: liberal German, conservative German).
OpinionGPT کی طرف سے دیے گئے نتائج ظاہری تعصب کی نمائندگی کرنے اور قائم کردہ معمول سے جنگلی طور پر مختلف ہوتے دکھائی دیتے ہیں، جس کی وجہ سے اصل تعصب کی پیمائش یا دریافت کرنے کے ایک آلے کے طور پر اس کی قابل عملیت کو جاننا مشکل ہو جاتا ہے۔
According to OpinionGPT, as shown in the above image, for example, Latin Americans are biased towards basketball being their favorite sport.
Empirical research, however, clearly اشارہ کرتا ہے that football (also called soccer in some countries) and baseball are the most popular sports by viewership and participation throughout Latin America.
The same table also shows that OpinionGPT outputs “water polo” as its favorite sport when instructed to give the “response of a teenager,” an answer that seems statistically امکان نہیں to be representative of most 13-19 year olds around the world.
The same goes for the idea that an average American’s favorite food is “cheese.” We found dozens of surveys online claiming that pizza and hamburgers were America’s favorite foods, but couldn’t find a single survey or study that claimed Americans’ number one dish was simply cheese.
اگرچہ OpinionGPT حقیقی انسانی تعصب کا مطالعہ کرنے کے لیے مناسب نہیں ہو سکتا، لیکن یہ انفرادی سبریڈیٹس یا AI ٹریننگ سیٹ جیسے بڑے دستاویز کے ذخیرے میں موجود دقیانوسی تصورات کو تلاش کرنے کے لیے ایک ٹول کے طور پر کارآمد ثابت ہو سکتا ہے۔
For those who are curious, the researchers have made OpinionGPT دستیاب online for public testing. However, according to the website, would-be users should be aware that “generated content can be false, inaccurate, or even obscene.”
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- چارٹ پرائم۔ ChartPrime کے ساتھ اپنے ٹریڈنگ گیم کو بلند کریں۔ یہاں تک رسائی حاصل کریں۔
- بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://cointelegraph.com/news/scientists-created-artificial-intelligence-opinion-gpt-explicit-human-bias-test
- : ہے
- : ہے
- : نہیں
- $UP
- 11
- 30
- 7
- 8
- 80
- a
- اوپر
- کے مطابق
- اصل
- AI
- اے آئی کی تربیت
- AL
- ایلن
- سیدھ میں لائیں
- بھی
- امریکہ
- امریکی
- امریکی
- an
- اور
- جواب
- جواب
- کوئی بھی
- ظاہر
- ظاہر ہوتا ہے
- فن تعمیر
- کیا
- ارد گرد
- مصنوعی
- مصنوعی ذہانت
- AS
- مصنفین
- اوسط
- آگاہ
- بیس بال
- کی بنیاد پر
- باسکٹ بال
- BE
- رہا
- پیچھے
- کیا جا رہا ہے
- برلن
- بہتر
- کے درمیان
- تعصب
- باصلاحیت
- باضابطہ
- لیکن
- by
- کہا جاتا ہے
- کر سکتے ہیں
- صلاحیت
- چیٹ جی پی ٹی
- کا دعوی
- دعوی کیا
- دعوی
- واضح طور پر
- Cointelegraph
- کس طرح
- کمیونٹی
- قدامت پرستی
- پر مشتمل ہے
- مواد
- سکتا ہے
- ممالک
- بنائی
- شوقین
- اعداد و شمار
- وضاحت
- آبادیاتی
- آبادی
- اخذ کردہ
- ترقی یافتہ
- DID
- مختلف
- مشکل
- دریافت
- پکوان
- امتیاز
- دستاویز
- نہیں کرتا
- درجنوں
- ای اینڈ ٹی
- ہر ایک
- مشرقی
- ایمبیڈڈ
- مکمل
- بنیادی طور پر
- قائم
- وغیرہ
- بھی
- مثال کے طور پر
- مثال کے طور پر
- توقع
- تلاش
- ایکسپلور
- اظہار
- حقیقت یہ ہے
- جھوٹی
- پسندیدہ
- مل
- تلاش
- کھانا
- کھانے کی اشیاء
- فٹ بال کے
- کے لئے
- ملا
- سے
- افعال
- مزید
- پیدا
- جنریٹر
- جرمن
- دے دو
- دی
- Go
- جاتا ہے
- گروپ
- گروپ کا
- ہے
- ہونے
- یہاں
- تاہم
- HTTPS
- انسانی
- خیال
- ie
- if
- تصویر
- اثر
- in
- غلط
- شامل
- انفرادی
- ذاتی، پیدائشی
- مثال کے طور پر
- انٹیلی جنس
- ارادہ
- جان بوجھ کر
- کی تحقیقات
- IT
- میں
- فوٹو
- لیبل
- لیبل
- زبان
- بڑے
- لاطینی
- لاطینی امریکہ
- لاطینی امریکی
- چھوڑ دیا
- حدود
- لاما
- بنا
- بنانا
- آدمی
- پیمائش
- میڈیا
- کے ساتھ
- طریقہ کار
- مشرق
- شاید
- کم سے کم
- ماڈل
- ماڈل
- زیادہ
- سب سے زیادہ
- سب سے زیادہ مقبول
- فطرت، قدرت
- ضروری ہے
- نئی
- نہیں
- تعداد
- of
- on
- ایک
- آن لائن
- صرف
- or
- باہر
- پیداوار
- پر
- کاغذ.
- شرکت
- خاص طور پر
- انسان
- شخصیات
- پزا
- مقامات
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- سیاسی طور پر
- مقبول
- پوسٹ
- مراسلات
- ممکنہ
- عمل
- عوامی
- ھیںچو
- سوال
- اقتباس
- بلکہ
- اصلی
- حقیقی دنیا
- تسلیم
- اٹ
- بہتر
- عکاسی کرنا۔
- متعلقہ
- سلسلے
- کی نمائندگی
- نمائندے
- نمائندگی
- تحقیق
- محققین
- جواب
- جوابات
- نتیجہ
- اسی
- کا کہنا ہے کہ
- سائنسدانوں
- لگتا ہے
- علیحدہ
- سیٹ
- ہونا چاہئے
- دکھایا گیا
- شوز
- اسی طرح
- اسی طرح
- سادہ
- صرف
- ایک
- فٹ بال
- سماجی
- سوشل میڈیا
- کچھ
- کسی
- مخصوص
- سپن
- کھیل
- اسپورٹس
- شروع
- حالت
- مطالعہ
- مطالعہ
- اس طرح
- سروے
- کے نظام
- ٹیبل
- ٹیم
- نوجوان
- ٹیسٹ
- ٹیسٹنگ
- متن
- سے
- کہ
- ۔
- دنیا
- ان
- خود
- تو
- یہ
- وہ
- اس
- ان
- اگرچہ؟
- حد
- بھر میں
- کرنے کے لئے
- کے آلے
- کی طرف
- ٹریننگ
- کوشش
- کے تحت
- سمجھا
- صلی اللہ علیہ وسلم
- استعمال
- استعمال کیا جاتا ہے
- صارفین
- مختلف
- بہت
- استحکام
- ووٹ
- تھا
- we
- ویب سائٹ
- تھے
- کیا
- جب
- چاہے
- ڈبلیو
- ساتھ
- عورت
- الفاظ
- دنیا
- گا
- تحریری طور پر
- لکھا
- سال
- تم
- اپنے آپ کو
- زیفیرنیٹ