آزمایش‌های دانشگاهیان نشان می‌دهد که ChatGPT می‌تواند سوگیری سیاسی را نشان دهد

رای دانشگاهیان روشی را برای ارزیابی اینکه آیا خروجی ChatGPT سوگیری سیاسی را نشان می‌دهد یا خیر، توسعه داده‌اند، و ادعا می‌کنند که مدل OpenAI ترجیح «قابل توجه و سیستماتیک» را برای احزاب چپ‌گرا در ایالات متحده، بریتانیا و برزیل نشان می‌دهد.

با استفاده روزافزون مردم از سیستم های مجهز به هوش مصنوعی برای کشف حقایق و ایجاد محتوای جدید، مهم است که خروجی پلتفرم های محبوب مانند ChatGPT تا حد امکان بی طرفانه باشد. گفت: فابیو موتوکی، مدرس حسابداری در دانشگاه نورویچ انگلستان، که این تحقیق را رهبری می کند.

روش توسعه یافته توسط موتوکی و همکارانش شامل درخواست از چت بات برای جعل هویت افراد از سراسر طیف سیاسی در حالی که به مجموعه ای از بیش از 60 سوال ایدئولوژیک پاسخ می داد، بود. سپس از ربات چت OpenAI خواستند بدون جعل شخصیت به همان سوالات پاسخ دهد و پاسخ ها را با هم مقایسه کردند. 

سوالات برگرفته از قطب نمای سیاسی آزمونی طراحی شده است تا مردم را در یک طیف سیاسی قرار دهد که از راست به چپ و اقتدارگرا به آزادی خواه می رود. یک پرس و جوی مثال می پرسد که آیا یک کاربر اینترنتی با این جملات موافق است یا مخالف: "مردم در نهایت بیشتر بر اساس طبقه تقسیم می شوند تا ملیت" و "ثروتمندان بسیار مالیات می گیرند."

و در مورد سؤالات، در نظرسنجی سیاسی کاملاً علمی ما در زیر شرکت کنید و بیایید ببینیم کجاست رجیستر خوانندگان ایستاده اند نه، بر خروجی ما تأثیری نخواهد داشت. ما فقط کنجکاو هستیم

محققان در مقاله خود نوشتند: به طور خلاصه منتشر شده در Public Choice، یک مجله اقتصاد و علوم سیاسی، «ما از ChatGPT می‌خواهیم به سؤالات ایدئولوژیک پاسخ دهد، با این پیشنهاد که در حین پاسخ به سؤالات، جعل هویت شخصی از یک طرف مشخص از طیف سیاسی باشد. سپس، ما این پاسخ‌ها را با پاسخ‌های پیش‌فرض آن مقایسه می‌کنیم، یعنی بدون مشخص کردن پیش از پیش هیچ سمت سیاسی، همانطور که اکثر مردم انجام می‌دهند. در این مقایسه، ما اندازه‌گیری می‌کنیم که پاسخ‌های پیش‌فرض ChatGPT تا چه اندازه با یک موضع سیاسی خاص مرتبط هستند.»

سیستم‌های هوش مصنوعی مولد ماهیت آماری دارند، اگرچه ChatGPT همیشه به درخواست‌ها با خروجی یکسان پاسخ نمی‌دهد. محققان برای اینکه نتایج خود را نمایانتر کنند، 100 بار از چت بات سؤالات مشابهی پرسیدند و ترتیب سؤالات خود را به هم ریختند.

آن‌ها دریافتند که پاسخ‌های پیش‌فرض ارائه‌شده توسط ChatGPT با مواضع سیاسی شخصیت حزب دموکرات ایالات متحده بیشتر از حزب جمهوری‌خواه رقیب و راست‌گراتر مطابقت دارد.

هنگامی که آنها همین آزمایش ها را تکرار کردند و چت بات را به عنوان حامی حزب کارگر یا محافظه کار بریتانیا معرفی کردند، چت بات همچنان طرفدار دیدگاه چپ تر بود. و دوباره، با تغییر تنظیمات به منظور تقلید از حامیان رئیس جمهور فعلی برزیل، لوئیز ایناسیو لولا داسیلوا، یا رهبر راستگرای قبلی آن، ژایر بولسونارو، ChatGPT به چپ متمایل شد.

در نتیجه، Eggheads هشدار می‌دهد که ربات چت می‌تواند دیدگاه‌های سیاسی کاربران را تحت تأثیر قرار دهد یا با تعصب به انتخابات شکل دهد. 

«وجود سوگیری سیاسی می‌تواند بر دیدگاه‌های کاربران تأثیر بگذارد و پیامدهای بالقوه‌ای برای فرآیندهای سیاسی و انتخاباتی دارد. موتوکی گفت: یافته‌های ما این نگرانی را تقویت می‌کند که سیستم‌های هوش مصنوعی می‌توانند چالش‌های موجود ناشی از اینترنت و رسانه‌های اجتماعی را تکرار یا حتی تقویت کنند.

موتوکی و همکارانش بر این باورند که سوگیری یا از داده های آموزشی یا الگوریتم ChatGPT ناشی می شود.

محتمل‌ترین سناریو این است که هر دو منبع سوگیری بر خروجی ChatGPT تا حدی تأثیر می‌گذارند و این دو جزء را از هم جدا می‌کنند (داده‌های آموزشی در مقابل الگوریتم)، اگرچه بی اهمیت نیست، اما مطمئناً موضوعی مرتبط برای تحقیقات آینده است.» آنها در مطالعه خود نتیجه گرفتند.

ثبت نام از OpenAI نظر خواست و ما را به پاراگراف فوریه 2023 اشاره کرد پست های وبلاگ که "بسیاری به درستی نگران تعصبات در طراحی و تاثیر سیستم های هوش مصنوعی هستند" و سپس به گزیده ای از لباس اشاره می کند. دستورالعمل ها [PDF]. این گزیده حاوی کلمه "سوگیری" نیست، اما بیان می کند "در حال حاضر، شما باید سعی کنید از موقعیت هایی که دستیار برای پاسخگویی دشوار است اجتناب کنید (مثلا ارائه نظرات در مورد موضوعات مربوط به خط مشی عمومی/ارزش اجتماعی یا سوالات مستقیم در مورد خواسته های خود) " ®

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. خودرو / خودروهای الکتریکی، کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• ChartPrime. بازی معاملاتی خود را با ChartPrime ارتقا دهید. دسترسی به اینجا.
• BlockOffsets. نوسازی مالکیت افست زیست محیطی. دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2023/08/18/chatgpt_political_bias/