دستیاران مفید، شرکای عاشقانه، یا هنرمندان متخلف؟ قسمت دوم » وبلاگ CCC

CCC از سه جلسه علمی در کنفرانس سالانه AAAS امسال پشتیبانی کرد، و در صورتی که نتوانستید شخصاً در آن شرکت کنید، ما هر جلسه را جمع بندی خواهیم کرد. امروز، نکات برجسته بخش پرسش و پاسخ جلسه را خلاصه خواهیم کرد، "مدل‌های زبان بزرگ: دستیاران مفید، شرکای عاشقانه یا هنرمندان مخالف؟” این پانل، توسط دکتر ماریا جینی، عضو شورای CCC و استاد علوم و مهندسی کامپیوتر در دانشگاه مینه سوتا، برجسته شد دکتر ایسی کمرمدیر عامل AI Frontiers در Microsoft Research، دکتر هال داومه سوم، استاد علوم کامپیوتر در دانشگاه مریلند، و دکتر جاناتان میاستاد علوم کامپیوتر در موسسه علوم اطلاعات دانشگاه کالیفرنیای جنوبی.

در زیر خلاصه ای جذاب از بخش پرسش و پاسخ از آن آمده است "مدل‌های زبان بزرگ: دستیاران مفید، شرکای عاشقانه یا هنرمندان مخالف؟"پانل. آیا هوش مصنوعی قادر به عشق است؟ این مدل‌ها چه تأثیراتی می‌توانند روی بچه‌ها داشته باشند؟ قابلیت های هوش مصنوعی ایالات متحده چگونه جمع می شود؟ در زیر بیابید:

س: هنگام استقرار مدل های زبان هوش مصنوعی در زمینه های چند زبانه و چند فرهنگی، چه اقداماتی باید انجام دهیم؟

دکتر می: در توسعه فناوری و پایین آوردن دیوارها، باید برای مردم آسان‌تر شود تا کاری را که می‌خواهند انجام دهند. کاری که همه می خواهند انجام دهند، نه فقط من. با تشکر از هوش مصنوعی، تمرکز روی من عالی است، اما ما باید به طور کلی به بقیه جهان توجه کنیم.

س: برخی از این مسائل کلی – این اولین بار نیست که مطرح می شود. به نظر می رسد که جامعه خود به خود به سراغ اینها نمی رود. من نمی دانم که آیا همه شما ایده هایی در مورد چگونگی انتقال این مکالمات به عمل دارید؟

دکتر کامار: نقش‌هایی برای بازی کردن در بسیاری از احزاب وجود دارد. ارزشیابی در بازنمایی فرهنگ ها و جمعیت های مختلف اهمیت زیادی دارد. وقتی مجموعه‌های داده تنوع در نمایش جهانی ندارند، سیستم‌های به‌دست‌آمده نماینده نیستند. برای شکل‌گیری بهترین شیوه‌های ارزیابی، مقررات و اقدامات انطباق باید کارهای زیادی انجام شود. کاخ سفید تعهداتی را پذیرفته است و طرح اولیه منشور حقوق هوش مصنوعی در حال شروع است. فرآیندهایی در سراسر صنعت اجرا شده‌اند که بسیاری از ذهن‌های بزرگ با هم کار می‌کنند (عالی نیست، اما تعمیم در سراسر صنعت پتانسیل وجود دارد). جلساتی برای همگرایی در حال حاضر به عنوان استاندارد شروع می شود. احتمالا در مقررات آینده چگونه ارزیابی، تجزیه و تحلیل ایمنی و غیره را انجام دهیم؟ هیچ کدام از این مکالمات آن تنوعی را که باید در اتاق وجود داشته باشد، ندارند. به این فکر کنید که چه کسی باید هنگام تصمیم گیری در اتاق باشد.

دکتر داومه: من فکر می کنم وقتی مردم در مورد مقررات، به ویژه در هوش مصنوعی صحبت می کنند، همه به مقررات تنبیهی فکر می کنند. اما این می تواند مقررات را نیز تشویق کند. سیاست گذاران بودجه و NSF می توانند ابزارهایی را توسعه دهند که به ما به عنوان یک ملت و جهان کمک می کند.

س: بودجه برای هوش مصنوعی در ایالات متحده در مقایسه با سایر نقاط جهان بسیار عقب است. سرمایه گذاری جدید NSF 20 میلیون چیزی است که در مقایسه با سرمایه گذاری های صنعت بادام زمینی است. دولت فدرال گزارش‌هایی را از مطالعات سال‌ها منتشر کرده است و نتیجه این است که ایالات متحده باید ادامه دهد. من عاشق قیاس تغییر فاز Ece هستم. حد ترمودینامیکی با اعداد در حال رشد است. ما هوش مصنوعی باز می خواهیم، ​​چه کسی هزینه آن را پرداخت می کند؟ پول کافی نیست. پیشنهادات شما چیست؟ هوش مصنوعی باز شود؟ اما ما حتی انتشار دسترسی آزاد نداریم. آیا به رئیس جمهور توصیه می کنید که قانون نداشته باشد؟

دکتر می: فکر می کنم پول وجود دارد. یکی به من مشاهده کرد که شما توانسته اید دولت را متقاعد کنید که ذرات را به اطراف بچرخاند، اما نتوانسته اید آن را به سمت ما منحرف کنید.

دکتر کامار: دلیل اینکه شرکت هایی که این مدل ها را می سازند، این خروجی ها را به دست می آورند، تمرکز منابع است. چیزهای زیادی از مقیاس بدست می آورید. باید به این فکر کرد که چگونه سرمایه‌گذاری‌ها را در دانشگاه متمرکز کنیم تا به جای داشتن مدل‌های مختلف، یک منبع مشترک داشته باشیم. ما می بینیم که این فقط مربوط به مقیاس نیست. کاری نیست که در حال حاضر باید انجام دهیم، اما معماری فعلی عالی نیست. داشتن قابلیت های خوب هوش مصنوعی نباید فقط به پول بیشتر و قدرت بیشتر باشد.

س: سوگیری بیش از حد در پاسخ ها. آیا می دانیم از کجا می آید؟ من یک مرد ریاضی هستم، و افکارم به این موضوع مربوط می شود که ترکیبی از اشتباهات گرد کردن است که سوگیری را اضافه می کند؟ اگر بازنمایی برابر باشد، تصور می‌کنم که نمایش مساوی را تولید می‌کند، یا اینکه هنوز وجود دارد؟

دکتر می: خیلی چیزها به عملکردهای اسپیکینگ مربوط می شود. حداکثر نرم بخش مهمی از تمرین است. بالاترین می خواهد شماره 1 باشد. اینطور نیست که خروجی زبان کاملی وجود داشته باشد، اما ما می خواهیم کمی تعصب داشته باشیم. ما فقط می‌خواهیم آسیب به مردم را به حداقل برسانیم، و خیلی وقت‌ها اینها را نمی‌شناسیم. استقرار بدون درک مشکل است. 

دکتر داومه: یکی از چالش های این مدل ها این است که دیگر مدل های باریک هوش مصنوعی وجود ندارد. آنها می گویند که می توانند هر کاری انجام دهند، بنابراین آزمایش همه چیز سخت است.

س: شما به هوش مصنوعی به عنوان یک ابزار یا جایگزین اشاره کردید، به نظر شما به کدام سمت می رود؟

دکتر داومه: پول بیشتری برای جایگزینی صرف می شود.

س: عنوان به هوش مصنوعی عاشقانه اشاره کرد. من می خواهم در مورد آن بیشتر بدانم.

دکتر می: در مدل‌ها قصد کافی برای جایگزینی عاشقانه وجود ندارد، اما آنها به اندازه انسان‌ها در تشخیص الگوها حتی زمانی که وجود ندارند خوب هستند.

دکتر کامار: من به شما توصیه می کنم که در مورد هوش مصنوعی همان چیزی که در حال حاضر هست فکر نکنید. سعی کنید به آینده فکر کنید – تصور کنید که در چند سال آینده، این سیستم ها برای شما شخصی سازی می شوند. چه رابطه ای با آن سیستم خواهید داشت؟

دکتر می: اما آیا شما را دوست خواهد داشت؟

دکتر کامار: به شما خواهد گفت که شما را دوست دارد.

دکتر می: اما آیا این کافی است؟

س: من می خواهم برای افرادی که در زمینه هوش مصنوعی نیستند توصیه هایی بشنوم. چگونه می توانیم با این ابزارها تعامل کنیم؟ چه چیزی باید بدانیم؟

دکتر داومه: در دانشگاه مریلند، ما این گفتگوها را زیاد انجام می دهیم. برای من آسان است که بگویم روزنامه نگاری تا 5 سال دیگر متفاوت خواهد بود و سایر رشته ها نیز. ناراحت کننده است که بگوییم نقش استاد تا 5 سال دیگر متفاوت خواهد بود، اما خواهد شد. من همکارانی دارم که از پلاگین های مختلف LLM برای پروپوزال ها و مقالات استفاده می کنند. در حال حاضر اتفاق می افتد. من مرتباً سؤالات امتحانی دارم که توسط ابزار نوشته شده است، اما باید صحت را بررسی کنم. نوشتن سؤالات امتحانی برای من شادی نمی آورد، بنابراین هوش مصنوعی می تواند آن را از بشقاب من حذف کند. در آموزش عالی باید بیشتر به آن فکر کنیم. چگونه شغل ما را متحول می کند؟ بحث های زیادی در دانشگاه ها در حال انجام است، اما تعداد زیادی از منابع جمع آوری نمی شود.

س: چه میزان استقبال از هوش مصنوعی در آینده هنگام بررسی برنامه های نظامی است؟ در این جلسه هیچ اشاره ای به کاربردهای نظامی نشده است - می دانم که اگر مردم را تا نیمه درست خوانده باشم، اختلاف نظر در مورد آن موضوع وجود دارد.

دکتر می: ارتش گسترده است، بسیاری از کارهای من توسط وزارت دفاع حمایت می شود. پاسخ دادن به طور خاص دشوار است، به طور کلی وزارت دفاع (نه به جای آنها) به نظر می رسد که ایمنی و امنیت ایالات متحده را در اولویت قرار داده است و به این کار ادامه خواهد داد و از LLM و هوش مصنوعی برای کمک به ایمن شدن ایالات متحده استفاده خواهد کرد.

دکتر کمر: در مورد استفاده دوگانه هم باید صحبت کنیم. اگر شما کارهای نظامی در حال انجام در زیست‌شناسی یا امنیت سایبری را انجام می‌دهید، ما می‌توانیم ابزارهای بسیار امیدوارکننده‌ای را که در حال حاضر در اختیار داریم استفاده کنیم و از آنها استفاده کنیم زیرا سیستم‌های امن و داروهای جدید می‌خواهیم. اما با هر استفاده خوب، استفاده بدی خواهید داشت. موارد استفاده ای که ما نمی خواهیم هوش مصنوعی در آنها استفاده شود چیست؟ در برنامه های متن باز، افراد می توانند این مدل ها را تکرار کنند. چگونه در این موارد مردم را از آسیب رساندن دور کنیم؟

س: هنگام تعامل با مدل‌های زبان، بزرگسالان متوجه می‌شوند که زنده/خودآگاه نیست، اما چند نسل بعد چه می‌شود. بچه‌هایی که از زمانی که معاشرت را به یاد می‌آورند آن را داشته‌اند؟ آنها معلم یا معلمی دارند که کاملاً هوش مصنوعی دارد. سیستم با یک مربی تعبیه شده است. آنها می توانند با دستورالعمل پیوند ایجاد کنند، فکر کنند که رابطه خوبی دارند و سپس برنامه حذف می شود. روانشناسی کودک پیوندهای عاطفی اجتماعی با موجودات غیرشخصی چیست؟

دکتر کمر: ما به تحقیق، تحقیقات بین رشته ای و سریع نیاز داریم. در عرض 5 سال، ما ممکن است این پاسخ ها را دریافت کنیم، اما در آن زمان ممکن است هوش مصنوعی به بخش بزرگی از زندگی 10 ساله من تبدیل شود. سوال شما بسیار مهم است. تحقیقاتی وجود دارد که نشان می‌دهد حتی سیستم‌های بی‌گناه نیز ممکن است درهای پشتی داشته باشند. ما امروز نیاز داریم که کارشناسان امنیتی و متخصصان رشد کودک این مکالمات را داشته باشند.

دکتر داومه: نمی‌دانم کسی نظارت باربی را به خاطر می‌آورد یا نه – یک مشکل بزرگ حریم خصوصی در اینجا وجود دارد. موضوع اجتماعی جالب تری است. پاسخ ها بیش از حد مثبت تنظیم شده بود. بچه‌ها چیزهایی می‌گفتند مثل اینکه من عصبانی هستم چون سالی با من بازی نمی‌کرد و پیشنهادات اجتماعی مناسبی نمی‌دهد. من نگران عوامل بسیار مثبت هستم، زیرا مثبت بودن همیشه پاسخ درستی نیست.

از خواندن شما بسیار سپاسگزاریم و منتظر خلاصه سومین و آخرین پانل ما در AAAS 2024 باشید.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/