مدیر عامل OpenAI از AGI خبر می دهد که هیچ کس عاقل نمی خواهد

اظهار نظر سام آلتمن، مدیر عامل OpenAI، گفته است که تازه‌کار او در حال آماده شدن برای ظهور هوش مصنوعی عمومی است – اگرچه در مورد معنای واقعی AGI اختلاف نظر وجود دارد و در مورد ادعای او مبنی بر اینکه مأموریت OpenAI اطمینان از اینکه AGI به نفع تمام بشریت است، تردید وجود دارد.

اگر از احساس غیر الزام آور قانونی دستور قطع شده «شیطان نباش» گوگل گریه کردید، ادامه دهید.

به گفته ChatGPT، ربات چت OpenAI، «AGI مخفف Artificial General Intelligence است که به توانایی فرضی یک سیستم هوش مصنوعی برای انجام هر کار فکری که یک انسان می تواند اشاره دارد. این شامل وظایفی مانند استدلال، حل مسئله، یادگیری از تجربه، و انطباق با موقعیت های جدید به روش هایی است که در حال حاضر فراتر از توانایی های پیشرفته ترین سیستم های هوش مصنوعی است.

خوب، هر چه باشد. نکته کلیدی این است که هنوز چنین سیستمی وجود ندارد. و بود نزدیک به ایجاد آن نیست. بنابراین به اظهارات مبهم.

AGI این پتانسیل را دارد که به همه قابلیت‌های جدید و باورنکردنی بدهد. ما می‌توانیم دنیایی را تصور کنیم که در آن همه ما تقریباً برای هر کار شناختی به کمک دسترسی داشته باشیم و نیروی زیادی برای نبوغ و خلاقیت انسان فراهم کنیم.» وب سایت خود را.

دنیایی را تصور کنید که در آن تصاویر آنلاین، متن، موسیقی، صداهای ضبط شده، ویدیوها و کدهای افراد بدون رضایت برای آموزش مدل‌های هوش مصنوعی جمع‌آوری می‌شود و ماهیانه 10 دلار به آنها فروخته می‌شود. ما قبلاً آنجا هستیم، اما چیزی فراتر از آن را تصور کنید - و فرض کنید که باورنکردنی است.

ما معتقد نیستیم که ممکن است یا مطلوب جامعه برای همیشه توسعه خود را متوقف کند. درعوض، جامعه و توسعه دهندگان AGI باید بفهمند که چگونه آن را درست انجام دهند

آلتمن اجازه می دهد که همه چیز ممکن است خراب شود، اما معتقد است که ما آن را درست خواهیم کرد: «از طرف دیگر، AGI همچنین با خطر جدی سوء استفاده، تصادفات شدید و اختلالات اجتماعی همراه خواهد بود. از آنجایی که جنبه مثبت AGI بسیار عالی است، ما معتقد نیستیم که ممکن است یا مطلوب جامعه باشد که توسعه خود را برای همیشه متوقف کند. درعوض، جامعه و توسعه دهندگان AGI باید چگونگی درست کردن آن را بیابند."

به عبارت دیگر، با منسوخ شدن نیروی انسانی آنقدر پول می توان به دست آورد که نمی توان صاحبان مشاغل را مهار کرد.

به یاد بیاورید که تقریبا یک دهه پیش، ایلان ماسک، یکی از بنیانگذاران و سرمایه گذار OpenAI - که چند سال پیش سهام خود را به مایکروسافت فروخت - از اینکه هوش مصنوعی بزرگترین تهدید وجودی وجود دارد

باور کنید یا نه، هوش مصنوعی سرکش مورد توجه جدی قرار می گیرد [PDF] در میان فاجعه‌های بالقوه آشکارتر، مانند برخورد سیارک‌ها به زمین، فاجعه جهانی آب و هوا، بیماری‌های همه‌گیر، جنگ هسته‌ای، قحطی، و دیگر صحنه‌های سینمایی.

با این حال آلتمن پیشنهاد می کند که AGI نمی تواند برای همیشه متوقف شود. او فقط می توانست یک خط از شرور تانوس در آن قرض بگیرد Avengers: Endgame، "من اجتناب ناپذیر هستم."

امیلی بندر، استاد گروه زبان شناسی و مدیر آزمایشگاه زبان شناسی محاسباتی در دانشگاه واشنگتن در ایالات متحده، پست آلتمن را تحلیل کرد. بنابراین در توییتراو نوشت: «از ابتدا این خیلی ناخوشایند است. آنها فکر می کنند که واقعاً در حال توسعه / شکل دادن به "AGI" هستند. و آنها فکر می کنند که در موقعیتی قرار دارند که تصمیم بگیرند چه چیزی به نفع همه بشریت است.

در اینجا یک آزمایش فکری وجود دارد: یک سیستم AGI را تصور کنید که به میلیاردرها مالیات 95 درصدی و توزیع مجدد ثروت آنها به نفع بشریت توصیه می کند. آیا هرگز به سیستم بانکی متصل می شود تا تغییرات توصیه شده آن را اعمال کند؟ نه، نمی شود. آیا کسانی که به AGI فکر می کنند واقعاً آن دستورات را اجرا خواهند کرد؟ باز هم نه.

هیچ کس با ثروت و قدرت نمی‌خواهد قدرت را به نرم‌افزار واگذار کند یا اجازه دهد که حتی بخشی از ثروت و قدرت آنها را از بین ببرد، مهم نیست چقدر "هوشمند" باشد. هیچ VIP نمی‌خواهد AGI کاهش آن را دیکته کند. و هر AGI که ​​در درجه اول به قدرتمندان و ثروتمندان قدرت و ثروت بیشتری می بخشد یا وضعیت موجود را حفظ می کند، کاملاً آن چیزی نیست که ما به عنوان فناوری توصیف می کنیم که، همانطور که OpenAI می گوید، به نفع همه بشریت است.

هوش مصنوعی غیرقابل نفوذ برای جاسوسی کارمندان خوب است. برای بازی رفتار رانندگانی که دستمزد کمتری دریافت می کنند. برای علامت گذاری نقض، افشای اسرار تجاری، یا سازماندهی کارگری؛ یا برای هدایت خودروها در جاده‌های عمومی با تصادفات تصادفی و بدون مسئولیت اجرایی.

اما هیچ کس AGI غیرقابل پیش بینی نمی خواهد. و اگر AGI قابل پیش بینی باشد، هوشمندتر از هر سیستم مکانیکی دیگری نیست. بنابراین ما به برخورد با هوش مصنوعی برمی‌گردیم که در حال حاضر فرمول‌بندی شده است: مدل‌های غیر شفاف ایجاد شده با قدرت مشکوک که برای سود و بدون توجه به عواقب آن استفاده می‌شوند.

به عنوان بندر نوشت در تشریح پیام آلتمن، «ای کاش می‌توانستم فقط به این افراد بخندم، اما متأسفانه آنها تلاش می‌کنند (و فکر می‌کنم موفق می‌شوند) بحث را در مورد تنظیم سیستم‌های به اصطلاح هوش مصنوعی درگیر کنند.»

اما بندر استدلال کرد که چارچوب بندی موضوع از نظر مقررات AGI نتیجه را از دست می دهد. سیستم‌های هوش مصنوعی مانند ChatGPT یا DALL•E – چیزی که او آن را «ماشین‌های سنتز متن» نامید – باید در چارچوب بحث‌های گسترده‌تر درباره حقوق داده، محافظت در برابر تصمیم‌گیری خودکار، نظارت و سایر اصطکاک‌های اجتماعی مرتبط با فناوری در نظر گرفته شوند.

بندر استدلال کرد: «مشکل تنظیم «AI» یا «AGI» آینده نیست. "این از افراد در برابر نفوذ بیش از حد شرکت ها و دولت با استفاده از "AI" برای کاهش هزینه ها و یا منحرف کردن مسئولیت پذیری محافظت می کند. ®

PS: نویسنده چارلی استروس پیشنهاد زمان این جدیدترین تبلیغات هوش مصنوعی پس از انفجار ارزهای دیجیتال تصادفی نیست…

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2023/02/27/openai_ceo_agi/