توسعه دهنده ChatGPT پیش بینی می کند که هوش مصنوعی «فوق العاده هوشمند» در این دهه وارد شود | BitPinas

• OpenAI از طریق یک پست وبلاگی اعلام کرد که قرار است یک تیم "Superalignment" تشکیل دهد، گروهی که راه هایی برای کنترل ابرهوشی ایجاد خواهد کرد.
• هوش فوق العاده می تواند مهارت های شناختی و فکری خود را توسعه دهد، بنابراین این پتانسیل را دارد که تاثیرگذارترین فناوری برای بشریت باشد و ممکن است به حل بسیاری از مشکلات مهم جهان کمک کند.
• برای OpenAI، انسان ها راه حلی برای هدایت یا کنترل یک هوش مصنوعی بالقوه فوق هوشمند ندارند.

"در حالی که ابر هوش در حال حاضر دور به نظر می رسد، ما معتقدیم که می تواند در این دهه برسد."

این است بیانیه از OpenAI، توسعه‌دهنده مدل زبان محبوب (LM) ChatGPT، در حالی که تیم اعلام کرد تیمی را تشکیل می‌دهد که هدف آن توسعه راه‌هایی برای هدایت و کنترل سیستم‌های هوش مصنوعی «فوق‌هوشمند» است.

مقالات بیشتر بخوانید در مورد هوش مصنوعی در BitPinas.

سوپرهوش چیست؟ 

هوش مصنوعی فوق هوشمند به عنوان آینده هوش مصنوعی در نظر گرفته می شود، زیرا توانایی هایی دارد که از هوش انسانی پیشی می گیرد. 

اساسا، ابر هوش می‌تواند مهارت‌های شناختی و فکری خود را توسعه دهد، بنابراین پتانسیل این را دارد که تاثیرگذارترین فناوری برای بشریت باشد و ممکن است به حل بسیاری از مشکلات مهم جهان کمک کند.

با این حال، OpenAI اعتراف کرد، "قدرت عظیم ابر هوش نیز می تواند بسیار خطرناک باشد و می تواند منجر به ناتوانی بشریت یا حتی انقراض انسان شود."

و آنچه نگران‌کننده‌تر است این است که توسعه‌دهنده اذعان کرد که انسان‌ها راه‌حلی برای هدایت یا کنترل یک هوش مصنوعی بالقوه فوق‌هوشمند و جلوگیری از سرکشی آن ندارند.

«تکنیک‌های فعلی ما برای همسوسازی هوش مصنوعی، مانند یادگیری تقویتی از بازخورد انسان، بر توانایی انسان برای نظارت بر هوش مصنوعی متکی است. اما انسان‌ها نمی‌توانند به‌طور قابل‌اطمینانی بر سیستم‌های هوش مصنوعی بسیار باهوش‌تر از ما نظارت کنند، و بنابراین، تکنیک‌های هم‌ترازی فعلی ما به ابرهوشمندی نمی‌رسد.» OpenAI تاکید کرد.

(بیشتر بخوانید: راهنمای مبتدی نهایی برای ChatGPT: یاد بگیرید چگونه از چت بات هوش مصنوعی به طور موثر استفاده کنید)

راه حل OpenAI

برای OpenAI، جامعه به پیشرفت های علمی و فنی جدید نیاز دارد.

با این کار، توسعه دهنده اعلام کرد که یک تیم "Superalignment" تشکیل خواهد داد، گروهی که هدف آن توسعه راه هایی برای کنترل ابرهوشی است. این تیم توسط Ilya Sutskever، یکی از بنیانگذاران و دانشمند ارشد OpenAI، و Jan Leike، سرپرست تیم همسویی OpenAI هدایت می شود و آنها 20٪ از قدرت محاسباتی را که OpenAI تاکنون به دست آورده است، برای این تلاش اختصاص داده اند.

"هدف ما ساختن یک محقق تراز خودکار تقریباً در سطح انسانی است. سپس می‌توانیم از مقادیر زیادی محاسبات برای مقیاس‌بندی تلاش‌هایمان استفاده کنیم و به‌طور مکرر ابرهوش را همسو کنیم.» توسعه دهنده توضیح داد 

علاوه بر این، OpenAI فاش کرد که در حال برنامه ریزی برای تراز کردن اولین محقق تراز خودکار توسط:

• استفاده از سیستم‌های هوش مصنوعی برای کمک به ارزیابی سایر سیستم‌های هوش مصنوعی برای ارائه سیگنال‌های آموزشی برای کارهایی که ارزیابی آن برای انسان دشوار است.
• درک اینکه چگونه نظارت وظایفی را که آنها نمی توانند نظارت کنند، تعمیم می دهد،
• بررسی رفتارهای مشکل ساز یا حالت های داخلی برای اعتبار بخشیدن به همسویی سیستم آنها.
• آزمایش کل خط لوله با آموزش عمدی مدل‌های بدون تراز و اطمینان از اینکه تکنیک‌های آن‌ها می‌تواند بدترین نوع عدم تطابق تراز را تشخیص دهد.

در همین راستا، OpenAI همچنین اعلام کرد که به دنبال محققان و مهندسان برجسته جدید است تا به این تلاش بپیوندند، به احتمال زیاد کسانی که با یادگیری ماشین تجربه کرده اند.

تراز ابرهوشی اساساً یک مشکل یادگیری ماشینی است، و ما فکر می‌کنیم که کارشناسان بزرگ یادگیری ماشین - حتی اگر قبلاً روی هم‌ترازی کار نمی‌کنند - برای حل آن بسیار مهم هستند. توسعه دهنده ChatGPT نتیجه گرفت. 

(بیشتر بخوانید: 10 شغل پردرآمد با هوش مصنوعی: راهنمای جامع)

ملاحظات اخلاقی ChatGPT

در مقالات اخیر خود در زمینه هوش مصنوعی، بارها به این موضوع پرداختیم که ChatGPT و سایر ابزارهای هوش مصنوعی مولد اخیراً به دلیل مطرح کردن مسائل اخلاقی با واکنش منفی مواجه شده‌اند. برای برخی، این ابزارها می توانند برای اطلاعات نادرست، نقض حریم خصوصی داده ها و حتی گسترش نفرت استفاده شوند. 

در واقع، همین ماه گذشته، OpenAI پس از دریافت گزارش‌هایی مبنی بر استفاده از این ویژگی برای دریافت اطلاعات از وب‌سایت‌هایی که برای دسترسی به آن نیاز به پرداخت دارند، به طور موقت ویژگی «جستجو با بینگ» را غیرفعال کرد.

فقط تصور کنید، اگر این ابزارهای هوش مصنوعی در حال حاضر مرتکب اشتباهاتی شده اند، ابرهوش کنترل نشده چقدر بیشتر از این کار می کند؟

این مقاله در BitPinas منتشر شده است: توسعه‌دهنده ChatGPT پیش‌بینی می‌کند که هوش مصنوعی «فوق‌هوشمند» در این دهه وارد شود

سلب مسئولیت: مقالات BitPinas و محتوای خارجی آن توصیه مالی نیستند. این تیم در خدمت ارائه اخبار مستقل و بی طرفانه برای ارائه اطلاعات برای فیلیپین-کریپتو و فراتر از آن است.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. خودرو / خودروهای الکتریکی، کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• BlockOffsets. نوسازی مالکیت افست زیست محیطی. دسترسی به اینجا.
• منبع: https://bitpinas.com/ai/superintelligent-ai-will-arrive/