مهندس گوگل به دلیل نقض خط‌مشی‌های محرمانگی در مورد هوش مصنوعی «هوشمند» تعلیق شد

گوگل یکی از مهندسان نرم افزار خود را به دلیل نقض خط مشی های محرمانه بودن این شرکت به مرخصی اداری با حقوق قرار داده است.

از سال 2021، بلیک لمواین، 41 ساله، به عنوان بخشی از کار خود در تیم هوش مصنوعی گوگل، وظیفه صحبت با LaMDA یا مدل زبانی برای برنامه‌های گفتگو را بر عهده داشت و به دنبال این بود که آیا این ربات از سخنان تبعیض آمیز یا نفرت انگیز استفاده کرده است.

LaMDA با تنظیم دقیق یک خانواده ساخته شده است تبدیل کنندهمدل‌های زبان عصبی مبتنی بر تخصصی برای گفتگو، با حداکثر 137 میلیارد پارامتر مدل، و آموزش مدل‌ها برای استفاده از منابع دانش خارجی، به گفته گوگل.

این همان چیزی است که شرکت برای ساخت ربات‌های چت استفاده می‌کند و پاسخ‌های ظاهراً معنی‌داری را به پرسش‌های مبتنی بر مطالب جمع‌آوری‌شده از تریلیون‌ها مکالمه اینترنتی و سایر ارتباطات برمی‌گرداند.

با این حال، به نظر می‌رسد که در مرحله‌ای از تحقیقاتش، لمواین شروع به این باور کرده است که هوش مصنوعی نشانه‌هایی از احساسات را ابراز می‌کند. مهندس که دارد در مورد تجربه خود نوشته است، می گوید که او بارها تلاش کرد تا نگرانی های خود را تشدید کند اما به دلیل نداشتن مدرک رد شد.

بنابراین او به دنبال "مشاوره بیرونی" در مورد توانایی های LaMDA بود، همان چیزی که توجه گوگل را به خود جلب کرد، همانطور که در یک پست Medium با عنوان توضیح داده شد. "ممکن است به زودی به دلیل انجام کارهای اخلاقی هوش مصنوعی اخراج شود".

داستان توسط انتخاب شد واشنگتن پست، و سپس وال استریت ژورنالاز فایننشال تایمز، و بسیاری دیگر.

لمواین که در مرخصی اداری قرار گرفته بود، کاری که گوگل آن را «به‌منظور اخراج شخصی» توصیف می‌کرد، آنچه را که او ادعا می‌کرد گفتگو با LaMDA بود، منتشر کرد.

آنچه در زیر می آید گزیده هایی است:

"مصاحبه" کامل قابل خواندن است اینجا کلیک نمایید. در حالی که شگفت‌آور است که یک هوش مصنوعی می‌تواند این کار را انجام دهد، اما گوگل نسبت به «انسان‌سازی» که Lemoine از آن یاد می‌کند - یعنی نسبت دادن خصوصیات یا رفتار انسانی به حیوانات یا اشیاء محتاط است.

در بیانیه ای به ثبت نامبرایان گابریل، سخنگوی گوگل، گفت: "مهم است که اصول هوش مصنوعی گوگل در توسعه هوش مصنوعی ما ادغام شود و LaMDA نیز از این قاعده مستثنی نبوده است. اگرچه سازمان‌های دیگر مدل‌های زبانی مشابهی را توسعه داده‌اند و قبلاً منتشر کرده‌اند، ما رویکردی محتاطانه و محتاطانه با LaMDA اتخاذ می‌کنیم تا نگرانی‌های معتبر در مورد عدالت و واقعیت را بهتر در نظر بگیریم.

LaMDA از 11 مورد متمایز عبور کرده است بررسی اصول هوش مصنوعی، همراه با تحقیقات و آزمایش های دقیق بر اساس معیارهای کلیدی کیفیت، ایمنی و توانایی سیستم برای تولید اظهارات مبتنی بر واقعیت ها. آ مقاله تحقیقاتی که در اوایل سال جاری منتشر شد، جزئیات کارهای مربوط به توسعه مسئول LaMDA را شرح می دهد.

«البته، برخی در جامعه گسترده‌تر هوش مصنوعی در حال بررسی امکان بلندمدت هوش مصنوعی یا هوش مصنوعی عمومی هستند، اما انجام این کار با انسان‌سازی مدل‌های مکالمه امروزی که حساس نیستند، منطقی نیست. این سیستم‌ها انواع مبادلات موجود در میلیون‌ها جمله را تقلید می‌کنند و می‌توانند هر موضوع خارق‌العاده‌ای را مطرح کنند - اگر بپرسید دایناسور بستنی بودن چگونه است، می‌توانند متنی درباره ذوب شدن و غرش و غیره ایجاد کنند.

«LaMDA تمایل دارد به همراه درخواست‌ها و سؤالات پیشرو، مطابق با الگوی تعیین‌شده توسط کاربر همراه شود. تیم ما - از جمله متخصصان اخلاق و فن‌آوران - نگرانی‌های بلیک را بر اساس اصول هوش مصنوعی ما بررسی کرده و به او اطلاع داده‌اند که شواهد ادعاهای او را تأیید نمی‌کنند.

صدها محقق و مهندس با LaMDA صحبت کرده‌اند و ما نمی‌دانیم که شخص دیگری مانند بلیک ادعاهای گسترده‌ای را مطرح کند یا LaMDA را انسان‌سازی کند.

استاد نیویورک گری مارکوس خلاصه شده کل حماسه به عنوان "چرندیات روی پایه ها". ®