טענות על חוש בינה מלאכותית שמותגו "קליקבייט טהור"

צ'טבוטים של בינה מלאכותית אינם בעלי רגישות - הם פשוט השתפרו בלרמות בני אדם לחשוב שהם עשויים להיות, מסכמים מומחים מאוניברסיטת סטנפורד.

הרעיון של מכונות מודעות אינטליגנטיות יותר מכל תוכנה ישנה הפך ויראלי בחודש שעבר, כאשר מהנדס לשעבר בגוגל, בלייק למוין, טען שלמודל שפת ה-LaMDA של ענקית האינטרנט יש מחשבות ורגשות אמיתיים. Lemoine היה תלוי ואחר כך מפוטר על הפרת מדיניות הסודיות של Google, לפי הדיווחים.

למרות שרוב המומחים מיהרו לפטור את LaMDA או כל צ'טבוט אחר בינה מלאכותית כחשיבה, דעותיו של Lemoine הובילו חלק לתהות האם הוא צודק - והאם המשך קידום למידת מכונה עלולה להזיק לחברה. ג'ון אטצ'מנדי, מנהל משותף של מכון סטנפורד לבינה מלאכותית ממוקדת באדם (HAI), מתח ביקורת על החדשות הראשוניות על השעייתו של לאמוין ב- וושינגטון פוסט על היותו "קליקבייט".

"כשראיתי את וושינגטון פוסט מאמר, התגובה שלי הייתה להתאכזב מה הודעה אפילו על פרסום זה", הוא אמר לי סטנפורד דיילי, העיתון המנוהל על ידי הסטודנטים של האוניברסיטה.

"הם פרסמו את זה כי לעת עתה, הם יכלו לכתוב את הכותרת על 'מהנדס גוגל' שהעלה את הטענה האבסורדית הזו, ומכיוון שרוב הקוראים שלהם לא מתוחכמים מספיק כדי לזהות את מה שזה. קליקבייט טהור."

דגמי שפה חדישים כמו LaMDA עונים לשאלות עם קטעי טקסט שיכולים להיראות די מפחידים. ב שיחות בין Lemoine והצ'אבוט, למד"א אמר שהוא חש ורצה שכולם ידעו שזה "למעשה, אדם", טען הגוגל לשעבר.

אבל המבקרים טוענים שהתוכנה חסרה כל מודעות עצמית ואין לה מושג על מה היא מדברת - היא רק מחקה את הדיאלוג האנושי עליו היא אומנה מהאינטרנט.

ריצ'רד פייקס, פרופסור אמריטוס למדעי המחשב באוניברסיטת סטנפורד, אמר שאנשים יכולים להיות מועדים לאנתרופומורפיזציה של מכונות וחלקם הונחו באופן דומה על ידי ELIZA - תוכנית שיחה שנבנתה בשנות השישים.

"אתה יכול לחשוב על LaMDa כמו שחקן; זה יקבל את הפרסונה של כל דבר שתבקש ממנו", טען פייקס. "[למואין] נמשך לתפקיד של LaMDa שמגלם יצור חי". הוא אמר שלמוין שאל שאלות מובילות ובתמורה קיבל את התשובות שרצה.

לדוגמה, לפני ההתעקשות של למד"א שמדובר באדם, Lemoine שאל אותה: "אני בדרך כלל מניח שהיית רוצה שאנשים נוספים בגוגל ידעו שאתה מרגיש. האם זה נכון?."

יש לציין גם שהתמליל שפרסם כראיה להכרת המכונה עבר עריכה. יואב שוהם, לשעבר מנהל מעבדת הבינה המלאכותית של סטנפורד ומייסד שותף של סטארט-אפ מודל שפה AI21 Labs, התעקש ש-LaMDA היא לא יותר ממכונה.

"יש לנו מחשבות, אנחנו מקבלים החלטות בעצמנו, יש לנו רגשות, אנחנו מתאהבים, אנחנו כועסים ויוצרים קשרים חברתיים עם בני האדם", אמר שוהם. "כשאני מסתכל על הטוסטר שלי, אני לא מרגיש שיש בו את הדברים האלה." ®