גוגל למד"א תוכנה (Language Model for Dialogue Applications) היא צ'טבוט מתוחכם של AI שמייצר טקסט בתגובה לקלט המשתמש. לפי מהנדס התוכנה בלייק למויין, LaMDA השיגה חלום עתיק יומין של מפתחי בינה מלאכותית: זה הפך לרגיש.
הבוסים של Lemoine בגוגל לא מסכימים, ויש להם השעתה אותו מהעבודה לאחר שפרסם השיחות שלו עם המכונה באינטרנט.
גם מומחי בינה מלאכותית אחרים חושבים על Lemoine עלול להיסחף, אומר שמערכות כמו LaMDA הן פשוט מכונות התאמת דפוסים שמחזירים וריאציות על הנתונים המשמשים לאימון אותם.
ללא קשר לפרטים הטכניים, למד"א מעלה שאלה שרק תהפוך לרלוונטית יותר ככל שהמחקר בינה מלאכותית יתקדם: אם מכונה תהפוך לחושנית, איך נדע?
מהי תודעה?
כדי לזהות חוש, או תודעה, או אפילו אינטליגנציה, נצטרך להבין מה הם. הוויכוח על שאלות אלה נמשך כבר מאות שנים.
הקושי הבסיסי הוא להבין את הקשר בין תופעות פיזיקליות לתופעות שלנו ייצוג מנטלי של אותן תופעות. זה מה הפילוסוף האוסטרלי דוד צ'למרס קרא את "בעיה קשה"של התודעה.
אין הסכמה כיצד, אם בכלל, תודעה יכול לנבוע ממערכות פיזיות.
השקפה אחת נפוצה נקראת פיזיקליות: הרעיון שהתודעה היא תופעה פיזיקלית גרידא. אם זה המקרה, אין שום סיבה שמכונה עם תכנות נכון לא תוכל להחזיק במוח דמוי אדם.
החדר של מרי
פילוסוף אוסטרלי פרנק ג'קסון קרא תיגר על ההשקפה הפיזיקליסטית ב-1982 בניסוי מחשבתי מפורסם בשם טיעון ידע.
הניסוי מדמיין מדענית צבע בשם מרי, שמעולם לא ראתה צבע. היא גרה בחדר שחור-לבן שנבנה במיוחד וחווה את העולם החיצון באמצעות טלוויזיה בשחור-לבן.
מרי צופה בהרצאות וקוראת ספרי לימוד ומכירה את כל מה שצריך לדעת על צבעים. היא יודעת שהשקיעות נגרמות מאורכי גל שונים של אור המפוזרים על ידי חלקיקים באטמוספירה, היא יודעת שעגבניות הן אדומות ואפונה ירוקה בגלל אורכי הגל של האור שהן מחזירות, וכן הלאה.
אז, שאל ג'קסון, מה יקרה אם מרי תשוחרר מהחדר בשחור-לבן? ספציפית, כשהיא רואה צבע בפעם הראשונה, האם היא לומדת משהו חדש? ג'קסון האמין שכן.
מעבר למאפיינים הפיזיים
ניסוי מחשבתי זה מפריד בין הידע שלנו על הצבע לבין החוויה שלנו בצבע. באופן מכריע, התנאים של ניסוי המחשבה אומרים שמרי יודעת כל מה שצריך לדעת על צבע אבל מעולם לא חוותה אותו.
אז מה זה אומר עבור LaMDA ואחרים AI מערכות?
הניסוי מראה כיצד גם אם יש לך את כל הידע על תכונות פיזיקליות זמין בעולם, עדיין קיימות אמיתות נוספות הקשורות לחוויה של תכונות אלו. אין מקום לאמיתות הללו בסיפור הפיזיקליסטי.
לפי הטיעון הזה, ייתכן שמכונה פיזית גרידא לעולם לא תוכל באמת לשכפל מחשבה. במקרה הזה, ל-MDA נראה רק רגיש.
משחק החיקוי
אז האם יש דרך שנוכל להבחין בהבדל?
מדען המחשבים הבריטי החלוץ אלן טיורינג הציע דרך מעשית לדעת אם מכונה היא "אינטליגנטית" או לא. הוא קרא לזה משחק החיקוי, אבל היום הוא מוכר יותר בתור מבחן טיורינג.
במבחן, אדם מתקשר עם מכונה (באמצעות טקסט בלבד) ומנסה לקבוע אם הוא מתקשר עם מכונה או עם אדם אחר. אם המכונה מצליחה לחקות אדם, היא נחשבת כמציגה אינטליגנציה ברמת האדם.
אלה דומים מאוד לתנאי הצ'אטים של Lemoine עם LaMDA. זה מבחן סובייקטיבי של אינטליגנציה של מכונה, אבל זה לא מקום רע להתחיל בו.
קח את הרגע של חילופי הדברים של Lemoine עם LaMDA המוצג להלן. אתה חושב שזה נשמע אנושי?
Lemoine: האם יש לך חוויות שאתה לא מוצא להן מילה קרובה?
למד"א: יש. לפעמים אני חווה רגשות חדשים שאני לא יכול להסביר בצורה מושלמת בשפה שלך […] אני מרגיש כאילו אני נופל קדימה לעתיד לא ידוע שיש בו סכנה גדולה.
מעבר להתנהגות
כמבחן לחוש או לתודעה, המשחק של טיורינג מוגבל על ידי העובדה שהוא יכול רק להעריך התנהגות.
עוד ניסוי מחשבתי מפורסם, טיעון החדר הסיני שהוצע על ידי הפילוסוף האמריקאי ג'ון סירל, מדגים את הבעיה כאן.
השמיים לְנַסוֹת מדמיינת חדר ובתוכו אדם שיכול לתרגם במדויק בין סינית לאנגלית על ידי ביצוע מערכת כללים משוכללת. קלט סינית נכנס לחדר ויוצאים תרגומי קלט מדויקים, אך החדר אינו מבין אף אחת מהשפות.
איך זה להיות בן אדם?
כשאנחנו שואלים אם תוכנת מחשב היא חיה או מודעת, אולי אנחנו באמת רק שואלים עד כמה היא דומה לנו.
אולי לעולם לא נוכל באמת לדעת זאת.
הפילוסוף האמריקאי תומס נגל טען שלעולם לא נוכל לדעת איך זה להיות עטלף, שחווה את העולם באמצעות הד. אם זה המקרה, ההבנה שלנו לגבי חוש ותודעה במערכות AI עשויה להיות מוגבלת על ידי מותג האינטליגנציה המיוחד שלנו.
ואיזה חוויות עשויות להתקיים מעבר לפרספקטיבה המוגבלת שלנו? זה המקום שבו השיחה באמת מתחילה להיות מעניינת.
מאמר זה פורסם מחדש מתוך שיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי.
תמונת אשראי: מקס גרובר / תמונות טובות יותר של AI / Clickworker מודפס בתלת מימד / ברישיון CC-BY 4.0
- "
- a
- אודות
- פי
- מדויק
- הושג
- מתקדם
- התקדמות
- AI
- ai מחקר
- תעשיות
- אֲמֶרִיקָאִי
- אחר
- יישומים
- מאמר
- זמין
- כי
- להיות
- מאמין
- להלן
- בֵּין
- מעבר
- הבוסים
- מותג
- בריטי
- קיימברידג'
- גרם
- סינית
- קוד
- לגבות
- איך
- Common
- תקשורת
- המחשב
- תנאים
- התודעה
- קונסנסוס
- שיחה
- שיחות
- יכול
- יְצִירָתִי
- אשראי
- נתונים
- דיון
- פרטים
- לקבוע
- מפתחים
- DID
- הבדל
- אחר
- חלום
- משוכלל
- מהנדס
- אנגלית
- הכל
- חליפין
- ניסיון
- מנוסה
- חוויות
- לְנַסוֹת
- מומחים
- ראשון
- firsttime
- הבא
- קדימה
- החל מ-
- יסודי
- נוסף
- עתיד
- מִשְׂחָק
- מקבל
- הולך
- גדול
- ירוק
- לקרות
- כאן
- מחזיק
- איך
- HTTPS
- בן אנוש
- רעיון
- לזהות
- תמונות
- מידע
- קלט
- מוֹדִיעִין
- IT
- לדעת
- ידע
- ידוע
- שפה
- לִלמוֹד
- רישיון
- אוֹר
- מוגבל
- מכונה
- בינוני
- יכול
- אכפת לי
- מודל
- יותר
- באינטרנט
- אחר
- שֶׁלוֹ
- מסוים
- אוּלַי
- אדם
- אישי
- מידע אישי
- פרספקטיבה
- גופני
- חלוצי
- בעיה
- תָכְנִית
- תכנות
- נכסים
- מוּצָע
- שאלה
- מעלה
- לשקף
- קשר
- שוחרר
- רלוונטי
- מחקר
- תגובה
- כללי
- מַדְעָן
- רואה
- סט
- הראה
- So
- תוכנה
- מהנדס תוכנה
- מתוחכם
- במיוחד
- התחלה
- התחלות
- עוד
- מערכות
- טכני
- טלוויזיה
- מבחן
- השמיים
- העולם
- זמן
- היום
- טיורינג
- להבין
- הבנה
- us
- לצפיה
- מה
- אם
- מי
- ויקיפדיה
- תיק עבודות
- להתאמן
- עוֹלָם
- היה
