יוצר Ethereum Vitalik Buterin: אם בינה מלאכותית תפעיל אותנו 'אפילו מאדים עלול לא להיות בטוח' - פענוח

ביום שני, יוצר ה-Ethereum, Vitalik Buterin, הרהר על התפיסה שלו על "טכנו-אופטימיות," בהשראת מארק אנדריסן, שחוות דעת על AI בדרכו מניפסט טכנו-אופטימיסט באוקטובר. בעוד בוטרין הסכימה עם השקפתו החיובית של אנדריסן, בוטרין גם ציין את החשיבות של אופן פיתוח הבינה המלאכותית והכיוון העתידי של הטכנולוגיה.

בוטרין הכיר בסיכון הקיומי של בינה מלאכותית, כולל גרימת הכחדה של המין האנושי.

"זו טענה קיצונית: ככל הנזק הגרוע ביותר של שינויי אקלים, או מגיפה מלאכותית או מלחמה גרעינית, עלול לגרום, ישנם איים רבים של ציוויליזציה שיישארו שלמים כדי לאסוף את השברים", הוא אמר.

"אבל בינה מלאכותית סופר-אינטליגנטית, אם תחליט לפנות נגדנו, עשויה בהחלט לא להשאיר ניצולים ולסיים את האנושות לתמיד", אמר בוטרין. "אפילו מאדים אולי לא בטוח."

בוטרין הצביע על 2022 סקר מאת AI Impacts, שאמר שבין 5% ל-10% מהמשתתפים מאמינים שבני אדם עומדים בפני הכחדה מ-AI או מכישלון של בני אדם לשלוט בבינה מלאכותית, בהתאמה. הוא אמר שתנועת קוד פתוח ממוקדת אבטחה היא אידיאלית להובלת פיתוח בינה מלאכותית ולא תאגידים סגורים וקנייניים וקרנות הון סיכון.

"אם אנחנו רוצים עתיד שהוא גם סופר אינטליגנטי וגם "אנושי - כזה שבו בני אדם הם לא רק חיות מחמד, אלא ממש שומרים על עצמאות משמעותית ברחבי העולם - אז זה מרגיש שמשהו כזה הוא האופציה הכי טבעית", אמר.

מה שצריך, המשיך בוטרין, הוא הכוונה האנושית הפעילה לבחור את הכיוון ואת התוצאה שלה. "הנוסחה של 'מקסם רווח' לא תגיע אליהם אוטומטית", אמר.

בוטרין אמר שהוא אוהב טכנולוגיה מכיוון שהיא מרחיבה את הפוטנציאל האנושי, והצביע על ההיסטוריה של החידושים מכלים ידניים ועד לסמארטפונים.

"אני מאמין שהדברים האלה טובים מאוד, ושהרחבת טווח ההגעה של האנושות עוד יותר לכוכבי הלכת והכוכבים היא טובה מאוד, כי אני מאמין שהאנושות טובה מאוד", אמר בוטרין.

בוטרין אמר שלמרות שהוא מאמין שטכנולוגיה טרנספורמטיבית תוביל לעתיד מזהיר יותר לאנושות, הוא דוחה את התפיסה שהעולם צריך להישאר כמו שהוא היום, רק עם פחות חמדנות ויותר שירותי בריאות ציבוריים.

"ישנם סוגים מסוימים של טכנולוגיה שהופכים את העולם בצורה מהימנה הרבה יותר לטוב יותר מסוגים אחרים של טכנולוגיה", אמר בוטרין. "ישנם סוגים מסוימים של טכנולוגיה שיכולים, אם יתפתחו, למתן את ההשפעות השליליות של סוגי טכנולוגיה אחרים."

בוטרין הזהיר מפני עלייה בסמכותיות דיגיטלית וטכנולוגיית מעקב בשימוש נגד אלה שמתריסים או מתנגדים נגד הממשלה, הנשלטת על ידי חבורה קטנה של טכנוקרטים. הוא אמר שרוב האנשים מעדיפים לראות AI מתקדם מאוד מתעכב בעשור במקום להיות מונופול על ידי קבוצה אחת.

"החשש הבסיסי שלי הוא שאותם סוגים של טכנולוגיות ניהוליות המאפשרות ל-OpenAI לשרת יותר ממאה מיליון לקוחות עם 500 עובדים יאפשרו גם לאליטה פוליטית של 500 איש, או אפילו דירקטוריון של 5 אנשים, לשמור על יד ברזל מעל כל המדינה", אמר.

בעוד בוטרין אמר שהוא סימפטי לתנועת האצה האפקטיבית (המכונה גם "e/acc"), יש לו רגשות מעורבים לגבי ההתלהבות שלה מטכנולוגיה צבאית.

"נראה שההתלהבות מטכנולוגיה צבאית מודרנית ככוח לטוב מחייבת אמונה שהכוח הטכנולוגי הדומיננטי יהיה מהימן אחד מהחבר'ה הטובים ברוב הסכסוכים, עכשיו ובעתיד", אמר, תוך שהוא מציין את הרעיון שטכנולוגיה צבאית היא טובה. כי זה נבנה ונשלט על ידי אמריקה ואמריקה היא טובה.

"האם להיות e/acc מחייב להיות מקסימליסט אמריקאי, להמר הכל הן על המוסר הנוכחי והעתיד של הממשלה ועל הצלחתה העתידית של המדינה?" הוא אמר.

בוטרין הזהיר ממתן "כוח קיצוני ואטום" לקבוצה קטנה של אנשים בתקווה שישתמשו בו בחוכמה, והעדיף במקום פילוסופיה של "d/acc" - או הגנה, ביזור, דמוקרטיה ודיפרנציאל. הלך הרוח הזה, הוא אמר, יכול להסתגל לאלטרואיסטים יעילים, ליברטריאנים, פלורליסטים, תומכי בלוקצ'יין ופאנקיסטים סולאריים וירחיים.

"עולם המעדיף הגנה הוא עולם טוב יותר, מסיבות רבות", אמר בוטרין. "ראשית כמובן היא היתרון הישיר של בטיחות: פחות אנשים מתים, פחות ערך כלכלי נהרס, פחות זמן מבוזבז על סכסוך.

"מה שפחות מוערך הוא שעולם המעדיף הגנה מקל על צורות ממשל בריאות יותר, פתוחות יותר ומכבדות יותר חופש לשגשג", סיכם.

בעוד שהוא הדגיש את הצורך לבנות ולהאיץ, אמר בוטרין שהחברה צריכה לשאול באופן קבוע לקראת מה אנחנו מאיצים. בוטרין הציע שהמאה ה-21 עשויה להיות "המאה המרכזית" עבור האנושות שיכולה להכריע את גורלה של האנושות במשך אלפי שנים.

"אלה בעיות מאתגרות", אמר בוטרין. "אבל אני מצפה לצפות ולהשתתף במאמץ הקולקטיבי הגדול של המין שלנו למצוא את התשובות."

נערך על ידי ריאן אוזאווה.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://decrypt.co/207692/ai-turns-mars-not-safe-ethereum-creator-vitalik-buterin