חברות טכנולוגיה חותמות על מכתב פתוח ונשבע להפחית את סיכוני הבינה המלאכותית

חברות טכנולוגיה חותמות על מכתב פתוח ונשבע להפחית את סיכוני הבינה המלאכותית

חותמת זמן: 7 במרץ 2024 8:00

מנהיגי טכנולוגיה, כולל סם אלטמן של OpenAI, מאחדים כוחות במכתב פתוח של רון קונווי כדי לתמוך בפיתוח AI אחראי, במטרה לאזן בין יתרונות וסיכונים חברתיים.

בניסיון האחרון של תעשיית הטכנולוגיה לתמוך בפיתוח אחראי של בינה מלאכותית, OpenAI, Salesforce Inc. וחברות טכנולוגיה אחרות חתמו על מכתב פתוח המדגיש "אחריות קולקטיבית" "למקסם את היתרונות של AI ולהפחית את הסיכונים" לחברה.

סיכונים הנשקפים מ-AI

מאז שחרורו של ChatGPT בשנה שעברה והפופולריות של מגזר הבינה המלאכותית, רבים בתעשייה דגלו במקביל את היתרונות של הטכנולוגיה והעלו חששות לגבי הסיכונים המשמעותיים שלה.

גם לקרוא: שופט ארה"ב אומר שהתיק X עלול לאבד דברי שנאה של אילון מאסק

מנהיגי בינה מלאכותית, כולל אלטמן, חתמו בחודש מאי על מכתב המזהיר כי בינה מלאכותית עלולה להוביל להכחדת האנושות. קבוצת המנהלים העסקיים הצהירה כי טכנולוגיית הבינה המלאכותית שהם מפתחים עלולה להיות יום אחד מסוכנת למין האנושי כמו נשק גרעיני ומגיפות.

על פי הצהרה על ידי המרכז לבטיחות בינה מלאכותית, "הפחתת סכנת ההכחדה מ-AI צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי, כמו מגפות ומלחמה גרעינית". למעלה מ-350 מנהלים, חוקרים ומהנדסים העובדים על AI חתמו על המכתב. בכירים בשלוש מחברות הבינה המלאכותית המובילות חתמו על העצומה: דריו אמודיי, מנכ"ל אנתרופיק; דמיס חסביס, מנכ"ל Google DeepMind; וסם אלטמן, מנכ"ל OpenAI.

החתומים על ההצהרה כללו חוקרים ידועים בתחום, ביניהם יושע בנג'יו וג'פרי הינטון, שניים משלושת החוקרים שזכו בפרס טיורינג על עבודתם על רשתות עצביות ולעתים קרובות מכונים "הסנדקים" של הבינה המלאכותית המודרנית. תְנוּעָה.

ההודעה פורסמה ברגע שבו התגברו החששות מהחסרונות האפשריים של הבינה המלאכותית. יש חששות שבינה מלאכותית (AI) עשויה לשמש בקרוב בקנה מידה גדול כדי להפיץ מידע ותעמולה כוזבים או שהיא עלולה להחליף מיליוני משרות צווארון לבן עקב ההתפתחויות האחרונות במה שמכונה מודלים של שפות גדולות, מהסוג של AI מערכת בשימוש על ידי ChatGPT וצ'אטבוטים אחרים.

חברות טכנולוגיה חותמות על מכתב פתוח ונשבעות להפחית את סיכוני הבינה המלאכותית של PlatoBlockchain מודיעין נתונים. חיפוש אנכי. איי.

מכתב ה-SV Angel

OpenAI המנכ"ל סם אלטמן הביע את התרגשותו מרוח המכתב בפוסט בפלטפורמת המדיה החברתית X. את המכתב יזמו איש ההון סיכון רון קונווי וחברתו, SV Angel.

לדברי אלטמן, "אחד הגורמים הגדולים ביותר לשיפור איכות החיים של אנשים" יהיה התקדמות ב-AI. כמו כן, המכתב ציינו את Hugging Face, Scale AI ועוד מספר רב של חברות סטארט-אפ וטכנולוגיה כחותמות.

ההשפעה של בינה מלאכותית מנוגדת לזו של התקדמות טכנולוגית אחרות כמו מכבש הדפוס, מנוע הבעירה, החשמל והאינטרנט במכתב SV Angel. כפי שנאמר במכתב, "מעשים והתחשבות אנושיים יעצבו את האיזון בין ההשפעות הטובות והרעות שלו על בני אדם". "כולנו חייבים לעבוד יחד כדי לקבל החלטות שייטיבו את יתרונות הבינה המלאכותית ויפחיתו את הסיכונים שלה, הן עבור הדורות הנוכחיים והן עבור הדורות הבאים." עם זאת, המכתב אינו מפרט כיצד לעשות זאת.

ימים לאחר מכן אילון מאסק תבע את OpenAI, מובילת שוק בבינה מלאכותית, בטענה שהסטארט-אפ הפר את ייעוד היסוד שלו על ידי מתן עדיפות לרווח על פני טובת האנושות, נשלח מכתב. OpenAI הביעה את עמדתה "לא מסכימה באופן מוחלט" עם התביעה של מאסק במזכר פנימי.

בול זמן:

עוד מ מטא ניוז