מפתח ChatGPT צופה בינה מלאכותית "סופר אינטליגנטית" שתגיע בעשור הזה | BitPinas

• OpenAI הודיעה באמצעות פוסט בבלוג שהיא עומדת להקים צוות "Superalignment", קבוצה שתפתח דרכים לשלוט במודיעין העל.
• אינטליגנציה על יכולה לפתח מיומנויות קוגניטיביות וחשיבה משלה, ובכך להיות בעלת פוטנציאל להיות הטכנולוגיה המשפיעה ביותר על האנושות, והיא עשויה לסייע בפתרון רבות מהבעיות החשובות בעולם.
• עבור OpenAI, לבני אדם אין פתרון להיגוי או שליטה ב-AI שעלול להיות סופר-אינטליגנט.

"למרות שמודיעין העל נראה רחוק כעת, אנו מאמינים שהוא יכול להגיע בעשור הזה."

זה הצהרה של OpenAI, המפתח מאחורי מודל השפה הפופולרי (LM) ChatGPT, כשהצוות הכריז על הקמת צוות שמטרתו לפתח דרכים לכוון ולשלוט במערכות AI "סופר אינטליגנטיות".

קרא מאמרים נוספים על AI ב-BitPinas.

מה זה Super Intelligence? 

AI SuperIntelligent נחשב לעתיד של AI, מכיוון שיש לו יכולות שעולות על האינטליגנציה האנושית. 

ביסודו של דבר, אינטליגנציה על יכולה לפתח מיומנויות קוגניטיביות וחשיבה משלה, ובכך להיות בעלת פוטנציאל להיות הטכנולוגיה המשפיעה ביותר על האנושות, והיא עשויה לסייע בפתרון רבות מהבעיות החשובות בעולם.

עם זאת, OpenAI הודתה, "הכוח העצום של אינטליגנציה העל עלול להיות גם מסוכן מאוד ועלול להוביל לביטול העצמה של האנושות או אפילו להכחדה אנושית."

ומה שמדאיג יותר הוא שהמפתח הודה שאין לבני אדם פתרון להיגוי או שליטה ב-AI שעלול להיות סופר-אינטליגנטית, ולמנוע ממנו להתבלבל.

"הטכניקות הנוכחיות שלנו ליישור בינה מלאכותית, כגון למידת חיזוק ממשוב אנושי, מסתמכות על היכולת של בני אדם לפקח על בינה מלאכותית. אבל בני אדם לא יוכלו לפקח בצורה מהימנה על מערכות בינה מלאכותיות הרבה יותר חכמות מאיתנו, ולכן טכניקות היישור הנוכחיות שלנו לא יתקרבו למודיעין על." OpenAI הדגיש.

(קרא עוד: המדריך האולטימטיבי למתחילים ל-ChatGPT: למד כיצד להשתמש ב-AI Chatbot ביעילות)

הפתרון של OpenAI

עבור OpenAI, הקהילה זקוקה לפריצות דרך מדעיות וטכניות חדשות.

בכך הודיע ​​היזם כי הוא יקים צוות "Superalignment", קבוצה שתכוון לפתח דרכים לשלוט במודיעין העל. צוות זה מובל על ידי איליה סוצקבר, המייסד והמדען הראשי של OpenAI, ויאן לייק, ראש צוות היישור של OpenAI, והם הקצו 20% מכוח המחשוב ש-OpenAI השיגה עד כה עבור המאמץ הזה.

"המטרה שלנו היא לבנות חוקר יישור אוטומטי ברמת האדם בערך. לאחר מכן נוכל להשתמש בכמויות עצומות של מחשוב כדי להרחיב את המאמצים שלנו, וליישר באופן איטרטיבי את מודיעין העל", הסביר היזם. 

יתר על כן, OpenAI חשפה כי היא מתכננת ליישר את חוקר היישור האוטומטי הראשון על ידי:

• שימוש במערכות AI כדי לסייע בהערכת מערכות AI אחרות כדי לספק אותות אימון למשימות שקשה לבני אדם להעריך.
• להבין כיצד הפיקוח מכליל משימות שהם לא יכולים לפקח עליהם,
• חקר התנהגויות בעייתיות או מצבים פנימיים כדי לאמת את היישור של המערכת שלהם.
• בדיקת כל הצינור על ידי אימון מכוון של מודלים לא מיושרים ולוודא שהטכניקות שלהם יכולות לזהות את הסוגים הגרועים ביותר של אי התאמה ביישור.

בהתאם לכך, OpenAI גם הודיעה שהיא מחפשת חוקרים ומהנדסים חדשים מצטיינים שיצטרפו למאמץ האמור, ככל הנראה כאלו שהתנסו בלמידת מכונה.

"יישור מודיעין-על הוא ביסודו בעיית למידת מכונה, ואנו חושבים שמומחי למידת מכונה גדולים - גם אם הם עדיין לא עובדים על יישור - יהיו קריטיים כדי לפתור אותה." סיכם מפתח ChatGPT. 

(קרא עוד: 10 משרות בינה מלאכותית בעלות השכר הגבוה ביותר: מדריך מקיף)

השיקולים האתיים של ChatGPT

במאמרים האחרונים שלנו בינה מלאכותית, התייחסנו מספר פעמים לכך ש-ChatGPT וכלי בינה מלאכותית אחרים קיבלו תגובה נגדית לאחרונה כשהם מעלים בעיות אתיות. עבור חלקם, הכלים האלה יכולים לשמש למידע שגוי, הפרות של פרטיות הנתונים ואפילו הפצת שנאה. 

למעשה, רק בחודש שעבר, OpenAI השביתה זמנית את התכונה "חיפוש עם Bing" לאחר שקיבלה דיווחים על כך שהפיצ'ר משמש כדי לקבל מידע מאתרים הדורשים תשלום כדי לגשת.

רק תארו לעצמכם, אם כלי הבינה המלאכותית האלה כבר מבצעים שגיאות, כמה עוד עושה האינטליגנציה הבלתי מבוקרת?

מאמר זה מתפרסם ב- BitPinas: מפתח ChatGPT צופה בינה מלאכותית "סופר אינטליגנטית" שתגיע בעשור הזה

כתב ויתור: מאמרי BitPinas והתכנים החיצוניים שלו אינם ייעוץ פיננסי. הצוות משמש לספק חדשות עצמאיות ובלתי משוחדות כדי לספק מידע עבור קריפטו פיליפיני ומעבר לו.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
• מקור: https://bitpinas.com/ai/superintelligent-ai-will-arrive/