לטיוטת תקנות חוק AI של האיחוד האירופי עשויה להיות השפעה מצמררת על תוכנת קוד פתוח

בקיצור כללים חדשים שנוסח על ידי האיחוד האירופי שמטרתם להסדיר בינה מלאכותית עלולים למנוע ממפתחים לשחרר מודלים של קוד פתוח, על פי טנק החשיבה האמריקאי ברוקינגס.

השמיים מוּצָע חוק הבינה המלאכותית של האיחוד האירופי, שטרם נחתם בחוק, קובע שמפתחי קוד פתוח חייבים להבטיח שתוכנת הבינה המלאכותית שלהם מדויקת, מאובטחת, ושקופות לגבי סיכונים ושימוש בנתונים בתיעוד טכני ברור. 

ברוקינגס טוען שאם חברה פרטית הייתה פורסת את המודל הציבורי או משתמשת בו במוצר, והיא איכשהו מסתבכת בגלל השפעות בלתי צפויות או בלתי נשלטות מהמודל, החברה כנראה תנסה להאשים את מפתחי הקוד הפתוח ולתבוע אותם . 

זה עשוי לאלץ את קהילת הקוד הפתוח לחשוב פעמיים על שחרור הקוד שלה, ולמרבה הצער, פירוש הדבר שפיתוח הבינה המלאכותית יהיה מונע על ידי חברות פרטיות. קשה לנתח ולהתבסס על קוד קנייני, כלומר החדשנות תיפגע.

אורן עציוני, המנכ"ל היוצא של מכון אלן לבינה מלאכותית, סבור שמפתחי קוד פתוח לא צריכים להיות כפופים לאותם כללים מחמירים כמו מהנדסי תוכנה בחברות פרטיות.

"מפתחי קוד פתוח לא צריכים להיות נתונים לאותו נטל כמו אלה שמפתחים תוכנה מסחרית. זה תמיד צריך להיות המקרה שניתן לספק תוכנה חופשית 'כמות שהיא' - שקול את המקרה של תלמיד יחיד שמפתח יכולת בינה מלאכותית; הם לא יכולים להרשות לעצמם לציית לתקנות האיחוד האירופי ועשויים להיאלץ לא להפיץ את התוכנה שלהם, ובכך יש להם השפעה מצמררת על ההתקדמות האקדמית ועל יכולת השחזור של תוצאות מדעיות", הוא אמר לי TechCrunch.

תוצאות MLPerf חדשות להסקת מסקנות יצאו

התוצאות של מבחן ההסקה השנתי של MLPerf, המבחן את הביצועים של שבבי AI מספקים שונים על פני משימות רבות בתצורות שונות לאור השבוע.

כמעט 5,300 תוצאות ביצועים עצומות ו-2,400 מדדי עוצמה דווחו השנה על מסקנות במרכז הנתונים ובמכשירי קצה. המבחנים בודקים כמה מהר מערכת חומרה מסוגלת להריץ מודל למידת מכונה מסוים. קצב מחיקת הנתונים מדווח בגיליונות אלקטרוניים.

זה לא מפתיע ש-Nvidia שוב בראש הדירוג השנה. "בהופעת הבכורה שלהם על מדדי הבינה המלאכותית הסטנדרטית בתעשייה של MLPerf, מכשירי GPU של Nvidia H100 Tensor Core קבעו שיאי עולם בהסקה על כל עומסי העבודה, ומספקים עד פי 4.5 יותר ביצועים מאשר מעבדי GPU מהדור הקודם", פרסמה Nvidia בפוסט בבלוג. "התוצאות מראות שהופר הוא הבחירה הפרימיום עבור משתמשים שדורשים ביצועים מרביים בדגמי AI מתקדמים."

למרות שמספר הולך וגדל של ספקים לוקחים חלק באתגר MLPerf, זה יכול להיות קשה לקבל מושג טוב על התחרות. אין תוצאות מדווחות עבור שבבי ה-TPU של גוגל במסלול מרכז הנתונים השנה, למשל. עם זאת, נראה שגוגל כן אס תחרות האימונים של MLPerf מוקדם יותר השנה. 

אמני בינה מלאכותית מגלים פנים מחרידות שאורבות מאחורי התמונה

שרשור טוויטר ויראלי שפרסם אמן דיגיטלי חושף עד כמה מוזרים יכולים להיות מודלים של טקסט לתמונה מתחת לפני השטח.

גולשים רבים ברשת מצאו שמחה וייאוש בניסויים במערכות אלו כדי ליצור תמונות על ידי הקלדת הנחיות טקסט. יש מיני פריצות כדי להתאים את תפוקות הדגמים; אחד מהם, המכונה "הנחיה שלילית, מאפשר למשתמשים למצוא את התמונה ההפוכה לזו המתוארת בהנחיה. 

כשאמן, העונה לשם Supercomposite בטוויטר, מצא את ההנחיה השלילית למה שתיאר תמונה תמימה למראה של לוגו מזויף, הם מצאו משהו מזעזע באמת: הפנים של מה שנראה כמו אישה רדופה. Supercomposite קראה לאישה שנוצרה בינה מלאכותית "לוב" וכשהצלבו תמונות שלה עם תמונות אחרות, הן תמיד נראו כמו סצנה מסרט אימה.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Supercomposite סיפר אל רג תמונות אקראיות של אנשים שנוצרו בינה מלאכותית יכולות להופיע לעתים קרובות בהנחיות שליליות. ההתנהגות המוזרה עדיין דוגמה אחרת של כמה מהמאפיינים המוזרים שיכולים להיות למודלים האלה שאנשים רק מתחילים לחקור. 

אין צ'אטבוטים רגישים כאן בגוגל אומר המנכ"ל סונדאר פיצ'אי

סונדאר פיצ'אי סתר את טענותיו של המהנדס לשעבר, בלייק למויין, לפיהן גוגל בנתה צ'אט בוט חיוני במהלך הרצאתו בוועידת הקוד השבוע.

Lemoine עלה לכותרות ביולי כאשר הוא הודיע הוא חשב שהצ'אטבוט LaMDA של גוגל היה מודע ואולי יש לו נשמה. הוא היה מאוחר יותר מפוטר על הפרת מדיניות הפרטיות של החברה לאחר ששכר עורך דין לשוחח עם LaMDA ולהעריך את זכויותיה המשפטיות, בטענה שהמכונה אמרה לו לעשות זאת.

רוב האנשים - כולל המנכ"ל של גוגל - לא מסכימים עם Lemoine. "אני עדיין חושב שיש עוד דרך ארוכה לעבור. אני מרגיש שאני נכנס לשיחות פילוסופיות או מטאפיזיות לעתים קרובות על מהי תחושה ומהי תודעה", אמר פיצ'אי. פי אל Fortune. "אנחנו רחוקים מזה, ואולי לעולם לא נגיע לשם", הוסיף.

כדי להדגיש עוד יותר את דבריו, הוא הודה שהעוזר הקולי של AI של גוגל לפעמים לא מצליח להבין ולהגיב כראוי לבקשות. "החדשות הטובות הן שכל מי שמדבר עם Google Assistant - למרות שאני חושב שזה העוזר הטוב ביותר עבור AI לשיחה - אתה עדיין רואה כמה הוא שבור במקרים מסוימים", אמר. ®