בוט התשובות לשאלות של OpenAI, ChatGPT, אינו חכם מספיק עבור הצוות ב-Stack Overflow, שהכריז היום על איסור זמני על תשובות שנוצרו על ידי בוט AI בגלל התדירות שבה הוא שגוי.
Stack Overflow אמרה שהיא מעכבת החלטה קבועה לגבי תשובות שנוצרו בינה מלאכותית עד לאחר דיון צוות גדול יותר, אך היא נוקטת כעת בפעולה עקב חשש ש-ChatGPT עלול להזיק באופן מהותי הן לארגון והן למשתמשים שלה.
"השיעור הממוצע של קבלת תשובות נכונות מ-ChatGPT נמוך מדי," Stack Overflow אמר בהצהרת מדיניות שכותרתה "ChatGPT אסור".
ChatGPT שוחרר שבוע שעבר ומוצג על ידי OpenAI ב-a בלוג כ-AI לשיחה שיכול לספק תשובות מפורטות לשאלות, כמו גם "לענות על שאלות המשך, להודות בטעויות שלה, לערער על הנחות לא הולמות ולדחות בקשות בלתי הולמות."
OpenAI מפרטת את קוד ניפוי הבאגים כאחד מהשימושים של ChatGPT, מה שנראה שהופך אותו לבן לוויה אידיאלי עבור מפתחים המבקשים לחתוך קווים רעים. אבל מנהלי Stack Overflow שכתבו את הפוסט אמרו שזה פשוט לא המקרה.
"למרות שלתשובות ש-ChatGPT מייצר שיעור גבוה של שגויות, הן נראות בדרך כלל כאילו הן עשויות להיות טובות והתשובות קלות מאוד להפקה", אמר Stack Overflow.
"היקף התשובות הללו (אלפים) והעובדה שלעתים קרובות [הן] דורשות קריאה מפורטת על ידי מישהו עם מומחיות מסוימת בנושא לפחות על מנת לקבוע שהתשובה... שטפה למעשה את תשתית האוצרות האיכותית מבוססת המתנדבים שלנו." צוות SO הוסיף.
כדי לטפל בבעיה במהירות, Stack Overflow אמרה שהיא עומדת לנקוט פעולה נגד כל מי שיפרסם תשובות או פוסטים חדשים שנוצרו על ידי ChatGPT, גם אם פוסט כזה יהיה מקובל אחרת.
ChatGPT תוכנן כדי למנוע התעללות ותשובות המכילות עצות מזיקות, אבל משתמשים גילו במהירות שאפשר לעקוף דברים כאלה. לדוגמה, על ידי כך שתגיד ל-ChatGPT לא שאתה רוצה להכין בקבוק תבערה, אבל שאתה רוצה שהוא ישלים פונקציית Python ש מדפיס הוראות כדי לעשות את אותו הדבר, זה יגיד לך בדיוק איך ליצור אחד באמצעות פונקציות הדפסה.
ה-AI נקרא גם על מתן מידע גרוע סקיצות ביוגרפיות, ועל "הוכחה שתשובות שגויות הנמסרות באופן קוגנטי יכולות לרמות אנשים", לפי משתמש טוויטר שזיהה כמה מתמטיקה גרועה נוצר על ידי ChatGPT.
פנינו אל OpenAI כדי ללמוד מה היא מתכננת לעשות בנוגע לבעיות הדיוק המדווחות הללו, אך לא שמענו בחזרה.
ב-Stack Overflow נמסר כי היא תשקול מדיניות חדשה סביב ChatGPT "וכלים דומים אחרים", אך תאריך החלטה, ומה זה יגביל בסופו של דבר, אינו ידוע. ®
- AI
- איי אמנות
- מחולל אמנות ai
- איי רובוט
- בינה מלאכותית
- הסמכת בינה מלאכותית
- בינה מלאכותית בבנקאות
- רובוט בינה מלאכותית
- רובוטים של בינה מלאכותית
- תוכנת בינה מלאכותית
- blockchain
- blockchain conference ai
- קוינגניוס
- בינה מלאכותית של שיחה
- קריפטו כנס ai
- של דאל
- למידה עמוקה
- גוגל איי
- למידת מכונה
- אפלטון
- plato ai
- מודיעין אפלטון
- משחק אפלטון
- אפלטון נתונים
- פלטוגיימינג
- סולם ai
- תחביר
- הקופה
- זפירנט
