עורכי דין שהגישו מסמכי בית משפט המצטטים מקרים שהומצאו לחלוטין על ידי ChatGPT של OpenAI, ספגו סטירה רשמית על ידי שופט בניו יורק.
השופט קווין קסטל הוציא ביום חמישי הודעה דעה וסדר על סנקציות [PDF] שמצא כי פיטר לודוקה, סטיבן א. שוורץ ומשרד עורכי הדין Levidow, Levidow & Oberman PC "נטשו את האחריות שלהם כאשר הגישו חוות דעת שיפוטיות לא קיימות עם ציטוטים וציטוטים מזויפים שנוצרו על ידי כלי הבינה המלאכותית ChatGPT, לאחר מכן המשיך לעמוד לצד הדעות המזויפות לאחר שצוים שיפוטיים הטילו ספק בקיומה".
כן, הבנתם את זה: עורכי הדין ביקשו מ-ChatGPT דוגמאות למקרים קודמים שייכללו בתיקים המשפטיים שלהם, הבוט רק המציא כמה הליכים קודמים, ועורכי הדין חילצו את אלה כדי לעזור להעלות את הטיעון שלהם והגישו הכל כרגיל. זה לא הולך לעוף.
נבנה על ידי OpenAI, ChatGPT הוא מודל שפה גדול המחובר לממשק צ'אט המגיב להנחיות טקסט ולשאלות. הוא נוצר באמצעות תהליך הכשרה הכולל ניתוח כמויות אדירות של טקסט וזיהוי דפוסים סבירים סטטיסטית. לאחר מכן הוא יגיב לקלט עם דפוסי פלט סבירים, שלעתים קרובות הגיוניים מכיוון שהם דומים לטקסט אימון מוכר. אבל ChatGPT, כמו מודלים גדולים אחרים של שפות, ידוע בהזיות - לציין דברים שאינם נכונים. ברור שלא כולם קיבלו את התזכיר על כך.
האם זה רגע טוב להעלות על כך שמיקרוסופט משווקת בכבדות את משפחת הבוטים GPT של OpenAI, דוחפים אותם עמוק לתוך אימפריית הענן והחלונות שלה, ו לשחרר אותם על הנתונים הארגוניים של אנשים? אותם מודלים שמדמיינים תביעות ו הספדים, והיו מְתוּאָר כ"מוגבל להפליא" על ידי יוצר התוכנה? ה-ChatGPT הזה?
ציר זמן
בסוף מאי, השופט קסטל אתגר את עורכי הדין המייצגים את התובע רוברטו מאטה, נוסע שנפצע בטיסת חברת התעופה אוויאנקה ב-2019, להסביר את עצמם כאשר עורכי הדין של חברת התעופה הציעו את היועץ המתנגד. ציטט פסקי דין מופלאים.
לא רק ש-ChatGPT המציא מקרים מזויפים שמעולם לא היו קיימים, כגון "Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2009)," אבל, כפי שאמר שוורץ לשופט בהצהרה שלו מ-6 ביוני, מודל הבינה המלאכותית הפטפטנית שיקר גם כשנשאל לגבי אמיתות הציטוט שלו, ואמר שהתיק "אכן קיים" והתעקש שניתן למצוא את התיק ב-Westlaw ו-LexisNexis, למרות טענות הפוכות של בית המשפט והסנגור.
עורכי הדין בסופו של דבר התנצלו, אך השופט מצא שהחרטה שלהם לא משכנעת משום שלא הודו בטעותם כשהנושא הועלה לראשונה על ידי ההגנה ב-15 במרץ 2023. במקום זאת, הם המתינו עד 25 במאי 2023, לאחר שבית המשפט פרסם הודעה צו להראות סיבה, כדי להכיר במה שקרה.
"נזקים רבים נובעים מהגשת חוות דעת מזויפות", כתב השופט קסטל בצו העיצומים שלו.
"הצד שכנגד מבזבז זמן וכסף בחשיפת ההטעיה. זמנו של בית המשפט נלקח ממאמצים חשובים אחרים. ניתן למנוע מהלקוח טיעונים המבוססים על תקדימים שיפוטיים אותנטיים. קיימת פגיעה אפשרית במוניטין של שופטים ובתי משפט ששמותיהם מוזכרים באופן כוזב כמחברי הדעות המזויפות ובמוניטין של צד המיוחס להתנהגות בדיונית. זה מקדם ציניות לגבי מקצוע עריכת הדין ומערכת המשפט האמריקאית. ובעל דין עתידי עלול להתפתות להתריס נגד פסיקה שיפוטית על ידי טענה בלתי הוגנת של ספק לגבי האותנטיות שלו".
בעל דין עתידי עלול להתפתות להתריס נגד פסיקה שיפוטית על ידי טענה בלתי הוגנת של ספק לגבי האותנטיות שלו
כדי להעניש את עורכי הדין, השופט הורה לכל אחד לשלם קנס של 5,000 דולר לבית המשפט, להודיע ללקוחו ולהודיע לכל שופט אמיתי שזוהה באופן כוזב כמחבר התיקים המזויפים שצוטטו.
במקביל, השופט מְפוּטָר [PDF] תביעת הפגיעה של התובע רוברטו מאטה נגד אוויאנקה משום שחלפו יותר משנתיים בין הפגיעה לתביעה, מגבלת זמן שנקבעה על ידי ועידת מונטריאול.
"הלקח כאן הוא שאתה לא יכול להאציל למכונה את הדברים שעליהם אחראי עורך דין", אמר סטיבן וו, בעל מניות ב- Silicon Valley Law Group ויו"ר לשכת עורכי הדין האמריקאית. המכון הלאומי לבינה מלאכותית ורובוטיקה, בראיון טלפוני עם הקופה.
וו אמר כי השופט קסטל הבהיר לטכנולוגיה תפקיד במקצוע עריכת הדין כשכתב, "אין שום דבר פסול מטבעו בשימוש בכלי בינה מלאכותית אמין לסיוע".
אבל התפקיד הזה, אמר וו, כפוף בהכרח לאנשי מקצוע משפטיים מאז כלל 11 של הכללים הפדרליים של סדר הדין האזרחי מחייב עורכי דין לקחת אחריות על מידע המוגש לבית המשפט.
"כעורכי דין, אם אנחנו רוצים להשתמש בבינה מלאכותית כדי לעזור לנו לכתוב דברים, אנחנו צריכים משהו שעבר הכשרה בחומרים משפטיים ונבדק בקפדנות", אמר וו. "עורך הדין תמיד נושא באחריות לתוצר העבודה. אתה צריך לבדוק את המקורות שלך".
צו השופט כולל, כמוצג, את הטקסט של תיק ורגזה שהומצא על גבי סימן מים שאומר, "אין לצטט או לצטט כרשות משפטית."
עם זאת, מודלים עתידיים של שפות גדולות שאומנו על אזכורים חוזרים בתקשורת של המקרה הפיקטיבי עשויים להשאיר את השקר בחיים עוד קצת. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/
- :יש ל
- :הוא
- :לֹא
- ][עמ'
- $ למעלה
- 000
- 15%
- 2019
- 2023
- 25
- 3d
- 7
- a
- אודות
- הודה
- לְהוֹדוֹת
- לאחר
- נגד
- AI
- חברת תעופה
- חברות תעופה
- תעשיות
- גם
- תמיד
- אֲמֶרִיקָאִי
- כמויות
- an
- ניתוח
- ו
- ARE
- טענה
- טיעונים
- מלאכותי
- בינה מלאכותית
- AS
- סיוע
- עמותה
- אוֹתֶנְטִי
- אותנטיות
- מחבר
- סמכות
- מחברים
- בָּר
- מבוסס
- BE
- דובים
- כי
- היה
- בֵּין
- קצת
- בוט
- בוטים
- להביא
- אבל
- by
- נקרא
- CAN
- מקרה
- מקרים
- כִּסֵא
- תיגר
- ChatGPT
- לבדוק
- סין
- מצוטט
- לטעון
- תביעה
- ברור
- קליק
- לקוחות
- ענן
- CO
- לחלוטין
- לנהל
- נמשך
- להפך
- קורנל
- משותף
- עֵצָה
- בית דין
- בתי משפט
- נוצר
- יוצר
- נתונים
- עמוק
- גופי בטחון
- למרות
- DID
- do
- מסמכים
- עושה
- ספק
- מטה
- כל אחד
- אימפריה
- מאמצים
- בסופו של דבר
- כולם
- דוגמאות
- תערוכה
- להתקיים
- קיים
- להסביר
- נכשל
- מְזוּיָף
- מוכר
- משפחה
- פדרלי
- בִּדְיוֹנִי
- תלונות
- סוף
- פירמה
- טיסה
- תזרים
- בעד
- רשמית
- מצא
- החל מ-
- עתיד
- הולך
- טוב
- קְבוּצָה
- היה
- קרה
- לפגוע
- ניזקים
- יש
- he
- בִּכְבֵדוּת
- לעזור
- כאן
- שֶׁלוֹ
- HTTPS
- מזוהה
- if
- תמונה
- חשוב
- in
- לכלול
- כולל
- בצורה מדהימה
- מידע
- מטבע הדברים
- בהתחלה
- קלט
- במקום
- מוֹדִיעִין
- מִמְשָׁק
- ראיון אישי
- אל תוך
- בדוי
- הופעל
- סוגיה
- הפיקו
- IT
- שֶׁלָה
- jpg
- שופט
- משפט
- יוני
- רק
- שמור
- ידוע
- שפה
- גָדוֹל
- מְאוּחָר
- חוק
- משרד עורכי דין
- תביעה משפטית
- תביעות
- עורך דין
- עורכי דין
- משפטי
- לקח
- LexisNexis
- כמו
- סביר
- להגביל
- מוגבל
- עוד
- בע"מ
- מכונה
- עשוי
- לעשות
- רב
- צעדה
- שיווק
- מסיבי
- מאטה
- חומרים
- מאי..
- מדיה
- תזכיר
- אזכורים
- מיקרוסופט
- טעות
- מודל
- מודלים
- רֶגַע
- כסף
- יותר
- צריך
- שמות
- לאומי
- בהכרח
- צורך
- לעולם לא
- חדש
- ניו יורק
- שופט בניו יורק
- שום דבר
- of
- לעתים קרובות
- on
- רק
- OpenAI
- דעות
- or
- להזמין
- הזמנות
- אחר
- הַחוּצָה
- תפוקה
- צד
- עבר
- עבר
- דפוסי
- תשלום
- אֲנָשִׁים
- פיטר
- טלפון
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- פוטנציאל
- קודם
- הליך
- הליכים
- תהליך
- המוצר
- מקצוע
- אנשי מקצוע
- מקדם
- שאלה
- שאלה
- שאלות
- לצטט
- ציטוטים
- מורם
- ממשי
- אָמִין
- חזר
- המייצג
- מוניטין
- דורש
- להגיב
- אחריות
- אחריות
- אחראי
- תקין
- רובוטיקה
- תפקיד
- כללי
- פסק דין
- s
- אמר
- אותו
- סנקציות
- אמר
- אומר
- תחושה
- סט
- בעל מניות
- לְהַצִיג
- סיליקון
- עמק הסיליקון
- since
- תוכנה
- כמה
- משהו
- מקורות
- דרומי
- לעמוד
- מדינה
- סטיבן
- סטיבן
- כְּנִיעָה
- הוגש
- כזה
- מערכת
- לקחת
- משימות
- טכנולוגיה
- נבדק
- מֵאֲשֶׁר
- זֶה
- השמיים
- החוק
- שֶׁלָהֶם
- אותם
- עצמם
- אז
- שם.
- הֵם
- דברים
- זֶה
- אלה
- דרך
- יום חמישי
- זמן
- ל
- כלי
- מְאוּמָן
- הדרכה
- נָכוֹן
- שתיים
- עד
- us
- להשתמש
- באמצעות
- עֶמֶק
- רוצה
- היה
- we
- היו
- מה
- מתי
- אשר
- מי
- של מי
- יצטרך
- חלונות
- עם
- תיק עבודות
- לכתוב
- wu
- שנים
- york
- אתה
- זפירנט