אם ג'ו ביידן רוצה צ'טבוט AI חכם ועממי שיענה עבורו על שאלות, צוות הקמפיין שלו לא יוכל להשתמש בקלוד, המתחרה ChatGPT מאנתרופיק, כך הודיעה החברה היום.
"אנחנו לא מאפשרים למועמדים להשתמש בקלוד כדי לבנות צ'אטבוטים שיכולים להעמיד פנים שהם הם, ואנחנו לא מאפשרים לאף אחד להשתמש בקלוד לקמפיינים פוליטיים ממוקדים", החברה הודיע. הפרות של מדיניות זו יתקבלו באזהרות ובסופו של דבר השעיית הגישה לשירותים של Anthropic.
הניסוח הציבורי של אנתרופיק את מדיניות "השימוש לרעה בבחירות" שלה מגיע מכיוון שהפוטנציאל של AI ליצור המוני מידע, תמונות וסרטונים כוזבים ומטעים הוא הפעלת פעמוני אזעקה ברחבי העולם.
כללים מיושמים מטה rהגבלת השימוש בכלי הבינה המלאכותית שלה בפוליטיקה בסתיו שעבר, ול-OpenAI יש מדיניות דומה.
אנתרופיק אמרה שההגנות הפוליטיות שלה מתחלקות לשלוש קטגוריות עיקריות: פיתוח ואכיפת מדיניות הקשורה לנושאי בחירות, הערכה ובדיקה של מודלים מפני שימוש לרעה פוטנציאלי, והפניית משתמשים למידע מדויק לגבי הצבעה.
של אנתרופי מדיניות שימוש מקובל- שלכאורה כל המשתמשים מסכימים לו לפני הגישה לקלוד - מונע את השימוש בכלי הבינה המלאכותית שלו למאמצי קמפיין פוליטי ולובי. החברה אמרה שיהיו אזהרות והשעיות שירות למפרים, עם תהליך בדיקה אנושי במקום.
החברה גם מבצעת "צוות אדום" קפדני של המערכות שלה: ניסיונות אגרסיביים ומתואמים של שותפים ידועים "לפרוץ כלא" או להשתמש אחרת בקלוד למטרות מרושעות.
"אנחנו בודקים כיצד המערכת שלנו מגיבה להנחיות שמפרות את מדיניות השימוש המקובלת שלנו, [למשל] הנחיות המבקשות מידע על טקטיקות לדיכוי בוחרים", מסביר אנתרופיק. בנוסף, החברה אמרה שהיא פיתחה חבילת מבחנים כדי להבטיח "שוויון פוליטי" - ייצוג השוואתי בין מועמדים ונושאים.
בארצות הברית, אנתרופי שיתף פעולה עם TurboVote לעזור לבוחרים עם מידע אמין במקום להשתמש בכלי הבינה המלאכותית הגנרטיבית שלו.
"אם משתמש בארה"ב יבקש מידע הצבעה, חלון קופץ יציע למשתמש אפשרות להפנות אותו ל-TurboVote, משאב של הארגון הלא מפלגתי Democracy Works", הסביר אנתרופיק, פתרון שייפרס "על בשבועות הקרובים" - עם תוכניות להוסיף צעדים דומים במדינות אחרות הבאות.
As פענוח שדווח בעבר, OpenAI, החברה שמאחורי ChatGPT נוקטת בצעדים דומים, ומפנה משתמשים לאתר הלא מפלגתי CanIVote.org.
המאמצים של אנתרופיק עולים בקנה אחד עם תנועה רחבה יותר בתעשיית הטכנולוגיה כדי להתמודד עם האתגרים שבינה מלאכותית מציבה בפני תהליכים דמוקרטיים. לדוגמה, נציבות התקשורת הפדרלית של ארה"ב אסרה לאחרונה את השימוש בבינה מלאכותית שנוצרה קולות מזויפים עמוקים בשיחות רובו, החלטה שמדגישה את הדחיפות בהסדרת היישום של AI בתחום הפוליטי.
כמו פייסבוק, גם למיקרוסופט יש הכריז על יוזמות כדי להילחם במודעות פוליטיות מטעות שנוצרו בינה מלאכותית, הצגת "אישורי תוכן כשירות" והשקת מרכז תקשורת בחירות.
באשר למועמדים היוצרים גרסאות AI של עצמם, OpenAI כבר נאלצה להתמודד עם מקרה השימוש הספציפי. החברה תלוי החשבון של מפתח לאחר שגילה שהם יצרו בוט המחקה נציג תקווה הנשיאותי דין פיליפס. המהלך קרה לאחר שעצומה העוסקת בשימוש לרעה בינה מלאכותית בקמפיינים פוליטיים הוגשה על ידי ארגון ללא מטרות רווח Public Citizen, וביקשה מהרגולטור לאסור בינה מלאכותית גנרטיבית בקמפיינים פוליטיים.
אנתרופיק סירבה להגיב נוספת, ו-OpenAI לא הגיבה לפנייה מאת פענוח.
הישאר מעודכן בחדשות הקריפטו, קבל עדכונים יומיים בתיבת הדואר הנכנס שלך.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules