מה זה הופך מחשב ל- AIPC? מעבר לכמה הנפת יד מעורפלת בנוכחות "יחידות עיבוד עצביות" ותכונות אחרות הזמינות רק בסיליקון העדכני והטוב ביותר, אף אחד לא מצא הגדרה מעבר לניסיון לשווק FOMO כלשהו.
בעוד אינטל מציעה שמפתחי יישומים יחדירו בקרוב לכל התוכנות AI, ומחשבים אישיים חייבים להיות מוכנים עבורם, עומס העבודה החשוב ביותר כרגע הוא מסקנות להפעלת דגמי שפות גדולים.
לכן כל מחשב AI ראוי לשמו חייב לבצע הסקת מסקנות במהירות ובטוב.
הסקת מסקנות היא התהליך שהופך הנחיה שהוגשה לתגובה שלה. כדי לעשות זאת צריך מכונה שיכולה לטחון מספר גיגה-בייט של נתונים - ואפילו יותר מכפלות מטריצות.
אמנם משימה עתירת מחשוב כל כך נשמעת כאילו היא יכולה למתוח את היכולות של מחשב שולחני (ChatGPT ודומיו פועלים במרכזי נתונים עצומים), גיליתי שהרבה מהחומרה שכבר יש לנו יכולה לעשות עבודה נאותה של מסקנות . כל אחד יכול להפעיל צ'אטבוט "טוב מספיק" במחשב - בתנאי שלמחשב יש מספיק זיכרון RAM ו-GPU בטווח בינוני.
זה אומר GPU עם לפחות 8GB של VRAM (ולא אחד של אינטל - לפחות כרגע, מחוסר תמיכת דרייברים). זה לא יקר מדי - וזה טוב, כי זה הימור בשולחן. עבור זיכרון RAM, אתה תהיה מאושר יותר עם 32GB מאשר 16GB, בעוד ש-8GB פשוט לא יחתכו אותו. וזה בערך העניין. זה כל מה שאתה צריך.
אפל חידשה את זה בצורה יוצאת דופן - אולי לגמרי בטעות - עם ה-SoCs מסדרת M שלה. התייחסות לזיכרון כאל "מאוחד" - הכל VRAM אם צריך - כל מחשבי ה-Mac המודרניים עם לפחות 16GB של זיכרון RAM יכולים לשמש כמחשב AI.
כפי שזה קורה, ארבעה מהמחשבים שרכשתי בעשור האחרון עומדים במפרט הזה - כולל מפלצת מהשורה הראשונה בת שמונה שנים שנרכשה בתור "מחשב VR" עם מעבד אינטל 6700K ולאחר מכן מובילה Nvidia GTX 980 Ti GPU משוכלל. פחות או יותר בהתאם לחוק מור, זה קצת יותר איטי מהמכונות החדשות יותר באוסף שלי, אבל הוא מריץ צ'טבוט בסדר גמור - מקומית.
למרות שלא נרכשו כמחשבי בינה מלאכותית, הרכישות האחרונות שלי מסקנות כל אחת במהירות השווה להשלמות שנוצרו על ידי ה-GPT-3.5-Turbo של OpenAI - כמעט בלתי ניתנת להבחין מבן דודם הגדול יותר הן במהירות והן באיכות ההשלמות שהם מייצרים.
כדי לבדוק את המערכות האלה, אני מאכיל אותן א הנחיה מתוחכמת למדי, מורה להם לפעול כ"סוכן" - פתרון בעיה על ידי יצירת קבצי JSON המוזנים לתוכנית אחרת. ("חתיכות קטנות מחוברות באופן רופף" עדיין תקף בעידן הבינה המלאכותית.) והכל... פשוט עובד.
אז מסתבר שכבר יש לי מחשבי AI בכל מקום. מי ידע? מה שכן, יש א מגרש של מחשבי AI בחוץ. עשרות מיליונים. וזה טוב - כי אנחנו נצטרך אותם.
בעוד שמיקרוסופט מבקשת מאיתנו להדביק כל מסמך רגיש ל-Copilot לצורך ניתוח - ובכך לתת למרכזי הנתונים של רדמונד לחוש את זרימות העבודה החסויות ביותר שלנו - מסמכים רבים הם פשוט רגישים מכדי לשתף אותם בכלל.
מה לגבי המסמכים החמים כל כך שהם אפילו לא צריכים לחיות על מכונה מחוברת לרשת? מה לגבי מידע רפואי? או מסמכים מסווגים? כל כך הרבה ממה שאנחנו עובדים איתו מגיע עם חוטים מחוברים, ומונעים את שיתוף זה בחופשיות.
מסמכים משפטיים נופלים לעתים קרובות לקטגוריה זו - סוגי המשימות שבהן שוחררו לאחרונה מודל שפה משפטית של SaulML יכול להיות מועיל מאוד. אם לעורך דין או לעו"ד היה מודל זה פועל במחשב המקומי שלהם, הם יכלו לשאוב אליו מסמכים באופן חופשי, לבקש ממנו ליצור קריאה מדוקדקת, אפילו תנאי חוזה חדשים - הכל מבלי לדאוג לגבי דליפות מידע סודי. משרדי עורכי דין רבים היו רצים לעבר סוג כזה של כלי, בצרחות "שתוק וקח את הכסף של הלקוח שלי!"
יצרתי אב טיפוס לכלי הזה בסוף השבוע שעבר - חיתוך את מודל הקוד הפתוח מלא השומן של SaulLM לגודל, כך שהוא יוכל לעבוד על צי מחשבי הבינה המלאכותית שלי. אני לא עורך דין, אז אני לא יכול לשפוט באופן מלא את איכותו. עם זאת, הדבקתי לתוכו חלקים נרחבים של חוזה משותף עסקי פוטנציאלי, ואז שאלתי אותו כמה שאלות קשות - ללא כל חשש מהדלפות.
גם אם עורכי הדין לא אוהבים את זה, כולנו - מתמודדים עם תנאים והגבלות אינסופיים, מופרכים שאנו להתעלם בסכנה שלנו - ימצא את זה מאוד שימושי.
כמו כן, ספקי החומרה – שמסתמכים על כך שתזרוק את המחשב האישי שקנית לעבודה מהבית לפני שלוש שנים למחזור ההכנסות שלהם – לא יאהבו להודות בכך, אבל כנראה שכבר יש לך מחשב AI בר-שירות מושלם. רק לא PC AI שהספקים רוצים שתמהרו לקנות. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- a
- אודות
- בנוגע לזה
- רכישות
- לפעול
- נאות
- לְהוֹדוֹת
- גיל
- סוֹכֵן
- לִפנֵי
- AI
- תעשיות
- כְּבָר
- an
- אנליזה
- ו
- אחר
- כל
- כל אחד
- בקשה
- חל
- ARE
- AS
- לשאול
- At
- ניסיון
- זמין
- BE
- כי
- להיות
- מעבר
- גדול
- שניהם
- קנה
- עסקים
- אבל
- לִקְנוֹת
- by
- CAN
- קיבולת
- קטגוריה
- chatbot
- ChatGPT
- מְסוּוָג
- לקוחות
- סְגוֹר
- CO
- אוסף
- איך
- מגיע
- השוואה
- תנאים
- סודי
- חוזה
- יכול
- כיום
- חותך
- גזירה
- מחזור
- נתונים
- עָשׂוֹר
- הגדרה
- שולחן העבודה
- מפתחים
- DID
- גילה
- do
- מסמך
- מסמכים
- עושה
- דון
- מטה
- נהג
- כל אחד
- שמונה
- אין סופי
- מְאוֹד מְאוֹד
- מספיק
- לַחֲלוּטִין
- אֲפִילוּ
- כל
- במיוחד
- ליפול
- פחדים
- תכונות
- הפד
- קבצים
- סוף
- חברות
- צי
- FOMO
- בעד
- ארבע
- בחופשיות
- בתדירות גבוהה
- החל מ-
- לגמרי
- ליצור
- נוצר
- יצירת
- לקבל
- נתינה
- הולך
- טוב
- GPU
- היה
- קורה
- מאושר יותר
- קשה
- חומרה
- יש
- מועיל
- עמוד הבית
- חַם
- אולם
- HTTPS
- i
- if
- in
- כולל
- מידע
- אינטל
- אל תוך
- IT
- שֶׁלָה
- עבודה
- הצטרף
- jpg
- ג'סון
- שופט
- רק
- סוגים
- חוסר
- שפה
- גָדוֹל
- אחרון
- חוק
- - עורכי דין
- עורך דין
- עורכי דין
- דליפות
- הכי פחות
- משפטי
- פחות
- כמו
- קו
- לחיות
- מקומי
- באופן מקומי
- מגרש
- אהבה
- מכונה
- מכונה
- עושה
- רב
- שוק
- מַטרִיצָה
- עניינים
- אומר
- רפואי
- לִפְגוֹשׁ
- זכרון
- מיקרוסופט
- מיליונים
- מודל
- מודלים
- מודרני
- רֶגַע
- יותר
- רוב
- הרבה
- מספר
- הכפלות
- צריך
- my
- שם
- צורך
- צרכי
- עצבי
- חדש
- חדש יותר
- Nvidia
- of
- on
- ONE
- רק
- לפתוח
- קוד פתוח
- OpenAI
- or
- אחר
- שלנו
- הַחוּצָה
- יותר
- שותף
- PC
- מחשבים
- בצורה מושלמת
- לְבַצֵעַ
- חתיכות
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- שפע
- יִתָכֵן
- כּוֹחַ
- נוכחות
- מניעה
- כנראה
- בעיה
- תהליך
- תהליך
- תָכְנִית
- לְעַתִיד
- ובלבד
- לִשְׁאוֹב
- נרכש
- איכות
- שאלות
- מהירות
- RAM
- RE
- קריאה
- מוכן
- לאחרונה
- לאחרונה
- שוחרר
- לסמוך
- תגובה
- REST
- הכנסה
- הפעלה
- ריצה
- פועל
- לְמַהֵר
- s
- צרחות
- סעיפים
- רגיש
- לשרת
- משותף
- סיליקון
- בפשטות
- מידה
- קטן
- So
- תוכנה
- פותר
- כמה
- במידה מסוימת
- בקרוב
- מתוחכם
- צלילים
- מָקוֹר
- מפרט טכני
- מְהִירוּת
- הימור
- עוד
- הוגש
- כזה
- מציע
- תמיכה
- מערכות
- שולחן
- לקחת
- המשימות
- משימות
- עשרות
- מונחים
- תנאים
- מבחן
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אז
- שם.
- בכך
- לכן
- אלה
- הֵם
- זֶה
- שְׁלוֹשָׁה
- דרך
- ל
- גַם
- כלי
- לקראת
- התמרות
- בטיפול
- פונה
- מאוחד
- יחידות
- us
- מועיל
- Vast
- Ve
- ספקים
- מאוד
- כמעט
- vr
- רוצה
- we
- בסוף השבוע
- טוֹב
- מה
- אשר
- בזמן
- מי
- יצטרך
- עם
- לְלֹא
- נצחנות
- תיק עבודות
- לעבוד מהבית
- זרימות עבודה
- עובד
- לדאוג
- ראוי
- היה
- שנים
- אתה
- זפירנט