יצירת טקסט פיננסי באמצעות מודל שפה גדול מותאם לתחום ב-Amazon SageMaker JumpStart

מודלים של שפה גדולים (LLMs) עם מיליארדי פרמטרים נמצאים כיום בחזית עיבוד השפה הטבעית (NLP). המודלים האלה מרעידים את התחום עם היכולות המדהימות שלהם ליצור טקסט, לנתח סנטימנטים, לתרגם שפות ועוד הרבה יותר. עם גישה לכמויות אדירות של נתונים, ל-LLMs יש פוטנציאל לחולל מהפכה באופן שבו אנו מתקשרים עם השפה. למרות ש-LLMs מסוגלים לבצע משימות NLP שונות, הם נחשבים כלליים ולא מומחים. על מנת להכשיר LLM להפוך למומחה בתחום מסוים, נדרש בדרך כלל כוונון עדין.

אחד האתגרים העיקריים באימון ופריסה של LLMs עם מיליארדי פרמטרים הוא הגודל שלהם, מה שעלול להקשות על התאמתם לתוך GPUs בודדים, החומרה הנפוצה ללמידה עמוקה. קנה המידה העצום של דגמים אלה דורש משאבי מחשוב בעלי ביצועים גבוהים, כגון GPUs מיוחדים עם כמויות גדולות של זיכרון. בנוסף, גודלם של מודלים אלה יכול להפוך אותם ליקרים מבחינה חישובית, מה שיכול להגדיל משמעותית את זמני ההכשרה וההסקה.

בפוסט זה, אנו מדגימים כיצד אנו יכולים להשתמש אמזון SageMaker JumpStart כדי לכוונן בקלות מודל יצירת טקסט גדול בשפה על מערך נתונים ספציפי לדומיין באותו אופן שבו היית מתאמן ופריסה של כל מודל על אמזון SageMaker. בפרט, אנו מראים כיצד ניתן לכוונן את מודל השפה GPT-J 6B ליצירת טקסט פיננסי באמצעות ה-JumpStart SDK וגם סטודיו SageMaker של אמזון ממשק משתמש על מערך נתונים זמין לציבור של הגשות SEC.

JumpStart עוזר לך להתחיל במהירות ובקלות עם למידת מכונה (ML) ומספקת סט של פתרונות למקרי השימוש הנפוצים ביותר שניתן לאמן ולפרוס בקלות בכמה שלבים בלבד. כל השלבים בהדגמה זו זמינים במחברת המצורפת כוונון עדין של יצירת טקסט מודל GPT-J 6B על מערך נתונים ספציפי לתחום.

סקירת פתרונות

בסעיפים הבאים, אנו מספקים הדגמה שלב אחר שלב לכוונון עדין של LLM למשימות יצירת טקסט הן באמצעות ממשק המשתמש של JumpStart Studio והן של Python SDK. בפרט, אנו דנים בנושאים הבאים:

• סקירה כללית של נתוני הגשת ה-SEC בתחום הפיננסי שהמודל מכוון עליו
• סקירה כללית של דגם LLM GPT-J 6B שבחרנו לכוונן
• הדגמה של שתי דרכים שונות שבהן נוכל לכוונן את ה-LLM באמצעות JumpStart:
  • השתמש ב-JumpStart באופן פרוגרמטי עם SageMaker Python SDK
  • גש ל-JumpStart באמצעות ממשק המשתמש של Studio
• הערכה של המודל המכוונן על ידי השוואתו לדגם המאומן מראש ללא כוונון עדין

כוונון עדין מתייחס לתהליך של לקיחת מודל שפה מיומן מראש והכשרתו למשימה שונה אך קשורה תוך שימוש בנתונים ספציפיים. גישה זו ידועה גם בשם העברת למידה, הכרוך בהעברת הידע הנלמד ממשימה אחת לאחרת. LLMs כמו GPT-J 6B מאומנים על כמויות אדירות של נתונים ללא תווית וניתן לכוונן אותם על מערכי נתונים קטנים יותר, מה שהופך את המודל לביצועים טובים יותר בתחום ספציפי.

כדוגמה לשיפור הביצועים כאשר הדגם מכוון עדין, שקול לשאול אותו את השאלה הבאה:

"מה מניע את צמיחת המכירות באמזון?"

ללא כוונון עדין, התגובה תהיה:

"אמזון היא הקמעונאית המקוונת הגדולה בעולם. זהו גם השוק המקוון הגדול בעולם. זה גם העולם"

עם כוונון עדין, התגובה היא:

"גידול המכירות באמזון מונע בעיקר על ידי שימוש מוגבר של לקוחות, כולל הגדלת מבחר, מחירים נמוכים יותר והגברת הנוחות, והגדלת המכירות של מוכרים אחרים באתרים שלנו."

השיפור מכוונון עדין ניכר.

אנו משתמשים בטקסט פיננסי מהגשות של SEC כדי לכוונן עדין GPT-J 6B LLM עבור יישומים פיננסיים. בסעיפים הבאים, אנו מציגים את הנתונים ואת ה-LLM שיכוונו עדין.

מערך נתונים לתיוק של SEC

הגשות SEC הן קריטיות לרגולציה וחשיפה בתחום הכספים. הגשות מודיעות לקהילת המשקיעים על התנאים העסקיים של החברות ועל התחזית העתידית של החברות. הטקסט בהגשת ה-SEC מכסה את כל מכלול הפעילות והתנאים העסקיים של החברה. בגלל הערך החזוי הפוטנציאלי שלהם, הגשות אלה הן מקורות מידע טובים למשקיעים. למרות שבקשות ה-SEC הללו הן זמין לציבור לכל אחד, הורדת קבצים מנותחים ובניית מערך נתונים נקי עם תכונות נוספות היא תרגיל שגוזל זמן. אנו מאפשרים זאת בכמה קריאות API ב-JumpStart SDK לתעשייה.

באמצעות SageMaker API, הורדנו דוחות שנתיים (10-K הגשות; ראה כיצד לקרוא 10-K למידע נוסף) עבור מספר רב של חברות. אנו בוחרים את דוחות הגשת ה-SEC של אמזון לשנים 2021–2022 כנתוני ההדרכה כדי לכוונן את מודל GPT-J 6B. בפרט, אנו מצרפים את דוחות הגשת ה-SEC של החברה בשנים שונות לקובץ טקסט בודד למעט הסעיף "דיון וניתוח ניהולי", המכיל הצהרות צופות פני עתיד של הנהלת החברה ומשמשים כנתוני האימות.

הציפייה היא שאחרי כוונון עדין של מודל יצירת הטקסט של GPT-J 6B על מסמכי SEC הפיננסיים, המודל מסוגל לייצר פלט טקסטואלי הקשור לפיננסים בעל תובנות, ולכן ניתן להשתמש בו כדי לפתור משימות NLP מרובות לתחום ספציפי.

דגם שפה גדול GPT-J 6B

GPT-J 6B הוא מודל קוד פתוח של 6 מיליארד פרמטרים ששוחרר על ידי Eleuther AI. GPT-J 6B הוכשר על קורפוס גדול של נתוני טקסט והוא מסוגל לבצע משימות NLP שונות כגון הפקת טקסט, סיווג טקסט וסיכום טקסט. למרות שהמודל הזה מרשים במספר משימות NLP ללא צורך בכוונון עדין כלשהו, ​​במקרים רבים תצטרכו לכוונן את המודל על מערך נתונים ספציפי ומשימות NLP שאתם מנסים לפתור. מקרי שימוש כוללים צ'אטבוטים מותאמים אישית, יצירת רעיונות, מיצוי ישויות, סיווג וניתוח סנטימנטים.

גישה ללימודי תואר שני ב- SageMaker

כעת, לאחר שזיהינו את מערך הנתונים ואת המודל שעליו אנו הולכים לכוונן, JumpStart מספקת שתי דרכים להתחיל להשתמש בכוונון עדין של יצירת טקסט: ה-SageMaker SDK ו-Studio.

השתמש ב-JumpStart באופן פרוגרמטי עם ה-SDK של SageMaker

כעת נעבור על דוגמה לאופן שבו אתה יכול להשתמש ב- SageMaker JumpStart SDK כדי לגשת ל-LLM (GPT-J 6B) ולכוונן אותו במערך התיוק של SEC. עם השלמת הכוונון העדין, נפרוס את המודל המכוונן ונסיק נגדו. כל השלבים בפוסט זה זמינים במחברת המצורפת: כוונון עדין של יצירת טקסט מודל GPT-J 6B על מערך נתונים ספציפי לתחום.

בדוגמה זו, JumpStart משתמש ב- מיכל למידה עמוקה של SageMaker Hugging Face (DLC) ו DeepSpeed ספרייה כדי לכוונן את המודל. ספריית DeepSpeed ​​נועדה להפחית את כוח המחשוב והשימוש בזיכרון ולהכשיר דגמים מבוזרים גדולים עם מקביליות טובה יותר בחומרת המחשב הקיימת. הוא תומך באימון מבוזר בצמת בודד, תוך שימוש בבדיקת שיפוע ובמקביליות למודלים כדי לאמן דגמים גדולים על מופע אימון יחיד של SageMaker עם מספר GPUs. עם JumpStart, אנו משלבים עבורכם את ספריית DeepSpeed ​​עם ה-DLC של SageMaker Hugging Face ודואגים להכל מתחת למכסה המנוע. אתה יכול בקלות לכוונן את המודל במערך הנתונים הספציפי לדומיין שלך מבלי להגדיר אותו באופן ידני.

כוונן את המודל שהוכשר מראש על נתונים ספציפיים לתחום

כדי לכוונן מודל נבחר, עלינו לקבל את ה-URI של הדגם הזה, כמו גם את סקריפט האימון ואת תמונת המאגר המשמשת לאימון. כדי להקל על הדברים, שלוש הכניסות הללו תלויות אך ורק בשם הדגם, הגרסה (לרשימה של הדגמים הזמינים, ראה אלגוריתמים מובנים עם טבלת מודל מיומנת מראש), וסוג המופע שבו ברצונך להתאמן. זה מודגם בקטע הקוד הבא:

from sagemaker import image_uris, model_uris, script_uris, hyperparameters model_id, model_version = "huggingface-textgeneration1-gpt-j-6b", "*"
training_instance_type = "ml.g5.12xlarge" # Retrieve the docker image
train_image_uri = image_uris.retrieve( region=None, framework=None, model_id=model_id, model_version=model_version, image_scope="training", instance_type=training_instance_type,
) # Retrieve the training script
train_source_uri = script_uris.retrieve( model_id=model_id, model_version=model_version, script_scope="training"
) # Retrieve the pre-trained model tarball to further fine-tune
train_model_uri = model_uris.retrieve( model_id=model_id, model_version=model_version, model_scope="training"
)

אנו מאחזרים את model_id מתאים לאותו דגם בו אנו רוצים להשתמש. במקרה זה, אנו מכווננים huggingface-textgeneration1-gpt-j-6b.

הגדרת היפרפרמטרים כרוכה בהגדרת הערכים עבור פרמטרים שונים המשמשים במהלך תהליך האימון של מודל ML. פרמטרים אלו יכולים להשפיע על הביצועים והדיוק של המודל. בשלב הבא, אנו קובעים את הפרמטרים ההיפר על ידי שימוש בהגדרות ברירת המחדל וציון ערכים מותאמים אישית עבור פרמטרים כגון epochs ו learning_rate:

from sagemaker import hyperparameters # Retrieve the default hyper-parameters for fine-tuning the model
hyperparameters = hyperparameters.retrieve_default(model_id=model_id, model_version=model_version) # [Optional] Override default hyperparameters with custom values
hyperparameters["epochs"] = "6" hyperparameters["learning_rate"] = "2e-04"
print(hyperparameters)

JumpStart מספק רשימה נרחבת של היפרפרמטרים הזמינים לכיוון. הרשימה הבאה מספקת סקירה כללית של חלק מפרמטרי ההיפר-פרמטרים העיקריים המשמשים לכוונון עדין של המודל. לרשימה מלאה של היפרפרמטרים, עיין במחברת כוונון עדין של יצירת טקסט מודל GPT-J 6B על מערך נתונים ספציפי לתחום.

• תקופות – מציין לכל היותר כמה עידנים של מערך הנתונים המקורי יחזרו.
• שיעור_למידה - שולט בגודל הצעד או קצב הלמידה של אלגוריתם האופטימיזציה במהלך האימון.
• eval_steps – מציין כמה שלבים לרוץ לפני הערכת המודל על ערכת האימות במהלך האימון. ערכת האימות היא תת-קבוצה של הנתונים שאינה משמשת לאימון, אלא משמשת לבדיקת ביצועי המודל על נתונים בלתי נראים.
• משקל_דעיכה - שולט בכוח הסדירות במהלך אימון המודל. רגוליזציה היא טכניקה שעוזרת למנוע מהמודל להתאים יתר על המידה את נתוני האימון, מה שעלול לגרום לביצועים טובים יותר בנתונים בלתי נראים.
• fp16 - שולט אם להשתמש באימון דיוק של fp16 16 סיביות (מעורבות) במקום אימון 32 סיביות.
• evaluation_strategy – אסטרטגיית ההערכה המשמשת במהלך האימון.
• צעדי_צבירת_הדרגה – מספר שלבי העדכונים שעבורם יש לצבור את ההדרגות לפני ביצוע מעבר אחורה/עדכון.

לפרטים נוספים לגבי היפרפרמטרים, פנה לגורם הרשמי תיעוד של מאמן פנים מחבק.

כעת תוכל לכוונן מודל JumpStart זה במערך הנתונים המותאם אישית שלך באמצעות ה-SDK של SageMaker. אנו משתמשים בנתוני הגשת ה-SEC שתיארנו קודם לכן. נתוני הרכבת והאימות מתארחים תחת train_dataset_s3_path ו validation_dataset_s3_path. הפורמט הנתמך של הנתונים כולל CSV, JSON ו-TXT. עבור נתוני ה-CSV וה-JSON, נעשה שימוש בנתוני הטקסט מהעמודה שנקראת text או העמודה הראשונה אם לא נמצאה עמודה בשם טקסט. מכיוון שזה מיועד לכוונון עדין של יצירת טקסט, אין צורך בתוויות של אמת יסוד. הקוד הבא הוא דוגמה של SDK כיצד לכוונן את המודל:

from sagemaker.estimator import Estimator
from sagemaker.utils import name_from_base
from sagemaker.tuner import HyperparameterTuner
from sagemaker.huggingface import HuggingFace train_dataset_s3_path = "s3://jumpstart-cache-prod-us-west-2/training-datasets/tc/data.csv"
validation_dataset_s3_path = "s3://jumpstart-cache-prod-us-west-2/training-datasets/tc/data.csv" training_job_name = name_from_base(f"jumpstart-example-{model_id}") metric_definitions=[ {'Name': 'train:loss', 'Regex': "'loss': ([0-9]+.[0-9]+)"}, {'Name': 'eval:loss', 'Regex': "'eval_loss': ([0-9]+.[0-9]+)"}, {'Name': 'eval:runtime', 'Regex': "'eval_runtime': ([0-9]+.[0-9]+)"}, {'Name': 'eval:samples_per_second', 'Regex': "'eval_samples_per_second': ([0-9]+.[0-9]+)"}, {'Name': 'eval:eval_steps_per_second', 'Regex': "'eval_steps_per_second': ([0-9]+.[0-9]+)"},
] # # Create SageMaker Estimator instance
tg_estimator = Estimator( role=aws_role, image_uri=train_image_uri, source_dir=train_source_uri, model_uri=train_model_uri, entry_point="transfer_learning.py", instance_count=1, instance_type=training_instance_type, hyperparameters=hyperparameters, output_path=s3_output_location, base_job_name=training_job_name, enable_network_isolation=True, metric_definitions=metric_definitions
) # Launch a SageMaker Training job by passing s3 path of the training data
tg_estimator.fit({"train": train_dataset_s3_path, "validation": validation_dataset_s3_path}, logs=True)

לאחר שהגדרנו את SageMaker Estimator עם ההיפרפרמטרים הנדרשים, אנו מייצרים מעריך SageMaker וקוראים ל- .fit שיטה להתחיל לכוונן את המודל שלנו, להעביר אותו את שירות אחסון פשוט של אמזון (Amazon S3) URI לנתוני האימונים שלנו. כפי שאתה יכול לראות, ה entry_point התסריט שסופק נקרא בשם transfer_learning.py (זהה עבור משימות ומודלים אחרים), וערוץ נתוני הקלט שהועבר אליו .fit חייב להיות שם רכבת ואימות.

JumpStart תומך גם באופטימיזציה של היפרפרמטרים עם כוונון הדגם האוטומטי של SageMaker. לפרטים, עיין בדוגמה מחברה.

פרוס את הדגם המכוונן

בסיום ההכשרה, תוכל לפרוס את המודל המכוונן שלך. לשם כך, כל מה שאנחנו צריכים להשיג הוא ה-URI של הסקת ההסקה (הקוד שקובע כיצד המודל משמש להסקת מסקנות לאחר פריסה) ואת ה-URI של תמונת מיכל ההסקה, הכוללת שרת מודל מתאים לארח את הדגם שבחרנו. ראה את הקוד הבא:

from sagemaker.predictor import Predictor
from sagemaker import image_uris
from sagemaker.utils import name_from_base
import boto3 sagemaker_session = sagemaker.Session(boto_session=boto3.Session(region_name="us-west-2")) #Retrieve the inference docker container uri
deploy_image_uri = image_uris.retrieve( region=None, framework=None, image_scope="inference", model_id=model_id, model_version=model_version, instance_type=inference_instance_type,
) endpoint_name = name_from_base(f"jumpstart-example-{model_id}") # Use the estimator from the previous step to deploy to a SageMaker endpoint
finetuned_predictor = tg_estimator.deploy( initial_instance_count=1, instance_type="ml.g5.12xlarge", image_uri=image_uri, endpoint_name=endpoint_name,
)

לאחר מספר דקות, המודל שלנו נפרס ונוכל לקבל ממנו תחזיות בזמן אמת!

גש ל-JumpStart דרך ממשק המשתמש של Studio

דרך נוספת לכוונן ולפרוס דגמי JumpStart היא דרך ממשק המשתמש של Studio. ממשק משתמש זה מספק פתרון דל קוד/ללא קוד לכוונון עדין של LLMs.

במסוף Studio, בחר דגמים, מחברות, פתרונות תחת SageMaker JumpStart בחלונית הניווט.

בשורת החיפוש, חפש את הדגם שברצונך לכוונן ולפרוס.

במקרה שלנו, בחרנו בכרטיס הדגם GPT-J 6B. כאן נוכל לכוונן או לפרוס את ה-LLM ישירות.

הערכת מודל

בעת הערכת LLM, אנו יכולים להשתמש בבלבול (PPL). PPL הוא מדד נפוץ למידת היכולת של מודל שפה לחזות את המילה הבאה ברצף. במילים פשוטות יותר, זו דרך למדוד עד כמה המודל יכול להבין וליצור שפה דמוית אדם.

ציון תמיהה נמוך יותר אומר שהמודל מציג ביצועים טובים יותר בחיזוי המילה הבאה. במונחים מעשיים, אנו יכולים להשתמש בתמיהה כדי להשוות מודלים שונים של שפה ולקבוע איזה מהם מתפקד טוב יותר במשימה נתונה. אנחנו יכולים גם להשתמש בו כדי לעקוב אחר הביצועים של דגם בודד לאורך זמן. לפרטים נוספים, עיין ב תמיהה של דגמים באורך קבוע.

אנו מעריכים את ביצועי המודל באמצעות השוואה של הביצועים לפני ואחרי כוונון עדין. PPL נפלט בעבודת ההדרכה אמזון CloudWatch יומנים. בנוסף, אנו מסתכלים על הפלט שנוצר על ידי המודל בתגובה להנחיות בדיקה ספציפיות.

הביצועים המשופרים של המודל מודגמים על ידי שני ניסויים:

• יצירת טקסטים – אנו מראים כי הפלט שה-GPT-J המכוונן יוצר טקסט בעל דמיון למערך הנתונים של SEC, מה שמצביע על כך שהוא למד לחקות את דפוסי השפה והמוסכמות של תחום הרגולציה הפיננסית
• למידה אפסית - אנו מדגימים שה-GPT-J המכוונן מראה ביצועים טובים יותר משמעותית מה-GPT-J הלא-מכוונן בתשובה לשאלה עם צילום אפס

עבור הניסוי של יצירת טקסט, אנו משתמשים בפרמטרי ההסקה הבאים כדי להשיג את התוצאות שלנו: max_length של 400 (מספר האסימונים שהוחזרו), num_return_sequences מתוך 1 (מספר דוגמאות לטקסט תגובה), top_k מתוך 250 (בחר מתוך אחד מ-250 המשכים האפשריים המובילים), top_p של 0.8 (בחר רק מתוך המשכים שסבירים לפחות 80%), do_sample is True (דגימה), ו temperature של 1 (טמפרטורה גבוהה היא אקראיות גדולה יותר בתגובות). לפרטים נוספים על הפרמטרים, עיין ב GenerationConfig. הטבלה הבאה משווה את ה-GPT-J המכוונן והלא מכוון במשימת השלמת טקסט.

עבור הניסוי השני עם משימת תשובה לשאלה אפס, הגדרנו את max_length להיות ערך שונה (40, 200 ו-40, בהתאמה) על סמך הפלט שאנו מצפים מכל שאלה. הפרמטרים של top_k, top_p, do_sample, temperature מוגדרים כ-250, 0.8, False, ו-0, בהתאמה. הגדרנו את הטמפרטורה קרוב ל-0 כדי לשלוט באקראיות של הפלט, בעוד שבמטלת יצירת הטקסט הגדרנו אותה קרוב ל-1 כדי להפוך את המודל ליצירתי יותר. הטבלה הבאה משווה את התוצאות. עבור כל שאלה, הפלט מ-GPT-J המכוונן עדין הוא מדויק יותר מזה שאינו מכוון.

לנקות את

כדי להימנע מחיובים מתמשכים, מחק את נקודות הקצה של SageMaker. אתה יכול למחוק את נקודות הקצה דרך מסוף SageMaker או מהמחברת באמצעות הפקודות הבאות:

# Delete the SageMaker endpoint and the attached resources
finetuned_predictor.delete_model()
finetuned_predictor.delete_endpoint()

סיכום

JumpStart היא יכולת ב- SageMaker המאפשרת לך להתחיל במהירות עם ML. JumpStart משתמש בקוד פתוח, מודלים מאומנים מראש כדי לפתור בעיות ML נפוצות כמו סיווג תמונה, זיהוי אובייקטים, סיווג טקסט, סיווג צמד משפטים ומענה לשאלות.

בפוסט זה, הראינו לכם כיצד לכוונן ולפרוס LLM (GPT-J 6B) מאומן מראש ליצירת טקסט על בסיס מערך המילוי של SEC. הדגמנו כיצד המודל הפך למומחה בתחום הפיננסים על ידי ביצוע תהליך כוונון עדין בשני דוחות שנתיים בלבד של החברה. כוונון עדין זה אפשר למודל לייצר תוכן עם הבנה של נושאים פיננסיים ודיוק רב יותר. נסה את הפתרון בעצמך וספר לנו איך זה הולך בתגובות.

חשוב: פוסט זה מיועד למטרות הדגמה בלבד. זה לא ייעוץ פיננסי ואין להסתמך עליו כייעוץ פיננסי או השקעות. הפוסט השתמש במודלים שהוכשרו מראש על נתונים שהתקבלו ממסד הנתונים של SEC EDGAR. אתה אחראי לעמידה בתנאי הגישה של EDGAR אם אתה משתמש בנתוני SEC.

למידע נוסף על JumpStart, עיין בפוסטים הבאים:

על הכותבים

ד"ר שין הואנג הוא מדען יישומי בכיר עבור האלגוריתמים המובנים של Amazon SageMaker JumpStart ו-Amazon SageMaker. הוא מתמקד בפיתוח אלגוריתמים של למידת מכונה ניתנים להרחבה. תחומי העניין שלו במחקר הם בתחום של עיבוד שפה טבעית, למידה עמוקה הניתנת להסבר על נתונים טבלאיים וניתוח חזק של צבירת מרחב-זמן לא פרמטרית. הוא פרסם מאמרים רבים בכנסים של ACL, ICDM, KDD וב-Royal Statistic Society: Series A.

מארק קארפ הוא אדריכל ML בצוות שירות Amazon SageMaker. הוא מתמקד בסיוע ללקוחות לתכנן, לפרוס ולנהל עומסי עבודה של ML בקנה מידה. בזמנו הפנוי הוא נהנה לטייל ולחקור מקומות חדשים.

ד"ר סנג'יב דאס הוא מלומד באמזון והפרופסור טרי למימון ומדעי הנתונים באוניברסיטת סנטה קלרה. הוא בעל תארים מתקדמים במימון (M.Phil ודוקטורט מאוניברסיטת ניו יורק) ומדעי המחשב (MS מאוניברסיטת ברקלי), ותואר שני במנהל עסקים מהמכון ההודי לניהול, אחמדאבאד. לפני שהיה אקדמאי, הוא עבד בעסקי הנגזרים באזור אסיה-פסיפיק כסגן נשיא בסיטיבנק. הוא עובד על למידת מכונה מולטי-מודאלית בתחום היישומים הפיננסיים.

ארון קומאר לוקנת'ה הוא אדריכל בכיר ML Solutions בצוות Amazon SageMaker Service. הוא מתמקד בסיוע ללקוחות לבנות, להכשיר ולהעביר עומסי עבודה של ייצור ML ל-SageMaker בקנה מידה. הוא מתמחה בלמידה עמוקה, במיוחד בתחום ה-NLP וה-CV. מחוץ לעבודה, הוא נהנה לרוץ ולטייל.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• הטבעת העתיד עם אדריאן אשלי. גישה כאן.
• מקור: https://aws.amazon.com/blogs/machine-learning/financial-text-generation-using-a-domain-adapted-fine-tuned-large-language-model-in-amazon-sagemaker-jumpstart/