Amazon SageMaker'da metin oluşturmak için Llama 2'ye ince ayar yapın JumpStart | Amazon Web Hizmetleri

Bugün, Llama 2 modellerine Meta tarafından ince ayar yapma olanağını duyurmanın heyecanını yaşıyoruz. Amazon SageMaker Hızlı Başlangıç. Büyük dil modellerinden (LLM'ler) oluşan Llama 2 ailesi, ölçeği 7 milyardan 70 milyar parametreye kadar değişen, önceden eğitilmiş ve ince ayarı yapılmış üretken metin modellerinden oluşan bir koleksiyondur. Llama-2-chat adı verilen ince ayarlı LLM'ler diyalog kullanım durumları için optimize edilmiştir. Bu modelleri kolayca deneyebilir ve bunları, ML'ye hızlı bir şekilde başlayabilmeniz için algoritmalara, modellere ve ML çözümlerine erişim sağlayan bir makine öğrenimi (ML) merkezi olan SageMaker JumpStart ile kullanabilirsiniz. Artık SageMaker JumpStart'ta 7 milyar, 13 milyar ve 70 milyar parametreli Llama 2 metin oluşturma modellerine ince ayar yapabilirsiniz. Amazon SageMaker Stüdyosu Birkaç tıklamayla veya SageMaker Python SDK'yı kullanarak kullanıcı arayüzü.

Üretken yapay zeka temel modelleri, bir yılı aşkın bir süredir çoğu makine öğreniminin ve yapay zeka araştırmalarının ve kullanım senaryolarının odak noktası olmuştur. Bu temel modeller, büyük boyutları ve aynı zamanda birkaç büyük veri kümesi ve yüzlerce görev üzerinde eğitilmeleri nedeniyle metin oluşturma, özetleme, soru yanıtlama, görüntü ve video oluşturma ve daha fazlası gibi üretken görevlerde çok iyi performans gösterir. Bu modellerin büyük genelleme yeteneklerine rağmen, sıklıkla çok özel alan verilerine (sağlık hizmetleri veya finansal hizmetler gibi) sahip kullanım senaryoları vardır ve bu nedenle bu modeller, bu kullanım senaryoları için iyi sonuçlar sağlayamayabilir. Bu, kullanım durumuna özgü ve alana özgü veriler üzerinden bu üretken yapay zeka modellerinde daha fazla ince ayar yapılması ihtiyacını doğurur.

Bu yazıda, SageMaker JumpStart aracılığıyla Llama 2'nin önceden eğitilmiş metin oluşturma modellerine nasıl ince ayar yapılacağını açıklıyoruz.

Lama 2 nedir

Llama 2, optimize edilmiş bir dönüştürücü mimarisi kullanan otomatik gerileyen bir dil modelidir. Llama 2, İngilizce ticari kullanım ve araştırma amaçlıdır. 7 milyar, 13 milyar ve 70 milyar gibi çeşitli parametre boyutlarının yanı sıra önceden eğitilmiş ve ince ayarlı varyasyonlarla gelir. Meta'ya göre ayarlanmış sürümler, insanın yardımseverlik ve güvenlik tercihlerine uyum sağlamak için denetimli ince ayar (SFT) ve insan geri bildirimi (RLHF) ile pekiştirmeli öğrenme kullanıyor. Llama 2, halka açık kaynaklardan alınan 2 trilyon token veri üzerinde önceden eğitildi. Ayarlanmış modeller asistan benzeri sohbet için tasarlanmıştır, oysa önceden eğitilmiş modeller çeşitli doğal dil oluşturma görevleri için uyarlanabilir. Bir geliştiricinin kullandığı modelin hangi sürümünden bağımsız olarak, Meta'dan sorumlu kullanım kılavuzu modelleri uygun güvenlik önlemleriyle özelleştirmek ve optimize etmek için gerekli olabilecek ek ince ayarlara rehberlik etmeye yardımcı olabilir.

Şu anda Llama 2 aşağıdaki bölgelerde mevcuttur:

• Mevcut önceden eğitilmiş modeli dağıtın: "us-west-2", "us-east-1", "us-east-2", "eu-west-1", "ap-southeast-1", "ap-southeast-2"
• İnce ayarı yapılmış modele ince ayar yapın ve dağıtın: “us-east-1”, “us-west-2”,“eu-west-1”

SageMaker JumpStart nedir?

SageMaker JumpStart ile makine öğrenimi uygulayıcıları, halka açık geniş bir temel model yelpazesi arasından seçim yapabilir. ML uygulayıcıları temel modelleri özel olarak dağıtabilir Amazon Adaçayı Yapıcı ağdan yalıtılmış bir ortamdan örnekler alın ve model eğitimi ve dağıtımı için SageMaker'ı kullanarak modelleri özelleştirin. Artık Llama 2'yi SageMaker Studio'da birkaç tıklamayla veya SageMaker Python SDK aracılığıyla programlı olarak keşfedebilir ve dağıtabilirsiniz; böylece SageMaker özellikleriyle model performansı ve MLOps kontrolleri elde edebilirsiniz. Amazon SageMaker Ardışık Düzenleri, Amazon SageMaker Hata Ayıklayıcısıveya konteyner günlükleri. Model, AWS güvenli ortamında ve VPC kontrolleriniz altında dağıtılarak veri güvenliğinin sağlanmasına yardımcı olur. Ek olarak, SageMaker JumpStart aracılığıyla Llama2 7B, 13B ve 70B önceden eğitilmiş metin oluşturma modellerine ince ayar yapabilirsiniz.

Llama2 modellerinde ince ayar yapın

SageMaker Studio kullanıcı arayüzünü veya SageMaker Python SDK'yı kullanarak modellerde ince ayar yapabilirsiniz. Bu bölümde her iki yöntemi de tartışacağız.

SageMaker Studio Kullanıcı Arayüzü aracılığıyla kod gerektirmeden ince ayar yapma

SageMaker Studio'da, Llama 2 modellerine SageMaker JumpStart aracılığıyla şu adresten erişebilirsiniz: Modeller, not defterleri ve çözümler, aşağıdaki ekran görüntüsünde gösterildiği gibi.

Llama 2 modellerini görmüyorsanız kapatıp yeniden başlatarak SageMaker Studio sürümünüzü güncelleyin. Sürüm güncellemeleri hakkında daha fazla bilgi için bkz. Studio Uygulamalarını Kapatın ve Güncelleyin.

Seçerek diğer dört model varyantını da bulabilirsiniz. Tüm Metin Oluşturma Modellerini Keşfedin veya arama kutusunda lama'yı arayın.

Bu sayfada şunları işaret edebilirsiniz: Amazon Basit Depolama Hizmeti İnce ayar için eğitim ve doğrulama veri kümelerini içeren (Amazon S3) paketi. Ayrıca, ince ayar yapmak için dağıtım yapılandırmasını, hiperparametreleri ve güvenlik ayarlarını yapılandırabilirsiniz. Daha sonra seçebilirsiniz Tren SageMaker ML örneğinde eğitim işini başlatmak için. Önceki ekran görüntüsü Llama-2 7B modelinin ince ayar sayfasını göstermektedir; ancak benzer şekilde ilgili model sayfalarını kullanarak 13B ve 70B Llama 2 metin oluşturma modellerine ince ayar yapabilirsiniz. Llama 2 modellerini kullanmak için Son Kullanıcı Lisans Sözleşmesini (EULA) kabul etmeniz gerekir. Seçtiğinizde görünecektir Trenaşağıdaki ekran görüntüsünde gösterildiği gibi. Seçmek EULA ve AUP'yi okudum ve kabul ediyorum ince ayar işine başlamak için.

Modeli dağıtın

Modelde ince ayar yapıldıktan sonra SageMaker JumpStart'taki model sayfasını kullanarak dağıtabilirsiniz. Aşağıdaki ekran görüntüsünde gösterildiği gibi, ince ayar tamamlandığında ince ayarlı modeli dağıtma seçeneği görünecektir.

SageMaker Python SDK aracılığıyla ince ayar yapın

Ayrıca SageMaker Python SDK'yı kullanarak Llama 2 modellerinde ince ayar yapabilirsiniz. Veri kümenizdeki Llama 2 7B'ye ince ayar yapmak için örnek kod aşağıda verilmiştir:

import os
import boto3
from sagemaker.session import Session
from sagemaker.jumpstart.estimator import JumpStartEstimator # To fine-tune the 13B/70B model, please change model_id to `meta-textgeneration-llama-2-13b`/`meta-textgeneration-llama-2-70b`.
model_id = "meta-textgeneration-llama-2-7b" estimator = JumpStartEstimator( model_id=model_id, environment={"accept_eula": "true"}
)
# By default, instruction tuning is set to false. Thus, to use instruction tuning dataset you use
estimator.set_hyperparameters(instruction_tuned="True", epoch="5")
estimator.fit({"training": train_data_location})

İnce ayarlı modeli doğrudan tahmin aracından dağıtabilirsiniz:

finetuned_predictor = estimator.deploy()

Kodu şurada da bulabilirsiniz SageMaker JumpStart'ta LLaMA 2 modellerine ince ayar yapın. Veri kümesi hazırlığını, özel veri kümeniz üzerinde eğitimi ve ince ayarlı modelin dağıtımını içerir. Özetleme görevinden örneklerle Dolly veri kümesinin bir alt kümesinde ince ayar yapılmasını gösterir. Aşağıda, ince ayarlı ve ince ayarlı olmayan yanıtların yanı sıra temel gerçek yanıtını içeren örnek girdi yer almaktadır:

Modele giriş:

Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:nWhen did Felix Luna die?nn### Input:nFélix César Luna (30 September 1925 – 5 November 2009) was an Argentine writer, lyricist and historian.nnnn### Response:n

Temel Gerçek yanıtı:

Felix Luna died on November 5th, 2009

İnce ayar yapılmamış modelin yanıtı:

Félix César Luna (30 September 1925 – 5 November 2009) was an ArgentinennWhen did Luna die?nnn### Explanation:nWe answer the question with the input's date of birth and the date of death.nnn### Solution: 1102n

İnce ayarlı modelin yanıtı:

Félix Luna died on November 5th, 2009.nn

Dolly ve Dialogsum veri kümesinde farklı modellerin performans kıyaslaması için bkz. Performans karşılaştırması Bu yazının sonundaki ekte yer alan bölüm.

İnce ayar tekniği

Llama gibi dil modellerinin boyutu 10 GB'tan, hatta 100 GB'tan fazladır. Bu kadar büyük modellerde ince ayar yapmak, önemli ölçüde yüksek CUDA belleğine sahip örnekler gerektirir. Ayrıca bu modellerin eğitimi, modelin boyutundan dolayı çok yavaş olabilir. Bu nedenle verimli ince ayar için aşağıdaki optimizasyonları kullanıyoruz:

• Düşük Dereceli Uyarlama (LoRA) – Bu, büyük modellerin verimli ince ayarına yönelik bir tür parametre verimli ince ayardır (PEFT). Burada tüm modeli donduruyoruz ve modele yalnızca küçük bir dizi ayarlanabilir parametre veya katman ekliyoruz. Örneğin, Llama 7 2B için 7 milyar parametrenin tamamını eğitmek yerine parametrelerin %1'inden daha azına ince ayar yapabiliriz. Bu, bellek gereksiniminin önemli ölçüde azaltılmasına yardımcı olur çünkü parametrelerin yalnızca %1'i için degradeleri, optimize edici durumlarını ve eğitimle ilgili diğer bilgileri saklamamız gerekir. Ayrıca bu, eğitim süresinin ve maliyetin azaltılmasına yardımcı olur. Bu yöntemle ilgili daha fazla ayrıntı için bkz. LoRA: Büyük Dil Modellerinin Düşük Dereceli Uyarlaması.
• Int8 nicemleme – LoRA gibi optimizasyonlarla bile Llama 70B gibi modeller eğitilemeyecek kadar büyük. Eğitim sırasında bellek ayak izini azaltmak için eğitim sırasında Int8 kuantizasyonunu kullanabiliriz. Niceleme genellikle kayan noktalı veri türlerinin kesinliğini azaltır. Bu, model ağırlıklarını depolamak için gereken belleği azaltsa da bilgi kaybı nedeniyle performansı düşürür. Int8 niceleme yalnızca çeyrek hassasiyet kullanır ancak bitleri düşürmediği için performansın düşmesine neden olmaz. Verileri bir türden diğerine yuvarlar. Int8 nicemleme hakkında bilgi edinmek için bkz. LLM.int8(): Uygun Ölçekte Transformatörler için 8-bit Matris Çarpımı.
• Tamamen Parçalanmış Veri Paralel (FSDP) – Bu, modelin parametrelerini veri paralel çalışanları arasında bölen ve isteğe bağlı olarak eğitim hesaplamasının bir kısmını CPU'lara aktarabilen bir tür veri paralel eğitim algoritmasıdır. Parametreler farklı GPU'lar arasında paylaştırılsa da, her bir mikro grubun hesaplanması GPU çalışanı için yereldir. Parametreleri daha düzgün bir şekilde parçalara ayırır ve eğitim sırasında iletişim ve hesaplamanın örtüşmesi yoluyla optimize edilmiş performansa ulaşır.

Aşağıdaki tablo, farklı yöntemleri üç Llama 2 modeliyle karşılaştırmaktadır.

Lama modellerinin ince ayarının aşağıdakiler tarafından sağlanan komut dosyalarına dayandığını unutmayın. GitHub repo.

Eğitim veri kümesi biçimi

SageMaker JumpStart şu anda hem etki alanı uyarlama formatında hem de talimat ayarlama formatındaki veri kümelerini desteklemektedir. Bu bölümde her iki formatta da örnek bir veri seti belirliyoruz. Daha fazla ayrıntı için bkz. Veri kümesi biçimlendirmesi Ekteki bölümde.

Etki alanı uyarlama biçimi

Metin oluşturma Llama 2 modeline, alana özgü herhangi bir veri kümesinde ince ayar yapılabilir. Etki alanına özgü veri kümesinde ince ayar yapıldıktan sonra modelin, alana özgü metin üretmesi ve o belirli etki alanındaki çeşitli NLP görevlerini birkaç adımlık yönlendirmeyle çözmesi bekleniyor. Bu veri kümesinde girdi CSV, JSON veya TXT dosyasından oluşur. Örneğin, giriş verileri bir metin dosyası olarak Amazon'un SEC dosyaları olabilir:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions.

Talimat ayarlama formatı

Talimatın ince ayarında model, talimatlar kullanılarak açıklanan bir dizi doğal dil işleme (NLP) görevi için ince ayar yapılır. Bu, sıfır atışlı istemlerle görünmeyen görevler için modelin performansının geliştirilmesine yardımcı olur. Talimat ayarlama veri kümesi formatında, template.json Giriş ve çıkış formatlarını açıklayan dosya. Örneğin dosyadaki her satır train.jsonl aşağıdaki gibi görünüyor:

{"instruction": "What is a dispersive prism?", "context": "In optics, a dispersive prism is an optical prism that is used to disperse light, that is, to separate light into its spectral components (the colors of the rainbow). Different wavelengths (colors) of light will be deflected by the prism at different angles. This is a result of the prism material's index of refraction varying with wavelength (dispersion). Generally, longer wavelengths (red) undergo a smaller deviation than shorter wavelengths (blue). The dispersion of white light into colors by a prism led Sir Isaac Newton to conclude that white light consisted of a mixture of different colors.", "response": "A dispersive prism is an optical prism that disperses the light's different wavelengths at different angles. When white light is shined through a dispersive prism it will separate into the different colors of the rainbow."}

Ek dosya template.json aşağıdaki gibi görünüyor:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. " "Write a response that appropriately completes the request.nn" "### Instruction:n{instruction}nn### Input:n{context}nn", "completion": " {response}",
}

Eğitim için desteklenen hiperparametreler

Llama 2 ince ayarı, her biri ince ayarlı modelin bellek gereksinimini, eğitim hızını ve performansını etkileyebilecek bir dizi hiper parametreyi destekler:

• çağ – İnce ayar algoritmasının eğitim veri kümesinde gerçekleştirdiği geçiş sayısı. 1'den büyük bir tam sayı olmalıdır. Varsayılan 5'tir.
• öğrenme oranı – Her eğitim örneği grubu üzerinde çalışıldıktan sonra model ağırlıklarının güncellenme hızı. 0'dan büyük bir pozitif kayan nokta olmalıdır. Varsayılan 1e-4'tür.
• talimat_tuned – Modeli eğitip eğitmeyeceği. Olmalıdır 'True'veya'False'. Varsayılan: 'False'.
• per_device_train_batch_size – Eğitim için GPU çekirdeği/CPU başına parti boyutu. Pozitif bir tam sayı olmalıdır. Varsayılan 4'tür.
• per_device_eval_batch_size – Değerlendirme için GPU çekirdeği/CPU başına parti boyutu. Pozitif bir tam sayı olmalıdır. Varsayılan 1'dir.
• max_train_samples – Hata ayıklama amacıyla veya daha hızlı eğitim için eğitim örneklerinin sayısını bu değere düşürün. Değer -1, tüm eğitim örneklerinin kullanılması anlamına gelir. Pozitif bir tam sayı veya -1 olmalıdır. Varsayılan -1'dir.
• max_val_samples – Hata ayıklama amacıyla veya daha hızlı eğitim için doğrulama örneklerinin sayısını bu değere düşürün. Değer -1, tüm doğrulama örneklerinin kullanılması anlamına gelir. Pozitif bir tam sayı veya -1 olmalıdır. Varsayılan -1'dir.
• max_input_length – Tokenizasyondan sonra maksimum toplam giriş dizisi uzunluğu. Bundan daha uzun diziler kesilecektir. -1 ise, max_input_length minimum 1024'e ve tokenizer tarafından tanımlanan maksimum model uzunluğuna ayarlanmıştır. Pozitif bir değere ayarlanırsa, max_input_length sağlanan değerin minimumuna ayarlanır ve model_max_length tokenizer tarafından tanımlanır. Pozitif bir tam sayı veya -1 olmalıdır. Varsayılan -1'dir.
• validation_split_ratio – Doğrulama kanalı ise none, tren verilerinden tren doğrulama ayırma oranı 0-1 arasında olmalıdır. Varsayılan 0.2'dir.
• train_data_split_seed – Doğrulama verileri mevcut değilse, bu, giriş eğitim verilerinin algoritma tarafından kullanılan eğitim ve doğrulama verilerine rastgele bölünmesini düzeltir. Tam sayı olmak zorunda. Varsayılan 0'dır.
• preprocessing_num_workers – Ön işleme için kullanılacak işlemlerin sayısı. Eğer None, ana işlem ön işleme için kullanılır. Varsayılan: None.
• lora_r – Lora R. Pozitif bir tam sayı olmalıdır. Varsayılan 8'dir.
• lora_alpha - Lora Alfa. Pozitif bir tam sayı olmalıdır. Varsayılan 32'dir
• lora_dropout – Lora Bırakma. 0 ile 1 arasında pozitif bir kayan nokta olmalıdır. Varsayılan 0.05'tir.
• int8_kuantizasyon - Eğer Truemodel, eğitim için 8 bit hassasiyetle yüklenir. 7B ve 13B için varsayılan: False. 70B için varsayılan: True.
• etkinleştirme_fsdp - Eğer True, eğitim FSDP'yi kullanır. 7B ve 13B için varsayılan: True. 70B için varsayılan: False. Bunu not et int8_quantization FSDP tarafından desteklenmez.

Örnek türleri ve uyumlu hiperparametreler

İnce ayar sırasında bellek gereksinimi çeşitli faktörlere bağlı olarak değişebilir:

• Model türü – 7B modeli en az GPU bellek gereksinimine sahiptir ve 70B modeli en büyük bellek gereksinimine sahiptir
• Maksimum giriş uzunluğu – Giriş uzunluğunun daha yüksek değeri, aynı anda daha fazla jetonun işlenmesine yol açar ve bu nedenle daha fazla CUDA belleği gerektirir
• Parti boyutu – Daha büyük bir toplu iş boyutu, daha büyük CUDA belleği gerektirir ve dolayısıyla daha büyük bulut sunucusu türleri gerektirir
• Int8 nicemleme – Int8 niceleme kullanılıyorsa model düşük hassasiyetle yüklenir ve bu nedenle daha az CUDA belleği gerektirir

Başlamanıza yardımcı olmak için, başarılı bir şekilde ince ayar yapılabilecek farklı bulut sunucusu türleri, hiper parametreler ve model türlerinden oluşan bir dizi kombinasyon sunuyoruz. Gereksinimlerinize ve bulut sunucusu türlerinin kullanılabilirliğine göre bir yapılandırma seçebilirsiniz. Özetleme örnekleriyle birlikte Dolly veri kümesinin bir alt kümesinde üç dönem içeren çeşitli ayarlarda üç modelin tamamına ince ayar yapıyoruz.

7B modeli

Aşağıdaki tabloda 7B modelindeki ince ayar seçenekleri özetlenmektedir.

13B

Aşağıdaki tabloda 13B modelindeki ince ayar seçenekleri özetlenmektedir.

70B

Aşağıdaki tabloda 70B modelindeki ince ayar seçenekleri özetlenmektedir.

Örnek türleri ve hiper parametrelere ilişkin öneriler

Modelin doğruluğuna ince ayar yaparken aşağıdakileri aklınızda bulundurun:

• 70B gibi daha büyük modeller 7B'den daha iyi performans sağlar
• Int8 nicelemesiz performans, INT8 nicelemeli performanstan daha iyidir

Aşağıdaki eğitim süresine ve CUDA bellek gereksinimlerine dikkat edin:

• ayar int8_quantization=True Bellek gereksinimini azaltır ve daha hızlı eğitime yol açar.
• Azalan per_device_train_batch_size ve max_input_length bellek gereksinimini azaltır ve bu nedenle daha küçük örneklerde çalıştırılabilir. Ancak değerlerin çok düşük ayarlanması eğitim süresini artırabilir.
• Int8 nicelemesini kullanmıyorsanız (int8_quantization=False), FSDP'yi kullanın (enable_fsdp=True) daha hızlı ve verimli eğitim için.

Bulut sunucusu tipini seçerken aşağıdakileri göz önünde bulundurun:

• G5 bulut sunucuları, desteklenen bulut sunucusu türleri arasında en verimli eğitimi sağlar. Bu nedenle G5 bulut sunucularınız varsa bunları kullanmalısınız.
• Eğitim süresi büyük ölçüde GPU sayısına ve mevcut CUDA belleğine bağlıdır. Bu nedenle, aynı sayıda GPU'ya (örneğin, ml.g5.2xlarge ve ml.g5.4xlarge) sahip bulut sunucuları üzerinde eğitim kabaca aynıdır. Bu nedenle eğitim için daha ucuz örneği kullanabilirsiniz (ml.g5.2xlarge).
• p3 örnekleri kullanıldığında bfloat32 bu örneklerde desteklenmediği için eğitim 16 bit hassasiyetle yapılacaktır. Bu nedenle eğitim işi, p3 bulut sunucuları üzerinde eğitim sırasında g5 bulut sunucularına kıyasla iki kat daha fazla CUDA belleği tüketecektir.

Örnek başına eğitim maliyeti hakkında bilgi edinmek için bkz. Amazon EC2 G5 Örnekleri.

Veri seti talimat ayarlama formatındaysa ve giriş+tamamlama dizileri küçükse (50-100 kelime gibi), bu durumda yüksek bir değere sahip olursunuz. max_input_length çok düşük performansa yol açar. Bu parametrenin varsayılan değeri -1'dir ve bu da şuna karşılık gelir: max_input_length Lama modelleri için 2048. Bu nedenle veri kümeniz küçük örnekler içeriyorsa küçük bir değer kullanmanızı öneririz. max_input_length (200–400 gibi).

Son olarak, G5 bulut sunucularına olan talebin yüksek olması nedeniyle bu bulut sunucularının bölgenizde kullanılamaması hatasıyla karşılaşabilirsiniz. “CapacityError: Unable to provision requested ML compute capacity. Please retry using a different ML instance type.” Bu hatayla karşılaşırsanız eğitim işini yeniden deneyin veya farklı bir Bölge deneyin.

Çok büyük modellerde ince ayar yapılırken karşılaşılan sorunlar

Bu bölümde çok büyük modellere ince ayar yaparken iki konuyu tartışacağız.

Çıkış sıkıştırmasını devre dışı bırak

Varsayılan olarak bir eğitim işinin çıktısı, Amazon S3'e yüklenmeden önce .tar.gz biçiminde sıkıştırılmış eğitimli bir modeldir. Ancak modelin boyutunun büyük olması nedeniyle bu adım uzun sürebilmektedir. Örneğin 70B modelinin sıkıştırılması ve yüklenmesi 4 saatten fazla sürebilmektedir. Bu sorunu önlemek için SageMaker eğitim platformunun desteklediği çıktı sıkıştırmayı devre dışı bırakma özelliğini kullanabilirsiniz. Bu durumda model, dağıtım için ayrıca kullanılan herhangi bir sıkıştırma olmadan yüklenir:

estimator = JumpStartEstimator(
model_id=model_id, environment={"accept_eula": "true"}, disable_output_compression=True
)

SageMaker Studio çekirdeği zaman aşımı sorunu

Llama 70B modelinin boyutundan dolayı eğitim işi birkaç saat sürebilir ve SageMaker Studio çekirdeği eğitim aşamasında ölebilir. Ancak bu süre zarfında SageMaker'da eğitim devam etmektedir. Böyle bir durumda uç noktayı aşağıdaki kodla eğitim işi adını kullanarak dağıtmaya devam edebilirsiniz:

from sagemaker.jumpstart.estimator import JumpStartEstimator
training_job_name = <<<INSERT_TRAINING_JOB_NAME>>> attached_estimator = JumpStartEstimator.attach(training_job_name, model_id)
attached_estimator.logs()
attached_estimator.deploy()

Eğitim işi adını bulmak için SageMaker konsoluna gidin ve Eğitim gezinme bölmesinde öğesini seçin. Eğitim işleri. Eğitim işi adını tanımlayın ve bunu önceki kodda değiştirin.

Sonuç

Bu yazıda, SageMaker JumpStart'ı kullanarak Meta'nın Llama 2 modellerine ince ayar yapmayı tartıştık. Bu modellere ince ayar yapmak ve dağıtmak için SageMaker Studio'daki SageMaker JumpStart konsolunu veya SageMaker Python SDK'yı kullanabileceğinizi gösterdik. Ayrıca ince ayar tekniğini, örnek türlerini ve desteklenen hiperparametreleri de tartıştık. Ayrıca, yürüttüğümüz çeşitli testlere dayanarak optimize edilmiş eğitim önerilerinin ana hatlarını çizdik. Üç modelin iki veri kümesi üzerinde ince ayarının sonuçları bu yazının sonundaki ekte gösterilmektedir. Bu sonuçlardan da görebileceğimiz gibi, ince ayar, ince ayar yapılmayan modellere kıyasla özetlemeyi geliştirir. Bir sonraki adım olarak, kullanım senaryolarınız için sonuçları test etmek ve kıyaslamak amacıyla GitHub deposunda sağlanan kodu kullanarak bu modellere kendi veri kümenizde ince ayar yapmayı deneyebilirsiniz.

Yazarlar, Christopher Whitten, Xin Huang, Kyle Ulrich, Sifei Li, Amy You, Adam Kozdrowicz, Evan Kravitz, Benjamin Crabtree, Haotian An, Manan Shah, Tony Cruz, Ernev Sharma, Jonathan Guinegagne ve June'a teknik katkılarından dolayı teşekkür etmek ister. Kazanmak.

Yazarlar Hakkında

Dr.Vivek Madan Amazon SageMaker JumpStart ekibinde Uygulamalı Bilim Adamıdır. Doktorasını Urbana-Champaign'deki Illinois Üniversitesi'nden aldı ve Georgia Tech'de Doktora Sonrası Araştırmacıydı. Makine öğrenimi ve algoritma tasarımında aktif bir araştırmacıdır ve EMNLP, ICLR, COLT, FOCS ve SODA konferanslarında makaleler yayınlamıştır.

Dr. Farooq Sabir AWS'de Kıdemli Yapay Zeka ve Makine Öğrenimi Uzmanı Çözüm Mimarıdır. Austin'deki Texas Üniversitesi'nden Elektrik Mühendisliği alanında doktora ve yüksek lisans derecelerine ve Georgia Institute of Technology'den Bilgisayar Bilimleri alanında yüksek lisans derecesine sahiptir. 15 yılı aşkın iş tecrübesine sahiptir ve ayrıca üniversite öğrencilerine ders vermeyi ve rehberlik etmeyi sever. AWS'de müşterilerin veri bilimi, makine öğrenimi, bilgisayar görüşü, yapay zeka, sayısal optimizasyon ve ilgili alanlarda iş sorunlarını formüle etmelerine ve çözmelerine yardımcı olur. Dallas, Teksas'ta yaşayan o ve ailesi seyahat etmeyi ve uzun yolculuklara çıkmayı seviyor.

Ashish Khetan Amazon SageMaker JumpStart'ta Kıdemli Uygulamalı Bilim Adamıdır ve makine öğrenimi algoritmalarının geliştirilmesine yardımcı olur. Doktora derecesini University of Illinois Urbana-Champaign'den almıştır. Makine öğrenimi ve istatistiksel çıkarım alanlarında aktif bir araştırmacıdır ve NeurIPS, ICML, ICLR, JMLR, ACL ve EMNLP konferanslarında birçok makale yayınlamıştır.

Ek

Bu ek, performans kıyaslaması ve veri kümesi biçimlendirmesi hakkında ek bilgi sağlar.

Performans karşılaştırması

Bu bölümde, iki farklı veri kümesinde üç Llama 2 modelinin (7B, 13B ve 70B) ince ayarının yapılmasına yönelik sonuçları sağlıyoruz: bebek ve İletişim toplamı. Dolly veri kümesi için görevimiz bir metin paragrafını özetlemektir; Dialogsum için ise iki kişi arasındaki bir tartışmayı özetlemek için modele ince ayar yapıyoruz. Aşağıdaki tablolarda, üç Lama'nın her biri için modele girişi (istem ve talimatlar), temel gerçeği (özet), önceden eğitilmiş Llama 2 modelinden gelen yanıtı ve ince ayarlı Llama 2 modelinden gelen yanıtı gösteriyoruz. 2 model. Beş veri noktası için çıkarım sonuçlarını gösteriyoruz. Aşağıdaki tablolardan, modellere ince ayar yaptığımızda özetlerin her iki veri kümesi için de iyileştiğini fark edebilirsiniz.

• Dolly veri kümesinde Llama 2 7B metin oluşturma modeline ince ayar yapılmasına ilişkin sonuçlar:

• Dolly veri kümesinde Llama 2 13B metin oluşturma modeline ince ayar yapılmasına ilişkin sonuçlar:

• Dolly veri kümesinde Llama 2 70B metin oluşturma modeline ince ayar yapılmasına ilişkin sonuçlar:

• Dialogsum veri kümesinde Llama 2 7B metin oluşturma modeline ince ayar yapılmasına ilişkin sonuçlar:

• Dialogsum veri kümesinde Llama-2 13B modeline ince ayar yapılmasına ilişkin sonuçlar:

• Dialogsum veri kümesinde Llama 2 70B modeline ince ayar yapılmasına ilişkin sonuçlar:

Veri kümesi biçimlendirmesi

Şu anda iki tür ince ayar sunuyoruz: talimat ince ayarı ve etki alanı uyarlama ince ayarı. Parametresini belirterek eğitim yöntemlerinden birine kolaylıkla geçiş yapabilirsiniz. instruction_tuned gibi 'True'veya'False'.

Etki alanı uyarlama biçimi

Metin oluşturma modeline ayrıca herhangi bir alana özgü veri kümesi üzerinde ince ayar yapılabilir. Etki alanına özgü veri kümesinde ince ayar yapıldıktan sonra modelin, alana özgü metin üretmesi ve o belirli etki alanındaki çeşitli NLP görevlerini birkaç adımlık yönlendirmeyle çözmesi bekleniyor.

Modele giriş yapmak için bir eğitim ve isteğe bağlı doğrulama dizini kullanın. Her dizin bir CSV, JSON veya TXT dosyası içerir. CSV ve JSON dosyaları için eğitim veya doğrulama verileri, metin adı verilen sütundan veya sütun çağrılmadıysa ilk sütundan kullanılır. text bulunan. Eğitilmekte ve doğrulanmakta olan (varsa) dosya sayısı sırasıyla 1'e eşit olmalıdır.

Çıktı, çıkarım için kullanılabilecek eğitimli bir modeldir.

Aşağıda metin oluşturma modeline ince ayar yapmaya yönelik bir TXT dosyası örneği verilmiştir. TXT dosyası, Amazon'un 2021-2022 yılları arasındaki SEC kayıtlarıdır:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of the Securities Exchange Act of 1934. Forward-looking statements may appear
throughout this report, including the following sections: “Business” (Part I,
Item 1 of this Form 10-K), “Risk Factors” (Part I, Item 1A of this Form 10-K),
and “Management’s Discussion and Analysis of Financial Condition and Results
of Operations” (Part II, Item 7 of this Form 10-K). These forward-looking
statements generally are identified by the words “believe,” “project,”
“expect,” “anticipate,” “estimate,” “intend,” “strategy,” “future,”
“opportunity,” “plan,” “may,” “should,” “will,” “would,” “will be,” “will
continue,” “will likely result,” and similar expressions. Forward-looking
statements are based on current expectations and assumptions that are subject
to risks and uncertainties that may cause actual results to differ materially.
We describe risks and uncertainties that could cause actual results and events
to differ materially in “Risk Factors,” “Management’s Discussion and Analysis
of Financial Condition and Results of Operations,” and “Quantitative and
Qualitative Disclosures about Market Risk” (Part II, Item 7A of this Form
10-K). Readers are cautioned not to place undue reliance on forward-looking
statements, which speak only as of the date they are made. We undertake no
obligation to update or revise publicly any forward-looking statements,
whether because of new information, future events, or otherwise. GENERAL Embracing Our Future ...

Talimat ince ayarı

Metin oluşturma modeli, verilerin beklenen formatta olması koşuluyla herhangi bir metin verisi üzerinde talimatla ayarlanabilir. Talimat ayarlı model çıkarım için daha da kullanılabilir.

Giriş için bir eğitim ve isteğe bağlı doğrulama dizini kullanın. Eğitim ve doğrulama dizinleri bir veya daha fazla JSON satırı (.jsonl) biçimli dosya içermelidir. Özellikle tren dizini, giriş ve çıkış formatlarını açıklayan isteğe bağlı bir *.json dosyası da içerebilir.

En iyi model, her dönemin sonunda hesaplanan doğrulama kaybına göre seçilir. Bir doğrulama seti verilmemişse, eğitim verilerinin (ayarlanabilir) bir yüzdesi otomatik olarak bölünür ve doğrulama için kullanılır.

Eğitim verileri, her satırın tek bir veri örneğini temsil eden bir sözlük olduğu JSON satırları (.jsonl) biçiminde biçimlendirilmelidir. Tüm eğitim verileri tek bir klasörde olmalıdır; ancak birden fazla .jsonl dosyasına kaydedilebilir. .jsonl dosya uzantısı zorunludur. Eğitim klasörü ayrıca bir template.json Giriş ve çıkış formatlarını açıklayan dosya. Şablon dosyası verilmediği takdirde aşağıdaki şablon kullanılacaktır:

{ "prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.nn### Instruction:n{instruction}nn### Input:n{context}`, "completion": "{response}",
}

Bu durumda JSON satır girişlerindeki verilerin şunları içermesi gerekir: prompt ve completion alanlar. Özel bir şablon sağlanmışsa, aynı zamanda şunu da kullanmalıdır: prompt ve completion Giriş ve çıkış şablonlarını tanımlamak için tuşlar. Aşağıda örnek bir özel şablon verilmiştir:

{ "prompt": "question: {question} context: {context}", "completion": "{answer}"
}

Burada JSON satır girişlerindeki veriler şunları içermelidir: question, context, ve answer alanları.

Çıktı, çıkarım için kullanılabilecek eğitimli bir modeldir.

Amazon'un SEC başvuru verilerinin bir alt kümesini sağlıyoruz. Herkese açık kaynaklardan indirilir EDGAR. Verilere erişmeye ilişkin talimatlar için bkz. EDGAR Verilerine Erişim.

Lisans: Creative Commons Attribution-ShareAlike Lisansı (CC BY-SA 4.0)

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• ChartPrime. Ticaret Oyununuzu ChartPrime ile yükseltin. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/fine-tune-llama-2-for-text-generation-on-amazon-sagemaker-jumpstart/