AI ateşini merkezileştirme ile besleyin

Sponsorlu Özellik Ateş, tarım, tekerlek, matbaa ve internet gibi sürekli bir devrim niteliğindeki teknolojiler ve keşifler akışı, insan gelişimini ve uygarlığı derinden şekillendirmiştir. Ve bu inovasyon döngüsü Yapay Zeka (AI) ile devam ediyor. 

Araştırma şirketi IDC, yapay zekanın gerçekten de "her şeyin" yanıtı olduğu sonucuna varacak kadar ileri gitti. IDC'de veri ve analitikten sorumlu başkan yardımcısı Rasmus Andsbjerg şöyle diyor: "Gerçek şu ki, yapay zeka şu anda karşı karşıya olduğumuz her şeye çözümler sunuyor. AI, hızlı takip edilen dijital dönüşüm yolculukları için bir kaynak olabilir, şaşırtıcı enflasyon oranlarının olduğu zamanlarda maliyet tasarrufu sağlar ve işgücü sıkıntısı zamanlarında otomasyon çabalarını destekler."

Daha iyi karar verme ve daha yüksek üretkenlik sağlamak için giderek daha güçlü algoritmalar ve temel altyapı ortaya çıktıkça, kesinlikle ve tüm endüstriler ve işlevler genelinde son kullanıcı kuruluşları yapay zekanın faydalarını keşfetmeye başlıyor. 

Hem AI merkezli hem de AI merkezli olmayan uygulamalar için ilişkili yazılım, donanım ve hizmetler dahil olmak üzere yapay zeka (AI) pazarı için dünya çapındaki gelirler 383.3'de toplam 2021 milyar doları buldu. Bu, önceki yıla göre %20.7 arttı. son International Data Corporation (IDC) Dünya Çapında Altı Aylık Yapay Zeka Takibi.

Benzer şekilde, yapay zeka yazılımının buluta konuşlandırılması istikrarlı bir büyüme göstermeye devam ediyor. IDC, yeni satın alınan yapay zeka yazılımının bulut sürümlerinin 2022'de şirket içi dağıtımları geçmesini bekliyor.

AI için sınır gökyüzüdür

Yapay zeka için bir bilgi işlem yönetimi platformu oluşturan yapay zeka uzmanı Run:ai'nin baş teknoloji sorumlusu Dr. 

“AI, çok hızlı büyüdüğünü gördüğümüz bir pazar. İşletmeler açısından ise makine öğrenimi ve yapay zeka için talep ve benimseme görüyoruz. Ve bence şu anda burada dünyayı değiştirecek yeni yetenekler getiren yeni bir teknoloji var; işletmelerde devrim yaratacak,” diyor Dar. 

Ayrıca, AI ile keşfetmeye ve denemeye başlama ve AI'yı iş modellerine nasıl entegre edeceğinizi anlama ihtiyacı konusunda giderek daha net bir anlayış var.

Dar, AI'nın mevcut kurumsal iş süreçlerini iyileştirmek için "inanılmaz faydalar" sağlayabileceğine inanıyor: "Mevcut işi optimize etme ve kanıtlama açısından, operasyonları ve kararların nasıl alındığını iyileştiren AI ve makine öğrenimi çevresinde birçok kullanım durumu görüyoruz. arz ve talep etrafında.

Sinir ağlarına dayalı yeni derin öğrenme modellerinin, finansal hizmetler endüstrisindeki dolandırıcılık tespiti gibi kritik iş süreçlerini, karar vermeyi ve doğruluğunu iyileştirebileceğine dikkat çekiyor. Sağlık sektörü, özellikle doktorların daha iyi klinik kararlar almasına ve yeni ilaçların keşfedilip geliştirilmesine yardımcı olması açısından yapay zekanın potansiyelinin "devasa" olduğu başka bir sektör. 

Daha da ileriye bakan Dar, AI teknolojisinin şu anda sürücüsüz araçlar ve sürükleyici oyun gibi sektörlerde bulunmayan yepyeni ticari fırsatların sunulmasına yardımcı olacağını tahmin ediyor. 

Aşılması gereken altyapı engelleri

Kuruluşta yapay zeka ve makine öğreniminin bariz potansiyeline rağmen Dar, yapay zekanın ticari olarak konuşlandırılmasının altyapı sağlamayla ilgili sorunlar nedeniyle geri kaldığını kabul ediyor. Firmaların ilk etapta yapay zekanın bir organizasyona nasıl girdiğine bakmaları gerektiğini tavsiye ediyor.

Tipik olarak bu, farklı ekiplerin teknolojiyi ve kaynakları bağımsız olarak tedarik ettiğini ve silolanmış dağıtımlara yol açtığını gören, koordinasyonsuz, departman bazında bir süreci içerir. BT, bu ad hoc projeleri etkili bir şekilde kontrol edemez ve neler olup bittiğini göremez. Bu da yapay zeka altyapı harcaması üzerinden yatırım getirisini hesaplamayı imkansız değilse de zorlaştırıyor. 

Dar, "Bu klasik bir sorun: eskiden gölge BT'ydi ve şimdi gölge yapay zeka" diyor Dar. 

Ayrıca, işletmelerin çok karmaşık verileri işlemek ve modelleri eğitmek için güçlü GPU hızlandırmalı bilgi işlem donanımına ihtiyacı olduğundan, AI/ML için gereken son teknoloji altyapı bir yatırımdır. 

Dar, "Yapay zeka ekiplerinin modelleri eğitmek için çok fazla bilgi işlem gücüne ihtiyacı var ve genellikle silo haline getirilebilen ve verimli bir şekilde kullanılamayan birinci sınıf veri merkezi kaynakları olan GPU'ları kullanıyor" diyor. "Kesinlikle çok fazla paranın boşa gitmesine neden olabilir." 

Bu silolu altyapı, örneğin %10'dan daha az kullanım düzeyiyle sonuçlanabilir.

Run:ai anketine göre, 2021 Yapay Zeka Altyapısı Durumu AraştırmasıEkim 2021'de yayınlanan , yanıtlayanların yüzde 87'si bir düzeyde GPU/bilgi işlem kaynağı tahsisi sorunları yaşadıklarını söylerken, yüzde 12'si bunun sık sık olduğunu söylüyor. Sonuç olarak, ankete katılan şirketlerin yüzde 83'ü GPU ve AI donanımlarını tam olarak kullanmadıklarını bildirdi. Aslında, neredeyse üçte ikisi (yüzde 61), GPU ve AI donanımlarının çoğunlukla "orta" kullanım seviyelerinde olduğunu belirtti.

AI'nın merkezileştirilmesi

Dar, bu sorunları çözmek için yapay zeka kaynaklarının sağlanmasının merkezileştirilmesini savunuyor. Run:AI, AI için tam da bunu yapan, GPU bilgi işlem kaynağını merkezileştiren ve sanallaştıran bir bilgi işlem yönetimi platformu geliştirdi. GPU'ları tek bir sanal katmanda toplayan ve yüzde 100 kullanım için iş yükü planlamasını otomatikleştiren bu yaklaşım, departman düzeyinde silo haline getirilmiş sistemlere kıyasla avantajlar sunar. 

Altyapıyı merkezileştirmek, veri bilimcileri altyapıyı yönetme yükünden kurtarırken kontrolü ve görünürlüğü geri verir. Yapay zeka ekipleri, talep arttıkça veya azaldıkça dinamik olarak artırılıp azaltılabilen evrensel bir yapay zeka bilgi işlem kaynağını paylaşarak talep darboğazlarını ve yetersiz kullanım dönemlerini ortadan kaldırır. 

Dar, bu yaklaşımın kuruluşların donanımlarından en iyi şekilde yararlanmalarına yardımcı olabileceğini ve veri bilimcilerini temel kaynak sınırlamasının kısıtlamalarından kurtarabileceğini savunuyor. Tüm bunlar, daha fazla iş yürütebilecekleri ve daha fazla yapay zeka modelini üretime sokabilecekleri anlamına geliyor. 

King's College London tarafından yönetilen ve merkezi St. Thomas' Hospital'da bulunan London Medical Imaging & Yapay Zeka Değere Dayalı Sağlık Hizmetleri Merkezi'nden bir örnek verilmiştir. Bilgisayar görüşü ve doğal dil işleme için gelişmiş derin öğrenme algoritmalarını eğitmek için tıbbi görüntüleri ve elektronik sağlık verilerini kullanır. Bu algoritmalar, etkili tarama, daha hızlı teşhis ve kişiselleştirilmiş tedaviler için yeni araçlar oluşturmak için kullanılır.

Merkez, eski yapay zeka altyapısının verimlilik sorunlarından muzdarip olduğunu fark etti: bazı bileşenler için "önemli" boşta kalma süreleri ile toplam GPU kullanımı yüzde 30'un altındaydı. Run:ai platformuna dayalı merkezi bir yapay zeka bilgi işlem sağlama modelini benimseyerek bu sorunları çözmek için harekete geçtikten sonra, deney hızı ve genel araştırma verimliliğinde paralel iyileştirmelerle GPU kullanımı yüzde 110 arttı.

King's College London'da yapay zeka alanında doçent ve kıdemli öğretim görevlisi ve AI Merkezi CTO'su olan Dr M. Jorge Cardoso, “Deneylerimiz birkaç damla bilgi işlem gücü veya tüm bir küme kullanarak günler veya dakikalar alabilir” diyor. "Sonuç alma süresini kısaltmak, insanların sağlığı ve yaşamları hakkında daha kritik sorular sorup yanıtlayabilmemizi sağlıyor." 

Yapay zeka GPU kaynaklarının merkezileştirilmesi, sürücüsüz otomobiller için yapay zeka yazılımı geliştiren Londra merkezli bir şirket olan Wayve'e de değerli ticari avantajlar sağladı. Teknolojisi, yoğun kentsel alanlarda daha iyi otonom sürüş için algılamaya bağlı olmayacak şekilde tasarlandı, bunun yerine daha fazla zekaya odaklanıyor.

Wayve'nin Filo Öğrenim Döngüsü, filoya yerleştirilmeden önce sürekli bir veri toplama, düzenleme, model eğitimi, yeniden simülasyon ve lisanslama modelleri döngüsünü içerir. Şirketin birincil GPU bilgi işlem tüketimi, Fleet Learning Loop üretim eğitiminden geliyor. Ürün temel çizgisini tam veri kümesiyle eğitir ve filo öğrenme döngüsünün yinelemeleri aracılığıyla yeni veriler toplamak için sürekli olarak yeniden eğitir.

Şirket, GPU programlama "dehşetinden" muzdarip olduğunu fark etmeye başladı: Mevcut GPU kaynaklarının yaklaşık yüzde 100'ü araştırmacılara tahsis edilmiş olsa da, test ilk yapıldığında yüzde 45'ten daha azı kullanıldı. 

Wayve, "GPU'lar araştırmacılara statik olarak atandığından, araştırmacılar kendilerine atanan GPU'ları kullanmadığında diğerleri onlara erişemezdi, bu da birçok GPU boştayken bile model eğitimi için GPU'ların kapasitede olduğu yanılsamasını yarattı" diyor. 

Run:ai ile çalışmak, siloları kaldırarak ve kaynakların statik tahsisini ortadan kaldırarak bu sorunu çözdü. Ekiplerin daha fazla GPU'ya erişmesine ve daha fazla iş yükü çalıştırmasına olanak tanıyan paylaşılan GPU havuzları oluşturuldu, bu da kullanımlarında %35'lik bir iyileşme sağladı. 

Ayna CPU verimliliği iyileştirmeleri

VMware'in son yıllarda sunucu CPU'larının maksimum kapasitede nasıl kullanıldığına ilişkin önemli verimlilik iyileştirmeleri getirme biçimini yansıtan yeni yenilikler, yapay zeka bilgi işlem iş yükleri için GPU kullanımının verimliliğini optimize etmeye yönelik olarak artık kullanıma sunuluyor. 

Dar, "CPU'ların üzerinde çalışan yazılım yığınını düşünürseniz, çok sayıda VMware ve sanallaştırma ile oluşturulmuştur" diye açıklıyor. "GPU'lar veri merkezinde nispeten yeni ve yapay zeka ve sanallaştırma yazılımları - örneğin NVIDIA Yapay Zeka Kurumsal – aynı zamanda yeni bir gelişme.” 

“Kesirli GPU, iş değiştirme gibi yeteneklerle bu alana ileri teknoloji getiriyoruz. iş yüklerinin GPU'ları verimli bir şekilde paylaşmasına izin veriyor," diyen Dar, daha fazla geliştirmenin planlandığını da sözlerine ekledi.

Run:ai, kuruluşta GPU kullanımını iyileştirmek ve basitleştirmek için NVIDIA ile yakın işbirliği içinde çalışır. En son işbirliği, bulutta GPU kullanan şirketler için çoklu bulut GPU esnekliğinin etkinleştirilmesini ve NVIDIA Triton Çıkarım Sunucusu üretimde model dağıtma sürecini basitleştirmek için yazılım.

Dar, tarih boyunca büyük yeniliklerin insan ırkı ve dünya üzerinde derin etkiler yaratması gibi, potansiyel dezavantajları yönetirken potansiyel faydalarını en üst düzeye çıkarmak için yapay zekanın gücünün dikkatle kullanılması gerektiğine dikkat çekiyor. Yapay zekayı en ilkel yenilikle karşılaştırır: ateş. 

“Pek çok harika şey getiren ve insan hayatını değiştiren ateş gibi. Ateş tehlikeyi de beraberinde getirdi. Böylece insanlar ateşle nasıl yaşanacağını anladı” diyor Dar. "Sanırım bu, bugünlerde AI'da da var." 

Run:ai sponsorluğunda.