Bing Chat GPU'ya o kadar aç ki Microsoft Oracle'ı kiralayacak

Bing Chat GPU'ya o kadar aç ki Microsoft Oracle'ı kiralayacak

Zaman Damgası: 7 Kasım 2023 7:27
Bing Chat GPU'ya o kadar aç ki Microsoft, Oracle'ın PlatoBlockchain Veri Zekasını kiralayacak. Dikey Arama. Ai.

Görünüşe göre Microsoft'un yapay zeka hizmetlerine olan talep o kadar fazla ki ya da Redmond'un kaynakları o kadar kısıtlı ki yazılım devi, Salı günü açıklanan çok yıllık bir anlaşmanın parçası olarak Bing Search tarafından kullanılan bazı makine öğrenimi modellerini Oracle'ın GPU üst kümesine aktarmayı planlıyor.

Microsoft'un Arama ve Yapay Zeka pazarlama ekibine başkanlık eden Divya Kumar, "Oracle ile olan işbirliğimiz ve Oracle Bulut altyapısını Microsoft Azure yapay zeka altyapımızla birlikte kullanmamız, müşterilere erişimi genişletecek ve birçok arama sonucumuzun hızını artıracak" dedi. içinde ifade.

Ortaklık esas olarak şuna dayanıyor: Microsoft, AI hizmetlerinin iddia edilen "patlayıcı büyümesine" ayak uydurmak için daha fazla bilgi işlem kaynağına ihtiyaç duyuyor ve Oracle'ın kiralık on binlerce Nvidia A100 ve H100 GPU'su var. Larry-Ellison'ın kurduğu veri tabanı devinin silikon stoklarını tüketecek kadar bulut müşterisine sahip olmadığını söylemek bize düşmez.

Microsoft, üretken bir yapay zeka sohbet robotunu arama motoruna entegre eden ilk şirketlerden biriydi. başlatmak Şubat ayında Bing Chat'in. Artık hepiniz işin yöntemini biliyorsunuz: Bing Chat'e bilgi istemleri, istekler veya sorgular gönderebilirsiniz; o da bilgi aramaya, kötü şiir yazmaya, resimler ve diğer içerikler oluşturmaya vb. çalışacaktır.

Hizmetin temelini oluşturan büyük dil modelleri, yalnızca eğitmek için devasa GPU kümelerini değil, aynı zamanda çıkarımın (bir modeli çalıştırma süreci) geniş ölçekte çalıştırılmasını da gerektirir. Bu çıkarım çalışmasına yardımcı olacak şey Oracle'ın GPU yığınıdır.

İki bulut sağlayıcısının en son işbirliği, Azure'da çalışan hizmetlerin Oracle Bulut Altyapısı'ndaki (OCI) kaynaklarla etkileşime girmesine olanak tanıyan Oracle Interconnect for Microsoft Azure'dan yararlanıyor. İki süper kolordu var Önceden Müşterilerin Azure'da çalışan iş yüklerini tekrar OCI veritabanlarına bağlamasına olanak sağlamak için bu hizmeti kullandı.

Bu durumda Microsoft, Bing'in yapay zeka özelliklerine yönelik taleplere ayak uydurmak amacıyla Oracle'ın GPU düğümlerini düzenlemek için sistemi Azure Kubernetes Hizmeti ile birlikte kullanıyor.

StatCounter'a göre Ekim 2023 için Bing'in Yüzde 3.1 artış. Tüm platformlar için küresel web arama pazar payı; Google'ın yüzde 91.6'sına kıyasla bu oran bir önceki aya göre yüzde 3'tü. Masaüstünde Bing yüzde 9.1'e, tabletlerde ise yüzde 4.6'ya yükseldi.

Belki StatCounter yanılıyordur; belki de Microsoft'un geveze arama motoru sandığımız kadar şaşırtıcı derecede popüler değildir. Belki Microsoft, Bing'in yüksek talep görüyormuş gibi görünmesini istiyor; belki Redmond'un gerçekten ekstra hesaplamaya ihtiyacı vardır.

Oracle, muhtemelen Bing'in kullanacağı bulut süper kümelerinin her birinin ultra düşük gecikme süreli Uzaktan Doğrudan Bellek Erişimi (RDMA) ağı kullanarak 32,768 Nvidia A100 veya 16,384 H100 GPU'ya kadar ölçeklenebileceğini iddia ediyor. Bu, yüksek düzeyde paralel uygulamaları desteklemek üzere tasarlanmış petabaytlarca yüksek performanslı küme dosya depolama alanıyla desteklenir.

Microsoft, AI hizmetleri ve uygulamaları için Oracle'ın GPU düğümlerinden kaç tanesine ihtiyaç duyduğunu henüz söylemedi ve söylemeyecek. Bir sözcü bize şunları söyledi: "Bunlar, bu duyurunun bir parçası olarak paylaştığımız ayrıntılar değil." Daha fazla bilgi için Oracle'a da başvurduk ve herhangi bir yanıt alırsak size haber vereceğiz.

Bu, düşmanların yardım için birbirlerine yaslandıkları ilk sefer değil. Eylül ayında Oracle açıkladı veritabanı sistemlerini Microsoft Azure veri merkezlerinde bir arada bulunduracaktır. Bu durumda işbirliğinin amacı, OCI'de çalışan Oracle veritabanlarının Azure'daki iş yüklerine bağlanmasıyla ilişkili gecikmeyi azaltmaktı. ®

Zaman Damgası:

Den fazla Kayıt