Meta ve Qualcomm Sonunda LLaMA AI'yı Quest'e Getirebilir

Meta ve Qualcomm Sonunda LLaMA AI'yı Quest'e Getirebilir

Zaman Damgası: 21 Temmuz 2023 10:11

Qualcomm, LLaMA AI modellerini cihazda çalışacak şekilde optimize etmek için Meta ile birlikte çalıştığını söylüyor.

Çabayı duyuran tweet'te Qualcomm, cihaz kategorilerinden biri olarak 'XR'yi listeliyor.

LLaMA, OpenAI'nin kapalı kaynak GPT serisine benzer bir transformatör mimarisi kullanan Meta'nın açık kaynak büyük dil modelleri (LLM'ler) ailesidir.

Bu hafta Meta yayınlandı LLaMA 2kıyaslamaların gösterdiği gibi, diğer tüm açık kaynaklı büyük dil modellerinden daha iyi performans gösteriyor ve hatta OpenAI'nin ChatGPT'nin ücretsiz sürümüne güç veren model olan GPT-3.5'e yaklaşıyor.

Yine de büyük dil modellerinin mobil yonga setlerinde makul hızlarda çalışmasını sağlamak çok büyük bir zorluk olabilir ve yakın zamanda gerçekleşemeyebilir - özellikle sistemin saniyede minimum 72 kare hızında izleme ve işlemeyi çalıştırmak için yeterli ek yüke ihtiyaç duyduğu VR'de.

Örneğin, LLaMA 2'nin en küçük varyantı olan 7 milyar parametreli modeli çalıştırmak bile tam hassasiyette 28 GB RAM gerektirir. Son zamanlarda tamirciler LLM'leri 3.5 GB kadar az RAM gerektiren daha düşük hassasiyette çalıştırmayı deniyorlar, ancak bu, çıktı kalitesini önemli ölçüde etkiliyor ve hala önemli miktarda CPU ve/veya GPU kaynağı gerektiriyor.

Bu OpenAI GPT-3 Destekli Demo, Gelecekteki NPC'lere Bir Bakış

Modbox'ın geliştiricisi, benzersiz bir demo için Windows konuşma tanıma, OpenAI'nin GPT-3 AI'sı ve Replica'nın doğal konuşma sentezini birbirine bağladı: muhtemelen ilk yapay zekalı sanal karakterlerden biri. Modbox, SteamVR desteğine sahip çok oyunculu bir oyun oluşturma sanal alanıdır. O…

Meta ve Qualcomm Sonunda LLaMA Yapay Zekasını PlatoBlockchain Veri Zekası Arayışına Getirebilir. Dikey Arama. Ai.

Qualcomm ve Meta sonunda bir Quest kulaklığında çalışan bir LLaMA modeli elde etmeyi başarabilirse, bu, bir dizi çığır açan kullanım senaryosunun önünü açacaktır.

Gerçekten etkinleştirebilir yeni nesil NPC'ler, gerçekten sohbet edebileceğiniz sanal karakterler ve bir oyundaki veya deneyimdeki bilgileri keşfetmek için onlarla etkileşime girebileceksiniz. Bu, kulaklıklarda, daha çok Star Trek'in sanal güvertesi gibi ve mevcut video oyunlarına daha az benzeyen, tamamen yeni deneyim türlerini ateşleyebilir.

Ancak yine de, yakında herhangi bir zamanda cihazda mümkün olacağına dair bir gösterge yok. Yeni ortaklıkları hakkında daha ayrıntılı bilgi almak için Meta ve Qualcomm'a ulaştık ve bir yanıt alırsak bu makaleyi güncelleyeceğiz.

Zaman Damgası:

Den fazla UploadVR