Çam Kozalağı Yatırımı

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

Büyük dil modellerinin (LLM'ler) değişmesiyle birlikte, yazılım geliştirmede ve bir bütün olarak bilgisayar endüstrisinde bir paradigma değişikliğine tanık oluyoruz. Yapay zeka gerçekleşiyor ve gözlerimizin önünde yeni bir yığın oluşuyor. Bu, işleri yeni bir şekilde yapmanın yeni yolu için oluşturulmuş yeni altyapı bileşenlerini hizmete çağıran İnternet'in yeniden başlaması gibidir..

Yüksek Lisans'ların aslında yeni bir bilgisayar biçimi, bazı durumlarda. Doğal dilde yazılmış “programları” çalıştırabilirler (örn. istemler), isteğe bağlı hesaplama görevlerini yürütebilirler (örn. Python kodu yazmak veya Google'da arama yapmak) ve sonuçları kullanıcıya insan tarafından okunabilir bir biçimde geri gönderebilirler. Bu iki nedenden dolayı büyük bir olaydır:

Özetleme ve üretken içerik etrafında yeni bir uygulama sınıfı Artık yazılım tüketimine ilişkin tüketici davranışının değişmesiyle sonuçlanması mümkün.
Artık yeni bir geliştirici sınıfı yazılım yazabiliyor. Bilgisayar programlama artık Python veya JavaScript gibi geleneksel bir programlama dilinde eğitim almayı değil, yalnızca İngilizceye (veya başka bir insan diline) hakim olmayı gerektiriyor.

Andreessen Horowitz olarak en önemli önceliklerimizden biri, bu yeni yapay zeka yığınının temel bileşenlerini oluşturan şirketleri belirlemektir. 100 milyon dolarlık B Serisi turuna liderlik ettiğimizi duyurmaktan heyecan duyuyoruz. Çam kozalağıAI uygulamaları için bellek katmanı olma vizyonlarını desteklemek.

Sorun: Yüksek Lisans'lar halüsinasyon görüyor ve vatansızlar

Mevcut Yüksek Lisans'ların en büyük sorunu halüsinasyondur. Gerçeklere dayanan ve bazen mantıksal olarak yanlış olan çok emin cevaplar veriyorlar. Örneğin, Apple'ın son çeyreğe ilişkin brüt kar marjını Yüksek Lisans'a sormak, 63 milyar dolarlık kendinden emin bir yanıtla sonuçlanabilir. Hatta model, 25 milyar dolarlık gelirden mal maliyetinin 95 milyar dolarını çıkardığınızda 63 milyar dolarlık brüt kar marjı elde edeceğinizi açıklayarak cevabını destekleyebilir. Elbette birkaç açıdan yanlış:

Birincisi, LLM'nin gerçek zamanlı verileri olmadığından gelir numarası yanlıştır. Aylarca veya muhtemelen yıllarca eski olan eski eğitim verileri üzerinde çalışıyor.
İkincisi, bu gelir ve mal maliyeti rakamlarını başka bir meyve şirketinin mali tablolarından rastgele topladı.
Üçüncüsü, brüt kar marjı hesaplaması matematiksel olarak doğru değil.

Bu cevabı bir şirketin CEO'suna verdiğinizi hayal edin. Kısmet 500 şirket.

Bütün bunlar, sonuçta LLM'lerin büyük miktarda üçüncü taraf internet verileriyle eğitilmiş tahmin makineleri olması nedeniyle oluyor. Çoğu zaman kullanıcının ihtiyaç duyduğu bilgiler eğitim setinde bulunmaz. Böylece model, eski eğitim verilerine dayanarak en olası ve dilsel olarak iyi biçimlendirilmiş yanıtları verecektir. Yukarıdaki soruna yönelik potansiyel bir çözümü şimdiden görmeye başlayabiliriz: bağlamsal olarak ilgili özel girişim verilerinin gerçek zamanlı olarak LLM'lere beslenmesi.

Bu sorunun genel şekli, sistem perspektifinden bakıldığında, LLM'lerin ve diğer birçok yapay zeka modelinin çıkarım adımında durumsuz olmasıdır. GPT-4 API'ye her çağrı yaptığınızda çıktı, bir tek yükte gönderdiğiniz veriler ve parametreler üzerinde. Modelin bağlamsal verileri birleştirmenin veya daha önce sorduklarınızı hatırlamanın yerleşik bir yolu yoktur. Modelde ince ayar yapmak mümkündür ancak pahalıdır ve nispeten esnek değildir (yani model yeni verilere gerçek zamanlı olarak yanıt veremez). Modeller durumu veya belleği kendi başlarına yönetmediğinden, boşluğu doldurmak geliştiricilere kalmıştır.

Çözüm: Vektör veritabanları Yüksek Lisans'lar için depolama katmanıdır

Çam kozalağının devreye girdiği yer burasıdır.

Pinecone, geliştiricilerin LLM uygulamaları için ilgili bağlamsal verileri depolayabildiği harici bir veritabanıdır. Geliştiriciler, her API çağrısında büyük belge koleksiyonlarını ileri geri göndermek yerine, bunları bir Pinecone veritabanında saklayabilir ve ardından herhangi bir sorguyla yalnızca en alakalı birkaçını seçebilir; bu yaklaşıma bağlam içi öğrenme adı verilir. Kurumsal kullanım durumlarının gerçekten gelişmesi için sahip olunması gereken bir şey.

Özellikle Çam Kozalağı bir vektör veri tabanı, verilerin anlamsal olarak anlamlı biçimde saklandığı anlamına gelir kalıplamaların. Gömmelerin teknik açıklaması bu yazının kapsamı dışında olsa da anlaşılması gereken önemli nokta, LLM'lerin aynı zamanda vektör yerleştirmeler üzerinde de çalıştığıdır; dolayısıyla veriler Pinecone'da bu formatta depolanarak yapay zeka çalışmasının bir kısmı etkili bir şekilde önceden işlendi ve veritabanına yüklendi.

Atomik işlemsel veya kapsamlı analitik iş yükleri için tasarlanmış mevcut veritabanlarının aksine, (Pinecone) vektör veritabanı, yüksek boyutlu vektörler için doğru veritabanı paradigması olan, sonuçta tutarlı yaklaşık komşu araması için tasarlanmıştır. Ayrıca OpenAI, Cohere, LangChain vb. gibi AI uygulamalarının diğer temel bileşenleriyle entegre olan geliştirici API'leri de sağlarlar. Böylesine iyi düşünülmüş bir tasarım, geliştiricilerin hayatlarını çok daha kolaylaştırır. Anlamsal arama, ürün önerileri veya feed sıralaması gibi basit yapay zeka görevleri de doğrudan vektör arama sorunları olarak modellenebilir ve son model çıkarım adımı olmadan vektör veritabanında çalıştırılabilir. mevcut veritabanlarının yapamayacağı bir şey.

Çam kozalağı, LLM uygulamalarında durum ve bağlamsal kurumsal verileri yönetmek için ortaya çıkan standarttır. Bunun, yepyeni bir yapay zeka uygulama yığınına depolama veya "bellek" katmanı sağlayan önemli bir altyapı bileşeni olduğunu düşünüyoruz.

Çam kozalağı için bugüne kadar inanılmaz ilerleme

Çam kozalağı tek vektör veritabanı değil, ancak önemli bir farkla artık gerçek dünyada benimsenmeye hazır olan önde gelen vektör veritabanı olduğuna inanıyoruz. Pinecone, Shopify, Gong, Zapier ve daha fazlası gibi ileriye dönük teknoloji şirketleri de dahil olmak üzere yalnızca üç ayda ücretli müşteri sayısında 8 kat büyüme (yaklaşık 1,600) gördü. Kurumsal yazılım, tüketici uygulamaları, e-ticaret, fintech, sigorta, medya ve AI/ML dahil olmak üzere çok çeşitli sektörlerde kullanılmaktadır.

Bu başarıyı yalnızca ekibin kullanıcı, pazar ve teknoloji konusundaki derin anlayışına değil, aynı zamanda - kritik olarak - başlangıçtan itibaren bulut yerel ürün yaklaşımına da bağlıyoruz. Bu hizmeti oluşturmanın en zor kısımlarından biri, çok çeşitli müşteri performans hedeflerini ve SLA'ları karşılayan güvenilir, yüksek oranda kullanılabilir bir bulut arka ucu sağlamaktır. Ürün mimarisi üzerindeki birçok yinelemeyle ve üretimde çok sayıda yüksek ölçekli, ücretli müşteriyi yöneten bu ekip, bir üretim veritabanından beklenen operasyonel mükemmelliği göstermiştir.

Çam kozalağı Her işletmenin LLM'lerin üzerine kullanım senaryoları oluşturmasını nasıl sağlayabilecekleri de dahil olmak üzere, vektör veritabanlarının makine öğrenimindeki öneminin uzun süredir sıkı bir savunucusu olan Edo Liberty tarafından kuruldu. Uygulamalı bir matematikçi olarak kariyerini en ileri vektör arama algoritmalarını inceleyerek ve uygulayarak geçirdi. Aynı zamanda, AWS'de Sagemaker gibi temel makine öğrenimi araçları geliştiren ve uygulamalı makine öğrenimi araştırmalarını müşterilerin kullanabileceği pratik ürünlere dönüştüren bir pragmatistti. Derin araştırma ve pragmatik ürün düşüncesinin bu kadar birleşimini görmek nadirdir.

Edo'ya, operasyon tarafında Başkan ve COO olarak ortak olarak deneyimli bir CEO ve operatör (önceden Couchbase'de faaliyet gösteren) Bob Wiederhold eşlik ediyor. Pinecone ayrıca AWS, Google ve Databricks gibi yerlerden derin bulut sistemleri uzmanlığına sahip harika bir yönetici ve mühendis ekibine sahiptir. Ekibin derin mühendislik uzmanlığından, geliştirici deneyimine odaklanmasından ve verimli GTM uygulamasından etkilendik ve yapay zeka uygulamaları için bellek katmanını oluşturmak üzere onlarla ortaklık kurma ayrıcalığına sahip olduk.

* * *

Burada ifade edilen görüşler, alıntı yapılan bireysel AH Capital Management, LLC (“a16z”) personelinin görüşleridir ve a16z veya iştiraklerinin görüşleri değildir. Burada yer alan belirli bilgiler, a16z tarafından yönetilen fonların portföy şirketleri de dahil olmak üzere üçüncü taraf kaynaklardan elde edilmiştir. a16z, güvenilir olduğuna inanılan kaynaklardan alınmış olsa da, bu tür bilgileri bağımsız olarak doğrulamamıştır ve bilgilerin kalıcı doğruluğu veya belirli bir duruma uygunluğu hakkında hiçbir beyanda bulunmaz. Ayrıca, bu içerik üçüncü taraf reklamlarını içerebilir; a16z, bu tür reklamları incelememiştir ve burada yer alan herhangi bir reklam içeriğini onaylamaz.

Bu içerik yalnızca bilgilendirme amaçlıdır ve yasal, ticari, yatırım veya vergi tavsiyesi olarak kullanılmamalıdır. Bu konularda kendi danışmanlarınıza danışmalısınız. Herhangi bir menkul kıymete veya dijital varlığa yapılan atıflar yalnızca açıklama amaçlıdır ve yatırım tavsiyesi veya yatırım danışmanlığı hizmetleri sağlama teklifi teşkil etmez. Ayrıca, bu içerik herhangi bir yatırımcıya veya muhtemel yatırımcılara yönelik değildir veya bu içerik tarafından kullanılması amaçlanmamıştır ve a16z tarafından yönetilen herhangi bir fona yatırım yapma kararı verilirken hiçbir koşulda bu içeriğe güvenilemez. (Bir a16z fonuna yatırım yapma teklifi, yalnızca tahsisli satış mutabakatı, abonelik sözleşmesi ve bu tür bir fonun diğer ilgili belgeleri ile yapılacaktır ve bunların tamamı okunmalıdır.) Bahsedilen, atıfta bulunulan veya atıfta bulunulan herhangi bir yatırım veya portföy şirketi veya a16z tarafından yönetilen araçlara yapılan tüm yatırımları temsil etmemektedir ve yatırımların karlı olacağına veya gelecekte yapılacak diğer yatırımların benzer özelliklere veya sonuçlara sahip olacağına dair hiçbir garanti verilemez. Andreessen Horowitz tarafından yönetilen fonlar tarafından yapılan yatırımların bir listesi (ihraççının a16z'nin kamuya açıklanmasına izin vermediği yatırımlar ve halka açık dijital varlıklara yapılan habersiz yatırımlar hariç) https://a16z.com/investments adresinde bulunabilir. /.

İçerisinde yer alan çizelgeler ve grafikler yalnızca bilgilendirme amaçlıdır ve herhangi bir yatırım kararı verirken bunlara güvenilmemelidir. Geçmiş performans gelecekteki sonuçların göstergesi değildir. İçerik yalnızca belirtilen tarih itibariyle konuşur. Bu materyallerde ifade edilen tüm tahminler, tahminler, tahminler, hedefler, beklentiler ve/veya görüşler önceden bildirilmeksizin değiştirilebilir ve farklı olabilir veya başkaları tarafından ifade edilen görüşlere aykırı olabilir. Ek önemli bilgiler için lütfen https://a16z.com/disclosures adresine bakın.