Das Gensyn-Protokoll trainiert vertrauenswürdig neuronale Netze bei Hyperscale mit niedrigerer Größenordnung …

Das Gensyn-Protokoll trainiert vertrauenslos neuronale Netze in Hyperscale mit geringeren Kosten

Links: Gensyn-Website, Litepaper, CoinFund-Portfolio, TechCrunch-Artikel Link

Zusammenfassung der Investitionsthese

• Säkulare Hebelwirkung auf wachsende Komplexität und Wert von ML: Die Rechenkomplexität modernster KI-Systeme verdoppelt sich alle 3 Monate, während der Wert dieser Modelle weiterhin schnell zunimmt, während die frühere Black-Box-Natur dieser Algorithmen nun zunehmend besser angepasst werden kann Menschenverständliche Illuminatoren.
• Neuartiges Design von Koordinations- und Verifikationssystemen: Gensyn baut ein Verifikationssystem (Testnet v1 wird später in diesem Jahr bereitgestellt), das das Zustandsabhängigkeitsproblem beim Training neuronaler Netze in jeder Größenordnung effizient löst. Das System kombiniert Prüfpunkte für das Modelltraining mit probabilistischen Prüfungen, die in der Kette enden. All dies geschieht vertrauenswürdig, und der Overhead skaliert linear mit der Modellgröße (wobei die Verifizierungskosten konstant bleiben).
• Thematischer Fokus auf KI-Dezentralisierung: Die meisten der bekannten Beispiele für Anwendungen des maschinellen Lernens (selbstfahrende Autos von Tesla, Google DeepMind) werden von denselben Unternehmen produziert, weil die Deep-Learning-Branche derzeit wie ein Monopolspiel zwischen Big-Tech-Unternehmen aussieht sowie Staaten wie China und die Vereinigten Staaten. Diese Kräfte führen zu enormen Zentralisierungskräften, die im Widerspruch zu web3 und sogar zu den historischen Ursprüngen von web1 stehen.

CoinFund ist stolz darauf, die jüngste Spendenaktion des Gensyn-Protokolls zu unterstützen und die Vision des Teams, durch ihr neuartiges Verifikationssystem ein vertrauenswürdiges Training neuronaler Netze in Hyperscale und zu geringen Kosten zu ermöglichen. Verwendung von Wahrscheinlichkeitsprüfungen, die in der Kette enden beim Eintippen nicht ausgelastete und nicht ausgelastete Rechenquellen, die von derzeit nicht ausgelasteten Gaming-GPUs bis hin zu ausgeklügelten ETH1-Mining-Pools reichen, die kurz davor stehen, sich vom Ethereum-Netzwerk zu lösen, wenn dieses Netzwerk zum Proof of Stake übergeht, erfordert das Gensyn-Protokoll keinen administrativen Aufseher oder rechtliche Durchsetzung, sondern erleichtert vielmehr die Aufgabenverteilung und Zahlungen programmgesteuert durch intelligente Verträge. Besser noch, die dezentrale Natur des Protokolls bedeutet, dass es letztendlich mehrheitlich von der Gemeinschaft regiert wird und nicht ohne Zustimmung der Gemeinschaft „abgeschaltet“ werden kann; Dies macht es im Gegensatz zu seinen Web2-Gegenstücken zensurresistent. Letztendlich glauben wir, dass Gensyn darauf abzielt, die grundlegende Ebene für web3-native ML-Computing zu werden, da Drittanbieter schließlich in zahlreichen Nischen reichhaltige Benutzererfahrungen und spezifische Funktionen aufbauen.

Teil 1: Einführung in das jahrzehntelange säkulare Wachstum von Deep Learning

Jedes Gesicht, das Sie bei einem Videoanruf sehen, und alle Audiosignale, die Sie hören, werden manipuliert. Um die Gesprächsqualität zu verbessern, neuronale Netze selektiv Passen Sie die Auflösung in Zoom an und Hintergrundgeräusche unterdrücken in Microsoft-Teams. Neuere Fortschritte sehen sogar Videos mit niedrigerer Auflösung 'geträumt' in eine höhere Auflösung. Neuronale Netze sind die Modelle, die im Deep-Learning-Zweig der künstlichen Intelligenz verwendet werden. Sie basieren lose auf der Struktur der menschliches Gehirn und haben unzählige Anwendungen, die vielleicht letztendlich künstliche Intelligenz auf menschlicher Ebene schaffen. Größere Modelle liefern im Allgemeinen bessere Ergebnisse, und die Hardware, die für die Entwicklung auf dem neuesten Stand der Technik erforderlich ist, verdoppelt sich alle drei Monate. Diese rasante Entwicklung hat Deep Learning zu einem grundlegenden Bestandteil der modernen menschlichen Erfahrung gemacht. 2020 ein neuronales Netz bediente das Radar Auf einem US-Spionageflugzeug schreiben jetzt Sprachmodelle Bessere Betrugs-E-Mails als Menschen und selbstfahrende Autoalgorithmen Übertreffen Menschen in vielen Umgebungen.

GPT-3 175B, das größte von OpenAI vorgeschlagene GPT-3-Modell in Brown et al. (2020) verwendete einen Cluster aus 1,000 NVIDIA Tesla V100 GPUs für das Training – das entspricht ungefähr 355 Jahren Training auf einem einzigen Gerät. DALL-E von Ramesh et al. (2021), ein weiteres Transformer-Modell von OpenAI, verfügt über 12 Milliarden Parameter und wurde mit über 400 Millionen beschrifteten Bildern trainiert. OpenAI trug die Kosten für das Training von DALL-E, weigerte sich jedoch kontrovers, das Modell als Open Source zu veröffentlichen, was bedeutet, dass eines der vielleicht wichtigsten multimodalen Deep-Learning-Modelle auf dem neuesten Stand der Technik für alle außer einigen wenigen unzugänglich bleibt. Der enorme Ressourcenbedarf für deren Aufbau Gründungsmodelle erhebliche Zugangsbarrieren schaffen und ohne eine Methode zur Bündelung von Ressourcen bei gleichzeitiger Wertschöpfung wahrscheinlich zu einer Stagnation des KI-Fortschritts führen werden. Viele glauben, dass diese verallgemeinerten Modelle der Schlüssel zur Erschließung der Künstlichen Allgemeinen Intelligenz (AGI) sind, was die derzeitige Methode des Trainings in isolierten, künstlichen Silos absurd erscheinen lässt.

Aktuelle Lösungen, die Zugang zu Rechenleistung bieten, sind entweder oligopolistisch und teuer oder einfach nicht umsetzbar angesichts der Komplexität der Rechenleistung, die für groß angelegte KI erforderlich ist. Um der steigenden Nachfrage gerecht zu werden, ist ein kosteneffizientes System erforderlich alle verfügbare Rechenleistung (im Gegensatz zu der heutigen globalen Prozessorauslastung von ca. 40 %). Dieses Problem wird derzeit noch durch die Tatsache verstärkt, dass die Computerversorgung selbst dadurch beeinträchtigt wird asymptotisch Fortschritte in der Mikroprozessorleistung – daneben Supply Chain und geopolitischen Chip-Mangel.

Teil 2: Warum ist Gensyns Koordination erforderlich?

Die grundlegende Herausforderung beim Aufbau dieses Netzwerks ist die Überprüfung abgeschlossener ML-Arbeiten. Dies ist ein hochkomplexes Problem, das an der Schnittstelle von Komplexitätstheorie, Spieltheorie, Kryptographie und Optimierung angesiedelt ist. Neben menschlichem Wissen im Modelldesign gibt es drei grundlegende Probleme, die den Fortschritt von angewandtem ML verlangsamen: 1) Zugang zu Rechenleistung; 2) Zugang zu Daten; und 3) Zugang zu Wissen (Ground-Truth-Labeling). Gensyn löst das erste Problem, indem es On-Demand-Zugriff auf global skalierbare Rechenleistung zu einem fairen Marktpreis bereitstellt, während die Gensyn Foundation versuchen wird, Lösungen für zwei und drei durch Forschung, Finanzierung und Zusammenarbeit mit anderen Protokollen zu fördern.

Insbesondere ermöglicht der Zugriff auf überlegene Prozessoren das Trainieren von immer größeren/komplexeren Modellen. In den letzten zehn Jahren haben Transistordichtegewinne und Fortschritte bei der Speicherzugriffsgeschwindigkeit/Parallelisierung die Trainingszeiten für große Modelle drastisch verkürzt. Der virtuelle Zugriff auf diese Hardware über Cloud-Giganten wie AWS und Alibaba hat gleichzeitig die Akzeptanz ausgeweitet. Dementsprechend besteht ein starkes staatliches Interesse, die Mittel zur Herstellung modernster Prozessoren zu erwerben. Festlandchina verfügt noch nicht über die End-to-End-Fähigkeit, hochmoderne Halbleiter (nämlich Siliziumwafer), eine wesentliche Komponente in Prozessoren, herzustellen. Diese müssen sie importieren, insbesondere von TSMC (Taiwan Semiconductor Manufacturing Company). Chipanbieter versuchen auch, anderen Kunden den Zugriff auf Chiphersteller zu verwehren durch Aufkauf von Vorräten. Auf staatlicher Ebene waren es die USA aggressiv blocken jeder Schritt chinesischer Unternehmen, diese Technologie zu erwerben. Weiter oben im Tech-Stack sind einige Unternehmen so weit gegangen, ihre eigene Deep-Learning-spezifische Hardware zu entwickeln, wie die TPU-Cluster von Google. Diese übertreffen Standard-GPUs beim Deep Learning und stehen nicht zum Verkauf, sondern nur zur Miete zur Verfügung.

Die enorme Erhöhung des Umfangs der zugänglichen Rechenleistung bei gleichzeitiger Senkung der Stückkosten öffnet die Tür zu einem völlig neuen Paradigma für Deep Learning sowohl für Forschungs- als auch für Industriegemeinschaften. Verbesserungen im Umfang und bei den Kosten ermöglichen es dem Protokoll, eine Reihe von bereits bewährten, vortrainierten Basismodellen aufzubauen – auch bekannt als Fundamentmodelle– ähnlich wie die Modellzoos beliebter Frameworks. Dies ermöglicht es Forschern und Ingenieuren, überlegene Modelle über riesige offene Datensätze offen zu erforschen und zu trainieren, ähnlich wie bei der Eleuther Projekt. Diese Modelle werden einige der grundlegenden Probleme der Menschheit ohne zentralisierte Eigentumsrechte oder Zensur lösen. Kryptografie, insbesondere funktionale Verschlüsselung, ermöglicht es, das Protokoll bei Bedarf über private Daten zu nutzen. Riesige Grundlagenmodelle können dann von jedem mithilfe eines proprietären Datensatzes feinabgestimmt werden, wobei der Wert/die Privatsphäre dieser Daten gewahrt bleibt, aber dennoch kollektives Wissen in Modelldesign und -forschung geteilt wird.

Teil 3: Gensyn treibt Web3-native Datenzentralisierung voran

Das Internet mag in den 1960er Jahren von der US-Regierung geboren worden sein, aber in den 1990er Jahren war es ein anarchisches Netz aus Kreativität, Individualismus und Möglichkeiten. Lange bevor Google TPUs hortete, versuchten Projekte wie SETI@home, außerirdisches Leben zu entdecken, indem dezentrale Rechenleistung per Crowdsourcing bereitgestellt wurde. Im Jahr 2000 hatte SETI@home eine Verarbeitungsrate von 17-Teraflops, was mehr als der doppelten Leistung des damals besten Supercomputers, dem IBM ASCI White, entspricht. Dieser Zeitraum wird allgemein als „web1“ bezeichnet, einen Moment vor der Hegemonie großer Plattformen wie Google oder Amazon (web2), aber die Skalierung der dezentralen Datenverarbeitung zur Erfüllung der anfänglichen Anforderungen des Internets geriet aufgrund mehrerer damaliger Probleme ins Stocken.

Die derzeitige Zentralisierung der Webinfrastruktur in riesige Web2-Plattformen schafft jedoch ihre eigenen Probleme, wie z. B. die Kosten (die Bruttomarge von AWS ist eine Schätzung 61%, was eine Margenkompression für die meisten Sub-Scale-Forscher und datengesteuerten Unternehmen darstellt. Gleichzeitig opfern zentralisierte Recheninstanzen auch die Kontrolle – AWS schaltete die Infrastruktur der beliebten rechten Social-Media-Plattform Parler mit ab einen Tag im Voraus nach dem Capitol Riot vom 6. Januar 2021. Viele stimmten dieser Entscheidung zu, aber der Präzedenzfall ist bei AWS gefährlich Gastgeber 42% der Top 10,000 Websites im Internet. Das Training von Deep-Learning-Modellen über dezentrale Hardware hinweg ist jedoch aufgrund des Verifizierungsproblems schwierig, das das Gensyn-Protokoll zu lösen hilft.

Der Aufbau des Marktplatzes als Web3-Protokoll eliminiert die zentralisierten Gemeinkosten für die Skalierung und reduziert die Eintrittsbarrieren für neue Anbieter, wodurch das Netzwerk potenziell jedes Computergerät der Welt umfassen kann. Die Verbindung aller Geräte über ein einziges dezentrales Netzwerk bietet ein Maß an Skalierbarkeit, das derzeit von keinem bestehenden Anbieter erreicht werden kann, und bietet einen beispiellosen On-Demand-Zugriff auf die Gesamtheit des weltweiten Computerangebots. Für Endbenutzer beseitigt dies das Dilemma zwischen Kosten und Skalierung vollständig und bietet eine transparente und kostengünstige ML-Trainingsberechnung für potenziell unendliche Skalierbarkeit (bis zu weltweiten physischen Hardwaregrenzen) und für Einheitspreise, die von der Marktdynamik bestimmt werden. Dies umgeht die üblichen Gräben, die große Anbieter genießen, senkt die Preise erheblich und erleichtert einen wirklich globalen Wettbewerb auf Ressourcenebene und berücksichtigt sogar einen Fall, in dem bestehende Anbieter von Cloud-Diensten das Gensyn-Protokoll auch als einen Vertriebsweg betrachten, der zentralisiertere Erstanbieter ergänzt gebündelte Angebote.

Fazit:

Da KI ein fast so beliebtes Schlagwort ist wie Kryptowährung und Blockchain, muss unsere hier vorgestellte These zur Investition in Gensyn die Tests bestehen, dass sie leicht verständlich und evidenzbasiert ist, während sie gleichzeitig so ehrgeizig darin ist, die Möglichkeiten für die Fähigkeit des Protokolls auszudünnen Mehrwert ein ursprünglich zielgerichtetes, aber verallgemeinerbares Ressourcennetzwerk, das in web3 nativ ist. Wir glauben, dass wir mit dem Gensyn-Protokoll die Anfänge eines hyperskalierbaren, kosteneffizienten Koordinationsnetzwerks sehen, das den Weg für noch wertvollere Erkenntnisse ebnet, die die Grundlage für unzählige Anwendungen in der Zukunft bilden.

Über CoinFund

CoinFund ist eine vielfältige, führende Blockchain-fokussierte Investmentfirma, die 2015 mit Sitz in den USA gegründet wurde. Die CoinFund-Strategien umfassen sowohl liquide als auch Venture-Märkte und profitieren von unserem multidisziplinären Ansatz, der technische kryptonative Fähigkeiten mit traditioneller Finanzerfahrung synchronisiert. Mit einem „Gründer zuerst“-Ansatz arbeitet CoinFund eng mit seinen Portfoliounternehmen zusammen, um Innovationen im Bereich der digitalen Assets voranzutreiben.

Haftungsausschluss

Die auf dieser Website bereitgestellten Inhalte dienen nur zu Informations- und Diskussionszwecken und sollten nicht im Zusammenhang mit einer bestimmten Anlageentscheidung herangezogen oder als Angebot, Empfehlung oder Aufforderung in Bezug auf eine Anlage ausgelegt werden. Der Autor befürwortet kein Unternehmen, Projekt oder Token, das in diesem Artikel besprochen wird. Alle Informationen werden hier „wie besehen“ ohne jegliche ausdrückliche oder stillschweigende Gewährleistung präsentiert, und zukunftsgerichtete Aussagen können sich als falsch herausstellen. CoinFund Management LLC und seine verbundenen Unternehmen können Long- oder Short-Positionen in den in diesem Artikel besprochenen Token oder Projekten haben.

---

Das Gensyn-Protokoll trainiert vertrauenswürdig neuronale Netze bei Hyperscale mit niedrigerer Größenordnung … Wurde ursprünglich veröffentlicht in Der CoinFund Blog Auf Medium, wo die Leute das Gespräch fortsetzen, indem sie auf diese Geschichte hinweisen und darauf reagieren.

• Coinsmart. Europas beste Bitcoin- und Krypto-Börse.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. DEN FREIEN ZUGANG.
• CryptoHawk. Altcoin-Radar. Kostenlose Testphase.
• Source: https://blog.coinfund.io/the-gensyn-protocol-trustlessly-trains-neural-networks-at-hyperscale-with-lower-order-of-magnitude-227fe968fabf?source=rss—-f5f136d48fc3—4