Wir entwickeln einen LLM-Chip, der eine viel höhere Durchsatzrate als jeder andere Chip bietet und gleichzeitig die niedrigste Latenz erreicht. Wir nennen ihn den MatX One. Der MatX One-Chip basiert auf einem teilbaren systolischen Array, das die Energie- und Flächeneffizienz bietet, für die große systolische Arrays bekannt sind, während er gleichzeitig eine hohe Auslastung bei kleineren Matrizen mit flexiblen Formen erreicht. Der Chip kombiniert die niedrige Latenz von SRAM-ersten Designs mit der Unterstützung für lange Kontexte von HBM. Diese Elemente, zusammen mit einem frischen Ansatz für numerische Werte, bieten einen höheren Durchsatz bei LLMs als jedes angekündigte System und erreichen gleichzeitig die Latenz von SRAM-ersten Designs. Höherer Durchsatz und niedrigere Latenz bieten Ihnen intelligentere und schnellere Modelle für Ihr Abonnement. Wir haben eine Series B in Höhe von 500 Millionen Dollar gesammelt, um die Entwicklung abzuschließen und die Produktion schnell zu skalieren, mit Tapeout in weniger als einem Jahr. Die Runde wurde von Jane Street geleitet, einer der technologisch versiertesten Firmen an der Wall Street, und Situational Awareness LP, deren Gründer @leopoldasch das definitive Memo zu AGI verfasst hat. Zu den Teilnehmern gehören @sparkcapital, @danielgross und @natfriedman’s Fonds, @patrickc und @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp und andere. Wir heißen auch Investoren aus der gesamten Lieferkette willkommen, darunter Marvell und Alchip. @MikeGunter_ und ich haben MatX gegründet, weil wir der Meinung sind, dass der beste Chip für LLMs von Grund auf mit einem tiefen Verständnis dessen, was LLMs benötigen und wie sie sich entwickeln werden, entworfen werden sollte. Wir sind bereit, auf die Leistung kleiner Modelle, auf Arbeitslasten mit niedrigem Volumen und sogar auf die Programmierfreundlichkeit zu verzichten, um einen solchen Chip zu liefern. Wir sind jetzt ein 100-köpfiges Team mit Menschen, die über alles nachdenken, von Lernratenplänen über Swing Modulo Scheduling bis hin zu Guard/Round/Sticky Bits und Blind-Mate-Verbindungen – alles im selben Gebäude. Wenn Sie uns helfen möchten, viele Generationen von Chips in großen Mengen zu entwerfen, zu gestalten und einzusetzen, ziehen Sie in Betracht, sich uns anzuschließen.