Diğer çiplerden çok daha yüksek veri verimliliği sağlayan ve aynı zamanda en düşük gecikmeyi sağlayan bir LLM çipi inşa ediyoruz. Biz buna MatX Olanı diyoruz. MatX One çipi, büyük sistolik dizilerin ünlü olduğu enerji ve alan verimliliğine sahip, ayrıca esnek şekillere sahip küçük matrislerde yüksek kullanım sağlayan bölünebilir sistolik diziye dayanır. Çip, SRAM öncelikli tasarımların düşük gecikmesini HBM'nin uzun bağlam desteğiyle birleştirir. Bu unsurlar ve sayısal sistemlere yeni bir bakış açısı, LLM'lerde duyurulan herhangi bir sistemden daha yüksek veri sağlıyor ve aynı zamanda SRAM öncelikli tasarımların gecikmesini de eşliyor. Daha yüksek veri verimliliği ve daha düşük gecikme, abonelik bütçenize göre daha akıllı ve daha hızlı modeller sunar. Geliştirmeyi tamamlamak ve üretimi hızlıca ölçeklendirmek için 500 milyon dolarlık bir Seri B topladık; bir yıldan kısa sürede taipleme işlemi yapılacak. Tur, teknolojiye en bilgili Wall Street firmalarından biri olan Jane Street ve kurucusu @leopoldasch AGI hakkında kesin notu yazan Situational Awareness LP tarafından yönetildi. Katılımcılar arasında @sparkcapital, @danielgross ve @natfriedman's fonu, @patrickc ve @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp ve diğerleri bulunmaktadır. Ayrıca tedarik zinciri genelinden, Marvell ve Alchip dahil yatırımcıları da memnuniyetle karşılıyoruz. @MikeGunter_ ve ben MatX'i kurduk çünkü LLM'ler için en iyi çipin, LLM'lerin neye ihtiyacı olduğunu ve nasıl gelişeceğini derinlemesine anlayarak ilk prensiplerden tasarlanması gerektiğini düşündük. Böyle bir çip için küçük model performansından, düşük hacimli iş yüklerinden ve hatta programlama kolaylığından vazgeçmeye hazırız. Artık öğrenme hızı programlarından Swing Modulo Planlamaya, guard/round/sticky bit'lere, kör eşleşmiş bağlantılara kadar her şeyi düşünen 100 kişilik bir ekip olduk—hepsi aynı binada. Eğer büyük hacimde birçok nesil çip tasarlamamızda ve dağıtmamızda bize yardımcı olmak isterseniz, bize katılmayı düşünebilirsiniz.