Budujemy chip LLM, który zapewnia znacznie wyższą przepustowość niż jakikolwiek inny chip, osiągając jednocześnie najniższe opóźnienie. Nazywamy go MatX One. Chip MatX One oparty jest na dzielonym układzie systolicznym, który charakteryzuje się efektywnością energetyczną i powierzchniową, z której słyną duże układy systoliczne, a jednocześnie osiąga wysokie wykorzystanie na mniejszych macierzach o elastycznych kształtach. Chip łączy niskie opóźnienie projektów z priorytetem SRAM z długim wsparciem kontekstu HBM. Te elementy, w połączeniu z nowatorskim podejściem do obliczeń, zapewniają wyższą przepustowość w LLM niż jakikolwiek ogłoszony system, jednocześnie dorównując opóźnieniu projektów z priorytetem SRAM. Wyższa przepustowość i niższe opóźnienie dają Ci mądrzejsze i szybsze modele za Twoje pieniądze subskrypcyjne. Zebraliśmy 500 milionów dolarów w rundzie B, aby zakończyć rozwój i szybko zwiększyć produkcję, z tapeout w mniej niż rok. Rundę prowadziła firma Jane Street, jedna z najbardziej technologicznie zaawansowanych firm Wall Street, oraz Situational Awareness LP, której założyciel @leopoldasch napisał definitywną notatkę na temat AGI. Uczestnicy to @sparkcapital, fundusz @danielgross i @natfriedman, @patrickc i @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp i inni. Witamy również inwestorów z całego łańcucha dostaw, w tym Marvell i Alchip. @MikeGunter_ i ja założyliśmy MatX, ponieważ uważaliśmy, że najlepszy chip dla LLM powinien być zaprojektowany od podstaw z głębokim zrozumieniem tego, czego potrzebują LLM i jak będą się rozwijać. Jesteśmy gotowi zrezygnować z wydajności małych modeli, niskowolumenowych obciążeń i nawet łatwości programowania, aby dostarczyć taki chip. Jesteśmy teraz zespołem liczącym 100 osób, które myślą o wszystkim, od harmonogramów tempa uczenia, przez Swing Modulo Scheduling, po bity guard/round/sticky, aż po połączenia blind-mated — wszystko w tym samym budynku. Jeśli chciałbyś pomóc nam w architekturze, projektowaniu i wdrażaniu wielu generacji chipów w dużych ilościach, rozważ dołączenie do nas.