Estamos construindo um chip LLM que entrega um throughput muito maior do que qualquer outro chip, ao mesmo tempo em que alcança a menor latência. Chamamos de MatX One. O chip MatX One é baseado em uma matriz sistólica splittable, que possui a eficiência energética e de área pelas quais grandes matrizes sistólicas são famosas, além de obter alta utilização em matrizes menores com formas flexíveis. O chip combina a baixa latência dos projetos SRAM-first com o suporte de contexto longo do HBM. Esses elementos, além de uma nova abordagem numérica, entregam maior throughput em LLMs do que qualquer sistema anunciado, ao mesmo tempo em que igualam a latência dos projetos SRAM-first. Maior throughput e menor latência oferecem modelos mais inteligentes e rápidos pelo seu valor de assinatura. Levantamos uma Série B de US$ 500 milhões para encerrar o desenvolvimento e rapidamente escalar a fabricação, com a tapeout em menos de um ano. A rodada foi liderada por Jane Street, uma das empresas mais tecnológicas de Wall Street, e pela Situational Awareness LP, cujo fundador @leopoldasch escreveu o memorando definitivo sobre AGI. Os participantes incluem @sparkcapital, @danielgross e @natfriedman's fund, @patrickc e @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp e outros. Também estamos recebendo investidores de toda a cadeia de suprimentos, incluindo Marvell e Alchip. @MikeGunter_ e eu começamos a MatX porque achamos que o melhor chip para LLMs deveria ser projetado com base em princípios básicos, com um entendimento profundo do que os LLMs precisam e como eles irão evoluir. Estamos dispostos a abrir mão do desempenho de modelos pequenos, cargas de trabalho de baixo volume e até mesmo da facilidade de programação para entregar em um chip assim. Agora somos uma equipe de 100 pessoas com pessoas que pensam em tudo, desde cronogramas de taxas de aprendizagem, até Agendamento Modulo de Swing, passando por bits/round/sticky, até conexões cegas — tudo no mesmo prédio. Se você quiser nos ajudar a arquitetar, projetar e implantar muitas gerações de chips em grande volume, considere se juntar a nós.