Estamos construyendo un chip LLM que ofrece un rendimiento mucho mayor que cualquier otro chip, al mismo tiempo que logra la latencia más baja. Lo llamamos MatX One. El chip MatX One se basa en un arreglo sistólico divisible, que tiene la eficiencia energética y de área por la que son famosos los grandes arreglos sistólicos, mientras que también logra una alta utilización en matrices más pequeñas con formas flexibles. El chip combina la baja latencia de los diseños con SRAM primero con el soporte de contexto largo de HBM. Estos elementos, más un enfoque renovado en la aritmética, ofrecen un mayor rendimiento en LLMs que cualquier sistema anunciado, mientras que simultáneamente igualan la latencia de los diseños con SRAM primero. Un mayor rendimiento y una menor latencia te brindan modelos más inteligentes y rápidos por tu dinero de suscripción. Hemos recaudado $500M en una Serie B para finalizar el desarrollo y escalar rápidamente la fabricación, con el tapeout en menos de un año. La ronda fue liderada por Jane Street, una de las firmas más tecnológicas de Wall Street, y Situational Awareness LP, cuyo fundador @leopoldasch escribió el memorando definitivo sobre AGI. Los participantes incluyen a @sparkcapital, @danielgross y el fondo de @natfriedman, @patrickc y @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp, y otros. También estamos dando la bienvenida a inversores a lo largo de la cadena de suministro, incluyendo a Marvell y Alchip. @MikeGunter_ y yo comenzamos MatX porque sentimos que el mejor chip para LLMs debería ser diseñado desde los primeros principios con una profunda comprensión de lo que los LLMs necesitan y cómo evolucionarán. Estamos dispuestos a renunciar al rendimiento de modelos pequeños, cargas de trabajo de bajo volumen e incluso a la facilidad de programación para entregar un chip así. Ahora somos un equipo de 100 personas que piensan en todo, desde horarios de tasa de aprendizaje, hasta programación de Swing Modulo, hasta bits de guardia/redondeo/adherentes, hasta conexiones ciegas, todo en el mismo edificio. Si deseas ayudarnos a arquitectar, diseñar y desplegar muchas generaciones de chips en gran volumen, considera unirte a nosotros.