Estamos construyendo un chip LLM que ofrece un rendimiento mucho mayor que cualquier otro chip y, al mismo tiempo, la latencia más baja. Lo llamamos MatX One. El chip MatX One se basa en una matriz sistólica divisible, que tiene la eficiencia energética y de área por la que son famosas las matrices sistólicas grandes, además de obtener una alta utilización en matrices más pequeñas con formas flexibles. El chip combina la baja latencia de los diseños SRAM primero con el soporte de contexto largo de HBM. Estos elementos, junto con una nueva visión numérica, ofrecen un mayor rendimiento en los LLM que cualquier sistema anunciado, al tiempo que igualan la latencia de los diseños SRAM primero. Un mayor rendimiento y menor latencia te dan modelos más inteligentes y rápidos por tu dinero de suscripción. Hemos recaudado una Serie B de 500 millones de dólares para finalizar el desarrollo y escalar rápidamente la fabricación, con el tapeout en menos de un año. La ronda estuvo liderada por Jane Street, una de las firmas más expertas en tecnología de Wall Street, y Situational Awareness LP, cuyo fundador @leopoldasch escribió el memorando definitivo sobre la AGI. Entre los participantes se encuentran @sparkcapital, @danielgross y @natfriedman's fund, @patrickc y @collision, @TriatomicCap, @HarpoonVentures, @karpathy, @dwarkesh_sp y otros. También damos la bienvenida a inversores de toda la cadena de suministro, incluyendo Marvell y Alchip. @MikeGunter_ y yo fundamos MatX porque considerábamos que el mejor chip para LLMs debía diseñarse con principios básicos, con un profundo entendimiento de lo que los LLMs necesitan y cómo evolucionarán. Estamos dispuestos a renunciar al rendimiento de modelos pequeños, cargas de trabajo de bajo volumen e incluso facilidad de programación para cumplir con un chip así. Ahora somos un equipo de 100 personas con personas que piensan en todo, desde los horarios de tasas de aprendizaje, hasta la programación Swing Modulo, los puntos de guardia/redondo/pegajoso, hasta las conexiones a ciegas—todo en el mismo edificio. Si quieres ayudarnos a diseñar, diseñar y desplegar muchas generaciones de chips en gran volumen, considera unirte a nosotros.