A $MU (Micron) lançou um módulo de memória de 256GB projetado especificamente para centros de dados de IA, capaz de fornecer uma resposta mais rápida para grandes modelos de linguagem (LLM), ao mesmo tempo que apresenta uma eficiência energética significativamente maior em comparação com a memória tradicional. À medida que a inteligência artificial passa gradualmente da fase de treinamento para a fase de inferência, a memória da CPU está se tornando o novo gargalo de desempenho.