Memperkenalkan RadixMLP: deduplikasi awalan intra-batch untuk pengisian awal 1,4–5x lebih cepat. Token dengan awalan yang identik (seperti perintah sistem atau kueri bersama) menghasilkan aktivasi yang identik. @feilsystem mengembangkan RadixMLP untuk menghilangkan redundansi ini, kemudian membuka sumber dan menambahkannya ke TEI dan BEI.