У меня есть модель с 1T-параметрами, работающая локально на моем MacBook Pro. LLM: Kimi K2.5 1,026,408,232,448 параметров (~1.026T) Оборудование: MacBook Pro M2 Max (2023) с 96 ГБ унифицированной памяти Работаю на MLX с потоком SSD в стиле флеш + локальная патчинг. Это экспериментальная настройка, и я еще не оптимизировал скорость, но она достаточно стабильна, чтобы я начал тестировать ее в цикле автопоиска. #LocalAI #MLX #MoE