MetalRT, Apple Silicon için ilk tam yapay zeka çıkarım motoru oldu: LLM + STT + TTS @RunAnywhereAI. Zaten en hızlı LLM kod çözmeye sahiptik (658 tok/s). Şimdi STT ve TTS'yi de ezdik, MLX'i her yerde geride bıraktık. M4 Max hakkında bugünkü rakamlar: - 1 saatlik podcast ~5 saniyede transkribe edildi - 3 saatlik toplantı ~15 saniyede transkribe edildi - Sıfır algılanabilir gecikme ile canlı altyazı - STT için gerçek zamandan 714 kat daha hızlı - Konuşmadan metne geçişte Apple'ın MLX'inden 4,6 kat daha hızlıdır Üç yöntem de bu. Tek bir birleşik motor. Ve bu sadece bireysel bileşenler. Üzerinde inşa ettiğimiz tam sesli yapay zeka boru hattı, Apple Silicon'da şimdiye kadarki en SÜRTÜSÜ olacak. Yakında fırlanacak. Tam kıyaslamalar, grafikler ve detaylar yorumlarda paylaşabilirsiniz. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI