Чудово бачити@AMD що обрали vLLM як один із визначених фреймворків для GPU MODE Hackathon. 🎉 Виклик: забезпечити наскрізну продуктивність Kimi K2.5 1T FP4 на 8× AMD Instinct MI355X — використовуючи vLLM або AMD ATOM. Головний приз: $650,000. Що відрізняє це: оптимізації перемоги мають бути об'єднані з AMD ATOM або vLLM upstream. Покращення, які потрапляють у vLLM, приносять користь усій громаді. Фаза 1 (оптимізація ядра) триває до 6 квітня. Детальніше ⬇️