Dopóki sztuka dostosowywania MoEs do jednej dziedziny nie zostanie w pełni rozpowszechniona, cieszę się, że Qwen nadal wydaje niektóre gęste modele. W tej chwili kluczowe jest posiadanie silnych gęstych modeli, aby kontynuować rozwój szerszego otwartego ekosystemu.