Ми щойно опублікували модель + технічний звіт для Ковенант-72B. Найбільша LLM, коли-небудь попередньо навчена на повністю децентралізованій інфраструктурі. Параметри 72B, навчені через відкритий інтернет з GPU без дозволу. Це великий крок до того, щоб зробити децентралізоване попереднє навчання дійсно практичним. Неймовірна робота @covenant_ai команди.