Trend Olan Konular
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Amir Sarfi
İzinsiz, merkeziyetsiz LLM eğitimi üzerine araştırma
Covenant-72B'yi yeni yayınladık: internet üzerinden izinsiz katılımla şimdiye kadarki en büyük merkeziyetsiz ön eğitim koşusu.
Özellikle SparseLoCo'nun bu kadar temiz şekilde 72B'ye ölçeklenmesini görmek heyecan verici — >146× sıkıştırma, dinamik katılım ve kötü niyetli oyuncular altında dayanıklılık ve daha büyük token bütçeleriyle eğitilmiş merkezi bazlarla rekabet eden performans.
10 Mar 23:14
Tarihteki en büyük merkeziyetsiz LLM ön eğitim koşusunu yeni tamamladık: Covenant-72B. İzinsiz, Bittensor alt ağı 3'te.
72B parametreleri. ~1.1T jetonlar. Ticari internet. Merkezi küme yok. Beyaz liste yok. GPU'lu herkes serbestçe katılabilir veya ayrılabilir.
1/n
24
Antrenman sonrası ağırlık senkronizasyonu için ~130× kayıpsız bant genişliği azalması (14GB→108MB)!
PULSE, GRPO güncellemelerinin son derece seyrek olduğunu gösteriyor, bu yüzden tam kontrol noktaları yerine küçük yamalarla senkronize olabiliyorsun.
Erfan @covenant_ai tarafından harika bir çalışma
4 Şub 2026
@covenant_ai'de, LLM'ler için merkezi RL kadar hızlı bir şekilde merkeziyetsiz RL yaptık.
Ağırlık senkronizasyonu için 100× üzerinde bant bant genişliği azalması sağlıyoruz. Tamamen kayıpsız.
İşte nasıl yaptık!
(1/n)
111
En İyiler
Sıralama
Takip Listesi