Trend Olan Konular
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico+%3,52
USELESS
USELESS+%6,71
IKUN
IKUN+%2,15
gib
gib+%3,03
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk-%0,23
ALON
ALON+%1,69
LAUNCHCOIN
LAUNCHCOIN+%3,9
GOONC
GOONC-%0,86
KLED
KLED-%3,64
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP+%0,17
Boopa
Boopa+%3,42
PORK
PORK%0,00
header
Nikhil Thorat
Databricks'te MLflow GenAI değerlendirme ve izleme. Lilac AI'nin kurucu ortağı (@databricks tarafından satın alındı). TensorFlow.js ve Know Your Data @ Google Brain'i ortak yarattı
Nikhil Thorat
Nikhil Thorat14 Mar 00:47
🏎️ gemma-webgpu: tamamen tarayıcınızda çalışan, sıfır bağımlılıklı, inanılmaz hızlı bir Gemma 1B. Tam titreme telefonumdan kodlandı. 🔥 M4 Mac'te 136.8 tok/s (transformers.js'den 3.3 kat hızlı) 📱 iPhone 17'de 101 tok/s (270M), 34 tok/s (1B) Sıfırdan inşa ettiklerimiz: • 18 el yazısıyla yazılmış WGSL hesaplama shaderı, birleşmiş ops'a sahip (fusedNormAdd her ileri geçişte 36 GPU göndermesi kaydeder) • GPU'da doğrudan dekuantizasyon Q8_0 — Q4'ten daha kaliteli VE daha hızlı. • Aralık isteği akışı yüklemeleri katman katman ağırlık (~44MB chunk) yükler, GPU'ya yüklemeler yapar, JS belleği hemen boşalır. Pik yığını: 1GB model için bile ~50MB • Bu yayın numarası, 1B'nin iPhone'da çalışmasını sağlayan şeydir. RAM'de tam modeli asla tutmaz. 12KB gzip yaptı. Sıfır bağımlılık yok. NPM Gemma-WebGPU Install
144