トレンドトピック
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
MacBook Proでローカルで1Tパラメータモデルを動かしています。
LLM:キミK2.5
1,026,408,232,448 パラメータ(~1.026T)
ハードウェア:M2 Max MacBook Pro(2023年型)、96GBユニファイドメモリ搭載
MLX上でフラッシュスタイルのSSDストリーミングパス+ローカルパッチを適用して動作しています。
これは実験的なセットアップで、まだ速度を最適化していませんが、安定しているので自動調査のようなループでテストを始めています。
#LocalAI #MLX #MoE
トップ
ランキング
お気に入り