AIは雲の向こう側へと動き始めています... @DPhiSpaceとの協力による「Hack #05: AI in Space」の登録が開始されています。AIが衛星や軌道システム、宇宙データに近い環境で動作することで何が可能になるかを探るハッカソン。 宇宙におけるAIの未来に関心のある開発者、研究者、ビルダーのための方々へ。 登録→ 詳細はこちら→ 🚀 会話に参加しよう→

WebGPU上の@LiquidAIのLFM2-VLモデルでブラウザ上でリアルタイムビデオ字幕を表示できます。 すべてのフレームをサーバーに送るのは決して解決策ではありませんでした。帯域幅、遅延、コストを想像してみてください。 局所的推論。サーバー費用もかかりません。無限にスケーラブルです。 これが正しい道だ。

@RunAnywhereAIでわずか48時間でMetalRTを構築しました。@Appleのゲームを打ち負かし、現在Apple Silicon向けに市場に出ている最速のLLM推論エンジンを届けました。 - 570 tok/s デコード @liquidai LFM 2.5-1.2B 4ビット - 658 tok/s @Alibaba_Qwen Qwen3-0.6B、4ビット デコード - 6.6 ms 初回トークン使用時間 - 1.19× AppleのMLXより高速(同一モデルファイル) - 1.67× 平均でllama.cppより速い 私たちはApple MLX、llama.cpp、uzu(TryMirai製)、Ollamaを4つの異なる4ビットモデルで圧倒しました。その中には、デバイス最適化されたLFM2.5-1.2Bも1台のM4 Maxで搭載されています。 これは楽しみです! #ycombinator #runanywhere #ondeviceai #applesilicon #mlx