Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
> 385 мс среднее время выбора инструмента.
> 67 инструментов на 13 серверах MCP.
> 14,5 ГБ объема памяти.
> Никаких сетевых вызовов.
LocalCowork — это AI-агент, который работает на MacBook. Открытый исходный код.
🧵

Создание локального AI-агента звучит здорово, пока вы не попробуете использовать его целый день. Сложность не в том, чтобы заставить модель вас понять. Проблема в том, чтобы заставить её выбрать правильный инструмент и сделать это достаточно быстро, чтобы опыт казался интерактивным.
Поэтому мы протестировали LFM2-24B-A2B на ноутбуках, создав открытый настольный агент под названием LocalCowork.
Все работает локально:
> модель
> инструменты
> данные
Никакого облака. Никаких API-ключей. Ничто не покидает машину.
Мы оценили модель в реалистичной настройке:
> 67 инструментов
> 13 серверов MCP
Задачи, такие как сканирование безопасности, обработка документов, операции с файловой системой и системные утилиты. Все это работает на одном ноутбуке Apple M4 Max с 36 ГБ памяти.
На этой конфигурации LFM2-24B-A2B в среднем занимал ~385 мс на ответ выбора инструмента, при этом занимая ~14,5 ГБ памяти.
Это означает:
> никаких исходящих API-вызовов
> никаких сторонних процессоров
> никаких данных, покидающих устройство

15
Топ
Рейтинг
Избранное
