> середній вибір інструментів 385 мс. > 67 інструментів на 13 MCP-серверах. > 14,5 ГБ пам'яті. > Нуль мережевих дзвінків. LocalCowork — це агент штучного інтелекту, який працює на MacBook. Відкритий код. 🧵
Створення локального AI-агента звучить чудово, поки не спробуєте використовувати його цілий день. Складність — це не змусити модель тебе зрозуміти. Важливо змусити його обрати правильний інструмент і зробити це достатньо швидко, щоб досвід був інтерактивним. Тож ми протестували LFM2-24B-A2B на ноутбуках, створивши відкритий десктопний агент під назвою LocalCowork.
Все працює локально: > модель > інструменти > дані Жодної хмари. Жодних API-ключів. Нічого не виходить з машини.
Ми оцінили модель у реалістичній схемі: > 67 інструментів > 13 серверів MCP Завдання, такі як сканування безпеки, обробка документів, операції файлової системи та системні утиліти. Всі вони працюють на одному ноутбуці Apple M4 Max з 36 ГБ пам'яті. У цій конфігурації LFM2-24B-A2B в середньому отримував ~385 мс на відповідь вибору інструменту при вміщенні ~14,5 ГБ пам'яті. Це означає: > немає вихідних викликів API > немає підпроцесорів від виробника > жодних даних з пристрою
61