Точка зору: Твій кіт сидить на вершині всього твого кластера інференцій ШІ. Mac Mini базової версії 3. 16GB оперативної пам'яті. 599 доларів за штуку. Інструментарій FLock розподіляє великі моделі між кількома машинами. Без втрат продуктивності, не потрібна відеокарта $10 тисяч. Коли ми кажемо: «А що, якби хтось міг запускати потужний ШІ зі свого столу?» ми насправді це маємо на увазі. Не ваші моделі, не ваш ШІ. Хіба що ви самі їх запускаєте.