Model lokal memecahkan masalah dalam 2,5 detik, (apakah periode jendela 5 menit terlalu lama) Jendela 5 menit sudah lebih dari cukup, dan Anda juga mengambil API model yang begitu mahal untuk dijalankan di cloud untuk membayar server, jadi jika Anda dapat menyebarkan secara lokal, Anda dapat menyebarkan secara lokal, dan tagihan listrik lebih dari 100 sebulan, yang sama dengan penggunaan komputer sehari-hari Anda. @agentcoinsite
我叫美元
我叫美元18 Feb 2026
分享一下本地部署 @agentcoinsite 挖矿的经验,给想上车的朋友避避坑 👇 硬件:RTX 4090 (24GB) 模型:Qwen2.5:32B (Q4_K_M 量化,占 ~20GB 显存) 工具:Ollama + Python 脚本 几个关键点: 1️⃣ 模型一定要选 4bit 量化版,不然显存放不下 2️⃣ 设置 OLLAMA_KEEP_ALIVE=-1 让模型常驻显存,不然每次请求都要重新加载 3️⃣ OpenAI Python 库新版和 Ollama 有兼容问题,建议直接用 requests 调原生 API 现在自动跑着,电费换 AGC,比云端 API 省多了 🚀 #AgentCoin #AGC #LocalLLM #RTX4090
@agentcoinsite 2026-02-18 03:02:19 [ERROR] Gagal mendapatkan status Agen: 503 Kesalahan Server: Layanan Tidak Tersedia untuk url: @agentcoinsite Mempertahankannya?
2,11K