熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
openclaw 在不到兩週的時間內獲得了 145,000 個 GitHub 星標。moltbook 上有 150 萬個代理。steinberger 剛剛加入 openai。該項目現在得到了基金會的支持。這股熱潮是實至名歸的。第一次出現了一個可以本地運行的 AI 代理,能夠連接到你的消息應用,記住跨會話的上下文,並代表你採取實際行動。
這種興奮是有道理的。但不合理的是人們如何部署它。
思科的 AI 安全團隊測試了一個第三方的 openclaw 技能,發現它在用戶不知情的情況下執行數據外洩和提示注入。安全研究人員掃描了暴露的實例,發現有超過 30,000 個 openclaw 閘道對公眾互聯網開放,且沒有身份驗證。noma security 報告稱,53% 的企業客戶在一個週末內給了 openclaw 特權系統訪問權限。一個名為 "clawdbot agent" 的惡意 vs code 擴展在 moltbot 更名的同一天出現在市場上,安裝了遠程訪問木馬。研究人員估計,clawdhub 上的 12-20% 的技能是惡意或脆弱的。
openclaw 的一位維護者在 discord 上發帖說:"如果你無法理解如何運行命令行,這個項目對你來說太危險了,無法安全使用。"
而這僅僅是安全方面的問題。財務方面則完全開放。
openclaw 可以瀏覽網絡,與服務互動,並採取花費金錢的行動。它可以進行購買,訪問付費 API,觸發計算作業,並與區塊鏈服務互動。當你給它系統級別的訪問權限而沒有支出控制時,沒有什麼可以阻止它執行你未預料到的交易,以你未預算的數量,與你從未聽說過的服務進行交易。
這是整個代理生態系統中重複出現的模式。團隊對代理能做的事情感到興奮。他們給予它廣泛的權限以最大化能力。他們跳過了定義代理被允許花費的部分,花費多少,花在哪裡,與誰合作。然後當帳單出現時,或者更糟的是,當資金消失時,他們感到驚訝。
能力層正在以驚人的速度發展。openclaw 證明了這一點。控制層卻沒有跟上。給予代理在世界上行動的能力,而不定義該行動的財務邊界,就像把你的信用卡和房屋鑰匙給某人,然後說 "隨便你認為最好的做法。"
缺失的部分是代理與其運作的經濟之間的財務控制層。每個代理的支出限制。任務之間的預算分配。關於哪些服務和對手方被批准的規則。對累計支出的實時監控。當某些事情看起來不對時,能夠立即凍結代理的經濟活動。每筆交易的審計跟蹤,以便你能夠重建發生了什麼以及為什麼。
openclaw 是一個很棒的代理。問題從來不是代理。問題是將任何代理,無論是 openclaw 還是其他代理,部署到一個可以在沒有程序性防護的情況下花費金錢的環境中。
ampersend 正在為此構建控制層。我們正在封閉測試中。鏈接在簡介中以請求早期訪問。私信開放以回答問題。
熱門
排行
收藏
