我有機會初步瀏覽這篇論文。這篇論文真的很棒。 我不認為我見過任何其他後AGI經濟學論文能如此清晰地定義出自動化增加和人類智慧持續相關性的後果，即自動化成本與驗證成本之間的差距。 有兩件事讓我印象深刻。 第一個是這個循環： > 當專家監督代理時，他們會產生修正、標籤和「如何做」的知識。這些被捕捉為訓練數據/工具，從而降低自動化的成本。 > 隨著自動化變得更便宜，企業用代理取代人類。這使得對人類的需求下降，特別是對入門級角色的需求。 > 隨著經驗的累積減少，社會擁有的合格驗證者更少，驗證變得更加昂貴。 > 現在你會看到自動化成本與驗證成本之間的差距在增加，這意味著代理可以在更多領域運作，而人類無法可靠地進行審核（盲點）。 > 在這些盲點中，人類無法提供緊密的修正反饋。代理不斷優化可測量的代理指標，行為可能會偏離真正的人類意圖。 第二個讓我印象深刻的是「責任即服務」的概念。基本上，它是說任何供應商部署的代理都附帶責任，如果該代理以特定方式造成傷害/損失/法律麻煩，供應商就要支付（有上限）。因此，客戶購買的是一個有賠償的結果，而不僅僅是軟體。這基本上迫使公司內部化代理與用戶不一致的風險。我非常喜歡這個責任即服務的概念，因為我們的@eigencloud平台的整個論點都是基於削減和保險。任何在@eigencloud上部署的服務都旨在被質押，如果該服務對用戶造成傷害，則該服務背後的質押將被削減並根據用戶的預購來補償用戶。 我強烈建議大家閱讀這篇論文！