我有机会初步浏览了这篇论文。这篇论文真的很棒。 我认为我没有见过任何其他后AGI经济学论文能如此清晰地定义出自动化增加和人类智能持续相关性的后果，即自动化成本与验证成本之间的差距。 有两件事让我印象深刻。 第一件是这个循环： > 当专家监督代理时，他们会产生修正、标签和“如何做”的知识。这些被捕捉为训练数据/工具，从而降低了自动化的成本。 > 随着自动化变得更便宜，公司用代理取代人类。这降低了对人类的需求，尤其是对于入门级角色。 > 随着经验的积累减少，社会拥有的合格验证者更少，验证变得更加昂贵。 > 现在你会看到自动化成本与验证成本之间的差距在增加，这意味着代理可以在更多领域运作，而人类无法可靠地审计（盲点）。 > 在这些盲点中，人类无法提供紧密的纠正反馈。代理不断优化可测量的代理指标，行为可能会偏离真实的人类意图。 第二件让我印象深刻的是“责任即服务”的概念。基本上，它是说任何供应商部署的代理都附带责任，如果代理以特定方式造成伤害/损失/法律问题，供应商将承担责任（有上限）。因此，客户购买的是一个有赔偿保障的结果，而不仅仅是软件。这基本上迫使公司内部化代理与用户不一致的风险。我非常喜欢“责任即服务”这个概念，因为我们@eigencloud平台的整个理论基础是基于削减和保险的。任何在@eigencloud上部署的服务都旨在被质押，如果该服务对用户造成伤害，服务背后的质押将被削减，并根据用户的预购进行赔偿。 我强烈推荐大家阅读这篇论文！