Tuve la oportunidad de dar un primer vistazo a este documento. Este documento es realmente genial. No creo haber visto ningún otro documento de economía post-AGI que defina claramente la consecuencia del aumento de la automatización y la continua relevancia de la inteligencia humana como la brecha entre el costo de automatizar y el costo de verificar. Hay dos cosas que me llamaron la atención. La primera es este ciclo: > cuando los expertos supervisan a los agentes, producen correcciones, etiquetas y conocimiento de "cómo hacer". Eso se captura como datos de entrenamiento / herramientas que reducen el costo de automatizar. > a medida que la automatización se vuelve más barata, las empresas reemplazan a los humanos con agentes. Eso reduce la necesidad de humanos, especialmente para roles de nivel inicial. > con menos experiencia acumulada, la sociedad tiene menos verificadores capaces y la verificación se vuelve más cara. > ahora tienes la brecha entre el costo de automatizar y el costo de verificar aumentando, lo que significa que los agentes pueden operar en más dominios de los que los humanos pueden auditar de manera confiable (puntos ciegos). > en esos puntos ciegos, los humanos no pueden proporcionar retroalimentación correctiva precisa. Los agentes siguen optimizando proxies medibles, y el comportamiento puede desviarse de la verdadera intención humana. La segunda cosa que me llamó la atención es el concepto de "responsabilidad-como-servicio". Básicamente, está diciendo que el despliegue de cualquier agente por un proveedor viene con una responsabilidad adjunta que, si el agente causa daño / pérdidas / problemas legales de maneras definidas, el proveedor paga (hasta un límite). Así que el cliente está comprando un resultado indemnizado, no solo software. Esto está forzando a las empresas a internalizar el riesgo de que los agentes no estén alineados con el usuario. Me gusta mucho este concepto de responsabilidad-como-servicio porque toda la tesis de nuestra plataforma @eigencloud se basaba en la reducción y el seguro. Cualquier servicio desplegado en @eigencloud está destinado a ser apostado y si el servicio daña al usuario, la apuesta detrás del servicio se reduce y compensa al usuario basado en la compra previa del usuario. ¡Recomiendo encarecidamente a todos leer este documento!