La codificación agentic suficientemente avanzada es esencialmente aprendizaje automático: el ingeniero establece el objetivo de optimización así como algunas restricciones en el espacio de búsqueda (la especificación y sus pruebas), luego un proceso de optimización (agentes de codificación) itera hasta que se alcanza el objetivo. El resultado es un modelo de caja negra (la base de código generada): un artefacto que realiza la tarea, que despliegas sin inspeccionar nunca su lógica interna, así como ignoramos los pesos individuales en una red neuronal. Esto implica que todos los problemas clásicos encontrados en el aprendizaje automático pronto se convertirán en problemas para la codificación agentic: sobreajuste a la especificación, atajos de Clever Hans que no se generalizan fuera de las pruebas, filtración de datos, deriva de concepto, etc. También me preguntaría: ¿cuál será el Keras de la codificación agentic? ¿Cuál será el conjunto óptimo de abstracciones de alto nivel que permitan a los humanos dirigir el 'entrenamiento' de la base de código con una sobrecarga cognitiva mínima?