Tillräckligt avancerad agentisk kodning är i grunden maskininlärning: ingenjören sätter upp optimeringsmålet samt vissa begränsningar på sökutrymmet (specifikationen och dess tester), sedan itererar en optimeringsprocess (kodningsagenter) tills målet uppnås. Resultatet är en blackbox-modell (den genererade kodbasen): en artefakt som utför uppgiften, som du distribuerar utan att någonsin granska dess interna logik, precis som vi ignorerar individuella vikter i ett neuralt nätverk. Detta innebär att alla klassiska problem som uppstår i ML snart kommer att bli problem för agentisk kodning: överanpassning till specifikationen, Clever Hans-genvägar som inte generaliseras utanför testerna, dataläckage, konceptdrift med mera. Jag skulle också fråga: vilka blir Keras för agentisk kodning? Vad kommer att vara den optimala uppsättningen av högnivåabstraktioner som gör det möjligt för människor att styra kodbasens 'träning' med minimal kognitiv belastning?