Достатньо просунуте агентне кодування по суті є машинним навчанням: інженер встановлює ціль оптимізації, а також певні обмеження на простір пошуку (специфікацію та його тести), потім процес оптимізації (агенти кодування) повторюється, доки не буде досягнуто мети. Результатом є модель чорної скриньки (згенерована кодова база): артефакт, який виконує завдання, який ви розгортаєте, ніколи не перевіряючи його внутрішню логіку, так само як ми ігноруємо окремі ваги в нейронній мережі. Це означає, що всі класичні проблеми, з якими стикаються машинне навчання, незабаром перетворяться на проблеми для агентного кодування: переналаштування за специфікаціями, скорочення Clever Hans, які не узагальнюють поза межами тестів, витік даних, дрейф концепцій тощо. Я б також запитав: якими будуть Keras агентного кодування? Який буде оптимальний набір високорівневих абстракцій, які дозволять людям керувати «навчанням» кодової бази з мінімальними когнітивними витратами?