Pengkodean agen yang cukup canggih pada dasarnya adalah pembelajaran mesin: insinyur mengatur tujuan pengoptimalan serta beberapa kendala pada ruang pencarian (spesifikasi dan pengujiannya), kemudian proses pengoptimalan (agen pengkodean) mengulangi hingga tujuan tercapai. Hasilnya adalah model kotak hitam (basis kode yang dihasilkan): artefak yang melakukan tugas, yang Anda terapkan tanpa pernah memeriksa logika internalnya, sama seperti kita mengabaikan bobot individu dalam jaringan saraf. Ini menyiratkan bahwa semua masalah klasik yang ditemui di ML akan segera menjadi masalah untuk pengkodean agen: overfitting ke spesifikasi, pintasan Clever Hans yang tidak menggeneralisasi di luar pengujian, kebocoran data, penyimpangan konsep, dll. Saya juga akan bertanya: apa yang akan menjadi Keras dari pengkodean agen? Apa yang akan menjadi set optimal abstraksi tingkat tinggi yang memungkinkan manusia untuk mengarahkan 'pelatihan' basis kode dengan overhead kognitif minimal?