AI asistované programování může být rozhodně funkcí pro 10násobnou produktivitu. Umožňuje lidem pohybovat se mnohem rychleji a vyhnout se velké části nudného tření. Ale dnešní modely stále dělají chyby. Mohou se s jistotou mýlit. Dají se oklamat. A mohou snadno generovat kód, kterému ten, kdo ho svěřuje, ve skutečnosti nerozumí. A právě tady to začíná být nebezpečné. Pokud vydáváte kritické systémy, zvlášť ve velkém měřítku, musíte rozumět kódu, který tlačíte. Finanční služby jsou zřejmým příkladem. Chtěli byste, aby se AI špina tlačila do něčeho, co drží celý váš čistý jmění? Já bych to neudělal. To se změní, jak se modely zlepší. Rychle se zlepšují. Ale teď bychom měli postupovat opatrně. Člověk v procesu nemusí věci zpomalovat. AI stále dokáže týmy výrazně zrychlit při psaní, recenzování a iteraci. Ale u výrobních systémů, na kterých záleží, by mělo být potřeba alespoň dvou lidí, aby něco špatného udělali ve velkém měřítku. Pro vedlejší projekt nebo důkaz konceptu, je to úplně jiný příběh.