Kodowanie wspomagane przez AI może zdecydowanie być czynnikiem przyspieszającym produktywność 10x. Pozwala ludziom działać znacznie szybciej i omijać wiele nudnych przeszkód. Jednak dzisiejsze modele wciąż popełniają błędy. Mogą być pewne siebie w błędzie. Mogą być oszukane. I mogą łatwo generować kod, którego osoba go wprowadzająca tak naprawdę nie rozumie. To właśnie tutaj staje się to niebezpieczne. Jeśli wdrażasz krytyczne systemy, szczególnie na dużą skalę, musisz rozumieć kod, który wprowadzasz. Usługi finansowe to oczywisty przykład. Czy chciałbyś, aby AI wprowadzało błędy do czegoś, co przechowuje cały twój majątek? Ja nie. To się zmieni, gdy modele będą lepsze. Szybko się poprawiają. Ale w tej chwili powinniśmy postępować ostrożnie. Człowiek w pętli nie musi spowalniać działań. AI może nadal znacznie przyspieszyć zespoły w pisaniu, przeglądaniu i iteracji. Ale w przypadku systemów produkcyjnych, które mają znaczenie, powinno być przynajmniej dwóch ludzi, aby zrobić coś złego na dużą skalę. To zupełnie inna historia w przypadku projektu pobocznego lub dowodu koncepcji, dla informacji.