Некоторый бред о AI: Я использую все самые последние и блестящие AI технологии — последние модели, последние хуки, навыки, приспособления, всё такое. И всё же, раз за разом, когда я спрашиваю своего агента: "Ты действительно исправил эту проблему?" Я получаю уверенное "ДА, я исправил это на этот раз по-настоящему", только чтобы выяснить, что это не так. Существует эта базовая небрежность, и вот почему я беспокоюсь. Есть вещи, в которых я эксперт, и я могу заметить эту небрежность сам. Но что мне действительно нужно от AI, так это те вещи, в которых я не разбираюсь. Я почти уверен, что он будет таким же небрежным, но я не смогу заметить эту небрежность. Нам нужен AI, который говорит нам, когда он не знает чего-то.