É um pouco um erro de nomenclatura dizer que os humanos são melhores em aprendizagem contínua do que os sistemas de IA atuais. Nós também sofremos de esquecimento catastrófico: pegue qualquer pessoa média e peça-lhe para fazer novamente os exames do ensino médio / faculdade. Elas falharão miseravelmente. A nossa memória de longo prazo degrada e esquecemos habilidades previamente aprendidas. Onde excelamos é talvez no uso mais inteligente da nossa janela de contexto (no cérebro) e na capacidade de usar ferramentas. Tendemos a saber de alguma forma o que precisamos manter em mente para fazer um bom trabalho e viver bem. O resto delegamos ao mundo através de arquivos, ferramentas ou outras pessoas. A próxima geração de LLMs "resolverá" a aprendizagem contínua da mesma forma. Se eles lembrarão de coisas novas atualizando pesos ou através de notas/arquivos ou cache KV, suspeito que será uma melhoria gradual ao longo do tempo e, antes que percebamos, esperamos que os nossos sistemas de IA melhorem connosco ao longo do tempo.