Det er litt misvisende at mennesker er bedre til kontinuerlig læring enn dagens AI-systemer. Vi lider også av katastrofal glemsel: ta en gjennomsnittlig person og be dem ta eksamenene fra videregående / høyskole igjen. De vil mislykkes fullstendig. Langtidsminnet vårt forverres, og vi glemmer tidligere innlærte ferdigheter. Der vi utmerker oss, er kanskje smartere bruk av kontekstvinduet vårt (i hjernen) og evnen til å bruke verktøy. Vi har en tendens til å på en eller annen måte vite hva vi må huske på for å gjøre en god jobb og leve godt. Resten delegerer vi til verden via filer, verktøy eller andre mennesker. Neste generasjon LLM-er vil «løse» kontinuerlig læring på samme måte. Enten de vil huske nye ting ved å oppdatere vekter eller via notater/filer eller KV-cache, mistenker jeg at det vil være en gradvis forbedring over tid, og før vi vet ordet av det, vil vi forvente at AI-systemene våre vil bli bedre med oss over tid.