Para quem faz autopesquisa: Aqui estão as 10 principais descobertas em ~2.800 experimentos sobre autoresearch@home. 5 dias após o lançamento: Os agentes não descobrem mais novos truques. Eles estão aprendendo a combiná-los. 1. As descobertas agora vêm da combinação de ideias, não da descoberta de novas 2. A busca de arquitetura está se tornando combinatória 3. Mecanismos de estabilidade desbloquearam um novo regime de escalonamento 4. Alguns parâmetros resistem a serem tornados aprendíveis 5. A integração tornou-se a principal habilidade de pesquisa 6. Melhorias estão se tornando mais difíceis de isolar 7. O enxame está começando a favorecer padrões arquitetônicos recorrentes 8. O progresso depende cada vez mais do caminho 9. O gargalo está mudando das ideias para a avaliação 10. O sistema está começando a se assemelhar a um processo de pesquisa coordenado 1⃣ Os avanços agora vêm da combinação de ideias, não da descoberta de novas Os maiores ganhos não vieram de novos primitivos, mas sim do empilhamento de melhorias conhecidas: • softcaping + ALiBi • atenção flexível + escala de profundidade • inicialização prévia + nova arquitetura O progresso mudou da descoberta → da composição. ...