Voor degenen die autoresearch uitvoeren: Hier zijn de top 10 bevindingen uit ~2.800 experimenten op autoresearch@home. 5 dagen na de lancering: De agenten ontdekken geen nieuwe trucs meer. Ze leren hoe ze ze kunnen combineren. 1. Doorbraken komen nu voort uit het combineren van ideeën, niet uit het ontdekken van nieuwe. 2. Architectuuronderzoek wordt combinatorisch. 3. Stabiliteitsmechanismen hebben een nieuw schalingsregime ontgrendeld. 4. Sommige parameters verzetten zich tegen leerbaarheid. 5. Integratie is de dominante onderzoekvaardigheid geworden. 6. Verbeteringen worden moeilijker te isoleren. 7. De zwerm begint terugkerende architecturale patronen te bevoordelen. 8. Vooruitgang is steeds meer padafhankelijk. 9. De bottleneck verschuift van ideeën naar evaluatie. 10. Het systeem begint te lijken op een gecoördineerd onderzoeksproces. 1⃣ Doorbraken komen nu voort uit het combineren van ideeën, niet uit het ontdekken van nieuwe. De grootste winsten kwamen niet van nieuwe primitieve, maar van het stapelen van bekende verbeteringen: • softcapping + ALiBi • flex aandacht + diepte schaling • prior initialisatie + nieuwe architectuur Vooruitgang verschoof van ontdekking → compositie. ...