Para quienes lleven autoresearch: Aquí están los 10 principales hallazgos de ~2.800 experimentos sobre autoresearch@home. 5 días después del lanzamiento: Los agentes ya no descubren nuevos trucos. Están aprendiendo a combinarlos. 1. Los avances ahora vienen de combinar ideas, no de descubrir nuevas 2. La búsqueda arquitectónica se está volviendo combinatoria 3. Los mecanismos de estabilidad desbloquearon un nuevo régimen de escalado 4. Algunos parámetros resisten ser hechos aprendibles 5. La integración se convirtió en la habilidad principal de investigación 6. Las mejoras son cada vez más difíciles de aislar 7. El enjambre empieza a favorecer patrones arquitectónicos recurrentes 8. El progreso depende cada vez más del camino 9. El cuello de botella está pasando de las ideas a la evaluación 10. El sistema empieza a parecerse a un proceso de investigación coordinado 1⃣ Los avances ahora vienen de combinar ideas, no de descubrir nuevas Las mayores mejoras no vinieron de nuevas primitivas, sino de apilar mejoras conocidas: • softcaping + ALiBi • flexibilidad de atención + escalado de profundidad • inicialización previa + nueva arquitectura El progreso pasó del descubrimiento → la composición. ...