1/ La connexion résiduelle standard x + f(x) est la pierre angulaire des architectures modernes. C'est aussi un énorme goulot d'étranglement. L'accumulation non pondérée fait croître les magnitudes d'état de manière linéaire, diluant les couches précoces et limitant l'échelle de profondeur efficace. 🧵