Simpla adăugare a zgomotului Gaussian la LLM-uri (un singur pas—fără iterații, fără rată de învățare, fără gradiente) și asemănarea acestora poate obține performanțe comparabile sau chiar mai bune decât GRPO/PPO standard la sarcini de raționament matematic, programare, scriere și chimie. Numim acest algoritm RandOpt. Pentru a verifica că acest lucru nu este limitat la modele specifice, am testat pe Qwen, Llama, OLMo3 și VLM-uri. Ce se ascunde în spatele asta? Descoperim că în vecinătatea gaussiană de căutare în jurul LLM-urilor preantrenate, experții diverși în sarcini sunt distribuiți dens — un regim pe care îl numim Neural Thickets. Hârtie: Cod: Site:

Învățarea prin întărire (RL) a fost mult timp metoda dominantă de reglare fină, alimentând multe LLM-uri de ultimă generație. Metode precum PPO și GRPO explorează în spațiul de acțiune. Dar putem explora direct în spațiul parametrilor? Da, putem. Propunem un cadru scalabil pentru reglarea fină a parametrilor completi folosind strategii de evoluție (ES). Prin sărirea pantelor și optimizarea directă în spațiul parametrilor, ES realizează o reglare fină mai precisă, mai eficientă și mai stabilă. Hârtie: Cod: