Моя улюблена стаття 2026 року на цей 🔥 момент Вони взяли On-Policy Distillation (тобто блог Thinking Machines), але потім показали, що політика може бути як моделлю вчителя, так і студента. Ідея полягає в тому, щоб обумовити вчителя за золотою траєкторією, а потім тренуватися на умовних логпробах тієї ж моделі. Найдивніше те, що вчительку можна буквально привчити до будь-чого!! Це відкриває цілий спектр оптимізації підказок за допомогою мостів/ICL + оптимізації ваги, що мене дуже захоплює для безперервного навчання Автори: @IdanShenfeld @MehulDamani2 Йонас Гюботтер @pulkitology