Sebastian Borgeaud (Google) sur le RSI : "Avec des données synthétiques, vous utilisez un modèle puissant pour générer les données synthétiques, puis vous réalisez des ablations à plus petite échelle pour valider l'effet des données synthétiques. Une question vraiment intéressante est de savoir si vous pouvez réellement générer des données synthétiques pour améliorer un modèle que vous souhaitez entraîner à l'avenir, mieux que le modèle qui a généré les données synthétiques en premier lieu. Nous passons beaucoup de temps à réfléchir à cela et à faire des recherches dans cette direction."