Sebastian Borgeaud (Google) på RSI: "Med syntetisk data använder du en stark modell för att generera den syntetiska datan, och sedan kör du mindre skaliga ablationer för att validera effekten av den syntetiska datan. En riktigt intressant fråga är om man faktiskt kan generera syntetisk data för att göra en modell som man vill träna i framtiden, bättre än modellen som genererade den syntetiska datan från början. Vi lägger mycket tid på att fundera på detta och forska i den riktningen."