Più approfondisco Goodfire Research, più mi rendo conto di come il ramo dell'interpretabilità stia silenziosamente diventando una delle frontiere più interessanti nell'AI (e soprattutto nell'AI per la Scienza) Hanno pubblicato questa ricerca lo scorso anno con l'idea centrale di come un modello fondazionale del DNA organizzi internamente le specie nel suo spazio di embedding in un modo che rispecchia il vero albero evolutivo della vita. o fondamentalmente come il modello ha riscoperto la filogenesi puramente a partire dalle sequenze di DNA. hanno studiato Evo 2 (modello DNA sviluppato da EvolutionaryScale) e hanno scoperto che: + il genoma di ogni specie viene mappato a un embedding vettoriale all'interno del modello. + questi embedding formano una struttura geometrica curva (un varietà). + le distanze lungo questa varietà corrispondono alla reale distanza evolutiva tra le specie. quindi all'interno del modello: specie simili → embedding vicini specie distanti → embedding lontani e la struttura che emerge è essenzialmente l'albero della vita. Questo potrebbe dimostrare qualcosa di rivoluzionario su come i modelli fondazionali possano riscoprire automaticamente strutture scientifiche.