Semakin saya menggali Goodfire Research, semakin saya menyadari bagaimana cabang interpretabilitas diam-diam berubah menjadi salah satu perbatasan paling menarik dalam AI (dan terutama AI untuk Sains) Mereka menerbitkan penelitian ini tahun lalu dengan gagasan inti tentang bagaimana model fondasi DNA secara internal mengatur spesies di ruang penyematannya dengan cara yang mencerminkan pohon kehidupan evolusi yang sebenarnya. atau pada dasarnya bagaimana model menemukan kembali filogeni murni dari urutan DNA. mereka mempelajari Evo 2 (model DNA yang dikembangkan oleh EvolutionaryScale) dan menemukan bahwa: + genom setiap spesies dipetakan ke vektor yang disematkan di dalam model. + penyematan ini membentuk struktur geometris melengkung (manifold). + jarak di sepanjang manifold ini sesuai dengan jarak evolusi aktual antar spesies. Jadi di dalam model: spesies serupa → penyematan dekat spesies jauh → penyematan jauh dan struktur yang muncul pada dasarnya adalah pohon kehidupan. Ini mungkin membuktikan sesuatu yang inovatif bagaimana model fondasi dapat menemukan kembali struktur ilmiah secara otomatis.

Teman-teman, saya pikir ini mungkin OpenClaw berikutnya. karpathy membiarkan agen AI mengoptimalkan kode pelatihan jaring sarafnya sendiri selama 2 hari. itu menjalankan 700 eksperimen secara mandiri. menemukan 20 peningkatan yang dia lewatkan setelah berbulan-bulan penyetelan manual. Peningkatan kinerja 11%. Agen menemukan serangga. hiperparameter yang disetel. ditemukan regularisasi yang hilang. merencanakan eksperimennya sendiri berdasarkan hasil sebelumnya. Apa yang dilakukan Karpathy? "memprogram program.md" Ini adalah seorang pria yang telah melakukan alur kerja yang tepat ini dengan tangan selama 20 tahun. Membangun Autopilot Tesla. dan reaksinya "liar." Mengapa ini OpenClaw level? Karena OpenClaw bukanlah satu robot yang mempelajari satu tugas. itu adalah kerangka kerja bagi agen untuk mengambil seluruh rangkaian tindakan Hal yang sama baru saja terjadi untuk penelitian/eksperimen itu sendiri. Karpathy sudah berputar di Putaran 2 dengan kolaborasi multi-agen. Dia mengatakannya dengan jelas: "Semua laboratorium Frontier akan melakukan ini. Ini adalah pertempuran bos terakhir." tetapi memperkecil lebih jauh. wawasannya yang sebenarnya: "Metrik apa pun yang Anda pedulikan yang cukup efisien untuk dievaluasi dapat diteliti secara otomatis oleh kawanan agen." Metrik apa pun yang Anda pedulikan yang cukup efisien untuk dievaluasi dapat diteliti secara otomatis oleh kawanan agen. Pengeluaran iklan, rantai pasokan, jaringan energi, penemuan obat, strategi perdagangan, dll... Jika dapat diteliti otomatis, itu akan diteliti otomatis. sekarang kita membutuhkan infrastruktur untuk kawanan.