Mitä syvemmälle perehdyn Goodfire-tutkimukseen, sitä enemmän ymmärrän, kuinka tulkittavuuden haara on hiljalleen muuttumassa yhdeksi tekoälyn (ja erityisesti tieteen tekoälyn) mielenkiintoisimmista rajamaalauksista He julkaisivat tämän tutkimuksen viime vuonna, ja sen ydinajatus on, miten DNA-perustamalli järjestää lajeja sisäisesti upotustilassaan tavalla, joka heijastaa todellista elämän evoluutiopuuta. tai käytännössä siitä, miten malli löysi fylogenian uudelleen pelkästään DNA-sekvensseistä. he tutkivat Evo 2:ta (EvolutionaryScalen kehittämää DNA-mallia) ja havaitsivat, että: + jokaisen lajin genomi kuvataan vektoriupotukseen mallin sisällä. + nämä upotukset muodostavat kaarevan geometrisen rakenteen (monisto). + etäisyydet tällä monistolla vastaavat todellista evolutiivista etäisyyttä lajien välillä. Eli mallin sisällä: Samankaltaiset lajit → läheiset upotukset Kaukaiset lajit → kaukaiset upotukset ja syntyvä rakenne on pohjimmiltaan elämänpuu. Tämä voi osoittaa mullistavaa, miten perustusmallit voivat automaattisesti löytää tieteellisiä rakenteita uudelleen.

Kaverit, luulen, että tämä saattaa olla seuraava OpenClaw. Karpathy antoi tekoälyagentin optimoida oman neuroverkkokoulutuskoodinsa kahden päivän ajan. se suoritti 700 koetta itsenäisesti. löysin 20 parannusta, jotka hän oli missannut kuukausien manuaalisen virityksen jälkeen. 11 % suorituskyvyn parannus. Agentti löysi Bugeja. viritetyt hyperparametrit. Havaittu puuttuva säännöllistäminen. suunnitteli omat kokeensa aiempien tulosten pohjalta. Mitä Karpathy teki? "ohjelmointi program.md" Tämä on mies, joka on tehnyt täsmälleen tämän työnkulun käsin 20 vuotta. Rakennettu Tesla Autopilot. Ja hänen reaktionsa oli "villi". Miksi tämä on OpenClaw-tasoinen? Koska OpenClaw ei ollut yksi robotti, joka oppi yhtä tehtävää. Se oli kehys, jonka avulla agentit saattoivat tehdä kokonaisen joukon toimenpiteitä Sama tapahtui juuri tutkimuksessa/kokeiluissa. Karpathy on jo käynnistämässä toista kierrosta monen agentin yhteistyöllä. Hän sanoi sen suoraan: "Kaikki Frontier Labs tekevät tämän. se on viimeinen pomotaistelu." Mutta zoomaa vielä kauemmas. Hänen todellinen oivalluksensa: "Mikä tahansa mittari, josta välität ja joka on kohtuullisen tehokas arvioida, voidaan automaattisesti tutkia agenttiparvi." Mikä tahansa mittari, josta välität ja joka on kohtuullisen tehokas arvioida, voidaan automaattisesti tutkia agenttiparvi. Mainoskulut, toimitusketju, energiaverkko, lääkkeiden löytäminen, kaupankäyntistrategia jne... Jos sitä voi automaattisesti tutkia, se tehdään automaattisesti. Nyt tarvitsemme infrastruktuurin parvea varten.