Jag lade till ett litet filsystem i min wasm-tolk som körs på ett neuralt nätverk. Filer existerar som tensorer på GPU:n men de konsumerar inte "kontext" förrän de läses eller skrivs av wasm-instruktioner.
Du kan ladda filer från det riktiga filsystemet vid uppstart av nätverket. Modifiera dem i GPU-minnet och kopiera tillbaka dem efteråt.
Om du kisar är det en minidator som körs i GPU, lite av den ultimata sandlådan. Allt är implementerat med linjär algebra, både deriverbar och deterministisk.
Den här REPL är inte som något du sett förut. Den körs på ett neuralt nätverk.
Det är ett feedforward-nätverk som använder uppmärksamhet, och det implementerar en fullt fungerande wasm-tolk.
När jag såg en artikel om ämnet wasm-tolkning av LLM:er var jag tvungen att bygga detta. Wasm + tekniken bakom AI + en repl ... som körs i en webbläsare och byggdes och distribuerades på Replit – detta är en hyllning till @amasad, en av mina personliga hjältar 🐐
Idén bygger på ett nyligen inlägg av @PerceptaAI men de tillhandahöll inte modellarkitekturen eller egentligen några viktiga implementeringsdetaljer, så jag var tvungen att göra mycket av att lista ut och testa med Replit-agenten för att bygga det – det är häpnadsväckande att AI kan producera detta – en neural nätverksarkitektur med handgjorda vikter för att implementera något för nytt för att finnas i någon av dess träningsdata.
P.s. allt gjordes på min telefon, det mesta medan jag flög från SFO till München, vilken tid att leva!
Igår lämnade Claude in mina förfallna tyska momsdeklarationer för Q3 2025.
Jag använde Claude Cowork och tillägget Claude Chrome, inga programmeringstrick, helt färdiga saker från Anthropic.
Jag startade Cowork med en projektmapp och lade pdf:er av mina fakturor och kvitton där och bad den förbereda räkenskaperna för varje kvartal. Sedan loggade jag in på den tyska skatteportalen (Elster) och bad den hitta och fylla i relevanta formulär och skicka in dem.
Jag spelade in den sista delen av processen och bad sedan Claude att redigera min personliga information från videon och snabba upp den tre gånger så att jag kunde dela den. Här är den, Claude gör mina skatter, Tyskland-utgåvan