Har byggt inom detta område i flera år nu och har följt Nishkarsh i flera år också – grattis till uppskjutningen! Eftersom detta är i samma utrymme som vi bygger i, har jag gått djupt in i det och har tankar. Själva lanseringen är väldigt hype-inspirerad och är tänkt att trigga raserilockelse 1. Det är positionerat som en databas, men är nästan ett @supermemory-liknande system 2. Deras exempel med att "vektor-databaser" inte kan göra detta är egentligen en fråga om "inbäddning av modeller". och inbäddningsmodeller har superpositioner, de är billiga och kan lätt dra slutsatser mellan dem. Det är inte svårt att be Claude göra ett litet experiment för att bevisa detta (bifogat nedan). Det som spelar roll är: kan den följa hur kunskap utvecklas? Tiden går? Det gjorde mig nyfiken så jag läste deras artikel 3. Deras forskningsuppsats hårdkodar och manipulerar benchmarken med olika prompts för varje kategori!! (se bilden nedan). Om deras benchmarking är fixad kommer superminne att förbli SOTA. 4. De återuppfann den kontextuella återvinningsartikeln av Anthropic från 2024 och kallade den "den föräldralösa pronomenparadoxen" 5. De nämner att de använder en anpassad "in-memory vector store" = vid cirka 500 GB måste du betala mer än 10 000 dollar bara för RAM. 6. Inferens körs för många gånger i pipelinen – vilket betyder att för varje LLM-token du inhämtar kommer du att betala 5 gånger mer än tokenkostnaden för grafen + kontextualisering + lagring. 7. Latens- och kostnadssiffror rapporterades aldrig. Min känsla är att latensen kommer att ha svårt i skala på grund av arkitekturen. Men jag kan inte säga – deras produkt ligger bakom Demo Gate. 8. benchmarkingkoden är inte OSS (såvitt jag kan se). inte replikerbar + vem vet hur mycket kontext de injicerar i modellen? Vad är K:et? 9. Oorganiska, icke avslöjade annonser (läs bara citattweets). Influencerkonton med 400 000+ följare säger alla samma sak. Folk kommer undan med det här @nikitabier lol Jag är helt med på sund konkurrens och framsteg inom detta område, tycker om att se gott arbete göras av andra. Men det är lätt att bara säga saker. "Ingen kommer att kolla." Att spela spelet på rätt sätt är svårt, och alla säger bara vad de kan för att imponera på folk. ...