Construim în acest domeniu de ani de zile și îl urmăresc și pe Nishkarsh de ani de zile – felicitări pentru lansare! Deoarece este în același spațiu în care construim, m-am adâncit în el și am gânduri. Lansarea în sine este foarte plină de hype și are scopul de a declanșa momeală furioasă 1. Este poziționat ca o bază de date, dar este aproape un sistem asemănător @supermemory 2. Exemplul lor în care "DB-urile vectoriale" nu pot face acest lucru este de fapt o chestiune de "modele de încorporare". iar modelele de embedding au suprapuneri, sunt ieftine și pot deduce ușor diferențele dintre ele. Nu este greu să-i ceri lui Claude să facă un mini experiment pentru a demonstra acest lucru (atașat mai jos). Ceea ce contează este: poate urmări modul în care evoluează cunoașterea? Trece timpul? Acest lucru m-a făcut curios, așa că am citit lucrarea lor 3. Lucrarea lor de cercetare este codarea fixă și modificarea benchmark-ului prin diferite provocări pentru fiecare categorie!! (vezi imaginea de mai jos). Dacă benchmarking-ul lor este fixat, supermemoria va rămâne SOTA. 4. au reinventat lucrarea de recuperare contextuală a publicației Anthropic din 2024 și au numit-o "paradoxul pronumelor orfane" 5. menționează că folosesc un "magazin vectorial în memorie" personalizat = la aproximativ 500GB, va trebui să plătești mai mult de 10.000$ doar pentru RAM. 6. Inferența este rulată de prea multe ori în pipeline – ceea ce înseamnă că pentru fiecare token LLM pe care îl ingerezi, vei ajunge să plătești de 5 ori mai mult decât costul tokenului pentru grafic + contextualizare + stocare. 7. Numerele de latență și costuri nu au fost niciodată raportate. Bănuiala mea este că, din cauza arhitecturii, latența va avea dificultăți la scară largă. Dar nu pot spune - produsul lor este în spatele Demo Gate. 8. codul de benchmarking nu este OSS (din câte pot observa). Nu poate fi replicabil + cine știe cât context injectează în model? care e K-ul? 9. reclame anorganice, nedezvăluite (doar citește citatele tweet-uri). Conturi de influenceri cu 400k+ urmăritori spun același lucru. Oamenii scapă basma curată @nikitabier haha Sunt total implicat în competiția sănătoasă și progresul în aceste domenii, îmi place să văd munca bună făcută de alții. Dar e ușor să spui lucruri pur și simplu. "Nimeni nu va verifica." Să joci jocul corect este greu, iar toată lumea spune orice poate ca să impresioneze oamenii. ...