Už roky v tomto prostoru stavím a Nishkarsh sleduji také roky – gratuluji k uvedení na trh! Protože je to ve stejném prostoru, kde stavíme, ponořil jsem se do toho a mám nějaké myšlenky. Samotné spuštění je velmi napínavé a má vyvolat vzteky 1. je umístěn jako databáze, ale téměř @supermemory podobný systému 2. Jejich příklad "vektorových databází", které to nedokážou, je ve skutečnosti otázkou "vkládání modelů". A embedding modely mají superpozice, jsou levné a snadno dokážou mezi nimi odvodit rozdíly. Není těžké požádat Clauda, aby provedl mini experiment, který to dokáže (přiloženo níže). Důležité je, zda dokáže sledovat, jak se znalosti vyvíjejí? Čas plyne? To mě zaujalo, tak jsem si jejich článek přečetl 3. jejich výzkumná práce je hardcoding a zvládá benchmark podle různých zadání pro každou kategorii!! (viz obrázek níže). Pokud bude jejich benchmarking fixován, superpaměť zůstane SOTA. 4. znovu vynalezli článek o kontextuálním vyhledávání od Anthropic z roku 2024 a nazvali ho "paradoxem osiřelých zájmen" 5. Zmiňují, že používají vlastní "vektorové úložiště v paměti" = při přibližně 500GB budete muset zaplatit více než 10 000 dolarů jen za RAM. 6. Inference se v pipeline spouští příliš často – což znamená, že za každý LLM token, který vstoupíte, nakonec zaplatíte 5x více než náklady tokenu za graf + kontextualizaci + úložiště. 7. Latence a náklady nikdy nebyly hlášeny. Mám pocit, že kvůli architektuře bude latence při škálování těžká. Ale nemohu to říct – jejich produkt je za Demo Gate. 8. Benchmarkovací kód není OSS (alespoň podle toho, co jsem zjistil). Není replikovatelné + kdo ví, kolik kontextu do modelu vkládají? Co je to K? 9. Neorganické, nezveřejněné reklamy (stačí si přečíst citace tweetů). Influencer účty s 400 tisíci sledujícími, všechny říkají to samé. Lidem to pořád projde@nikitabier lol Jsem plně pro zdravou konkurenci a pokrok v tomto oboru, rád vidím, jak ostatní odvádějí dobrou práci. Ale je snadné prostě něco říct. "Nikdo to nekontroluje." Hrát hru správně je těžké a všichni říkají, co můžou, aby zapůsobili. ...