Одна память не может управлять всеми. Мы представляем 𝗟𝗼𝗚𝗲𝗥, новую 𝗵𝘆𝗯𝗿𝗶𝗱 архитектуру памяти для геометрической реконструкции с длинным контекстом. LoGeR обеспечивает стабильную реконструкцию на расстоянии до 𝟭𝟬𝗸 𝗳𝗿𝗮𝗺𝗲𝘀 / 𝗸𝗶𝗹𝗼𝗺𝗲𝘁𝗲𝗿, с 𝗹𝗶𝗻𝗲𝗮𝗿-𝘁𝗶𝗺𝗲 масштабированием по длине последовательности, 𝗳𝘂𝗹𝗹𝘆 𝗳𝗲𝗲𝗱𝗳𝗼𝗿𝘄𝗮𝗿𝗱 выводом и 𝗻𝗼 𝗽𝗼𝘀𝘁-𝗼𝗽𝘁𝗶𝗺𝗶𝘇𝗮𝘁𝗶𝗼𝗻. Тем не менее, он соответствует или превосходит сильные оптимизационные конвейеры. (1/5) @GoogleDeepMind @Berkeley_AI