FLUX.2 [klein] 9B on juuri tullut kaksi kertaa nopeammaksi kuvankäsittelyssä, erityisesti kun käyttää useita referenssikuvia. Sama laatu, ei hinnankorotusta.

Taustalla: KV-välimuisti antaa mallille mahdollisuuden ohittaa redundanttilaskenta viitekuvissasi. Mitä enemmän referenssejä, sitä suurempi nopeus kasvaa. Päättely on jopa 2x+ nopeampi moniviiteeditointiin.

Julkaisemme myös FP8-kvantisoituja painoja, jotka on rakennettu @NVIDIA_AI_PC Ajaa Klein 9B:tä vähemmällä VRAMilla ja nopeammalla päättelyllä paikallisia ja itseisännöityjä käyttöönottoja varten.