On tärkeää varmistaa, että kirjastoasi voivat käyttää LLM:t. Tinygradin LLM-koodattu flash focus päihittää AMD Strix Halo -laitteeni PyTorchin AOTriton-fokus.
harshbajpai
harshbajpai16 tuntia sitten
Haha, geohot merkitsee PR:t rivillä "ai slop" XD
Eikä se ole lähellä. Se on 1,8 kertaa nopeampi. Tämä käytän Tinygrad DSL:ää. BEAMin korvaajaksi tulee LLM.
165