من المهم التأكد من أن مكتبتك يمكن استخدامها من قبل نماذج اللغة الكبيرة (LLMs). ذلك الانتباه الفلاش المبرمج في نموذج اللغة الكبيرة في tinygrad يتفوق على تركيز AOTriton في PyTorch على جهاز AMD Strix Halo الخاص بي.
harshbajpai
harshbajpaiمنذ 17 ساعةً
هاها، geohot تضع علامات PR بعبارة "ai slop" XD
وليس قريبا. إنها أسرع بمقدار 1.8 مرة. هذا باستخدام شاشة DSL من نوع tinygrad. البديل ل BEAM سيكون LLM.
‏‎180‏