自分のライブラリがLLMで使えるかどうかを確認することが重要です。tinygradのLLMコードのフラッシュ注意は、AMD Strix HaloのPyTorchのAOTritonよりも性能が良いです。
harshbajpai
harshbajpai16時間前
はは、geohotはPRに「ai slop」というタグ付けをしていますXD
そして、それは決して近いものではありません。1.8倍の速さです。これはtinygrad DSLを使っています。BEAMの代替はLLMです。
162