1/ Was wäre, wenn ich dir sagen würde, dass du LLMs mit einer Mischung aus Consumer- und Rechenzentrums-GPUs über eine Internetverbindung mit niedriger Bandbreite und minimalem Verlust vortrainieren könntest? Neues Papier: Heterogene Low-Bandwidth-Vorbereitung von LLMs