Die neuesten KI-Anwendungsfälle verwenden wahrscheinlich etwa 100-mal mehr Tokens als die neuesten Anwendungsfälle vor einem Jahr. Wir sehen bereits die Explosion von Programmieragenten, die viel komplexere und länger laufende Projekte durchführen, was bereits eine verrückte Menge an Inferenzkapazität verbraucht. Und das ist nur ein kleiner Prozentsatz der gesamten Wissensarbeit. Diese gleiche Architektur wird bald für den Rest der Wissensarbeit kommen, wo Agenten effektiv ihren eigenen Computer zur Verfügung haben werden, um zu arbeiten, und die Fähigkeit, Code für viele Aufgaben zu schreiben und auszuführen, sowie durch Unmengen von Daten zu navigieren, um ihre Arbeit zu erledigen. Der Tokenverbrauch für diese Agenten wird verrückt sein. Es wird in der Inferenzwelt sehr interessant werden.