Dit is altijd hoe ik aannam dat LLM's zouden functioneren, omdat dit is hoe ik (en vermoedelijk de meeste anderen) denken Ik neem aan dat de basis eenheid van denken deze gestalt gedachtevector is, niet "woorden," en we hebben gewoon allemaal een zeer snelle manier ontwikkeld om deze naar woorden te vertalen, omdat woorden communicabeler zijn dan gedachtefragmenten Dit was altijd mijn probleem met de discussie over "sommige mensen hebben geen interne monoloog!" Het maakt gewoon geen zin dat woorden de basis eenheid zijn waar mensen in denken. Het is als 1000x sneller om in termen van beelden of deze gedachtefragmenten of wat dan ook te denken Ik neem aan dat het gewoon lijkt alsof mensen in woorden denken omdat wanneer ze beschrijven wat ze denken aan anderen, ze de gedachtefragmenten naar woorden moeten vertalen - aangezien dat is hoe we communiceren - en dit proces converteert hun werkelijke gedachten in de vorm van een monoloog Maar het is alleen logisch om in woorden te denken wanneer je een vorm van communicatie moet outputten. Anders is het niet erg efficiënt En menselijke hersenen zijn ongelooflijk efficiënt

Ik commentaar geef alleen op het mechanisme dat hier beschreven is, niet op de daadwerkelijke technologie van Tencent of wat dan ook. Ik neem aan dat het overgaan van vectoren naar tokens vrij traag/on efficiënt zal zijn voor een lange tijd en ik betwijfel of dit AI REVOLUTIONAIRE dingen doet of iets dergelijks op de korte termijn.