La Catena del Pensiero è morta. Ho appena testato il Skeleton of Thought e sta dimezzando la latenza delle risposte nei compiti strutturati con output più precisi. L'intuizione ha distrutto il mio modello mentale di come l'AI dovrebbe generare testo. Il CoT costringe il modello a pensare e scrivere contemporaneamente. Il Punto 1 deve finire prima che il Punto 2 possa iniziare. Il Punto 2 deve finire prima che il Punto 3 possa iniziare. Ogni token è bloccato dal token precedente. Non è così che gli esperti strutturano effettivamente le informazioni. Un consulente McKinsey non scrive un rapporto in modo lineare. Prima delinea ogni sezione, poi sviluppa ciascuna in modo indipendente. Un professore non redige le note di lezione dall'inizio alla fine. Prima schematizza gli argomenti, poi li riempie. Lo SoT finalmente corrisponde a questo. Fase 1 - Scheletro: Il modello scrive prima un semplice schema di ogni punto. Nessuna elaborazione. Solo struttura. Veloce. Fase 2 - Riempimento Parallelo: Ogni punto dello scheletro viene espanso in modo indipendente e simultaneo. Il Punto 3 non aspetta il Punto 2. Il Punto 5 non aspetta il Punto 4. Un ramo sbagliato non rallenta ogni ramo successivo. La struttura esatta del prompt: "Prima, scrivi uno scheletro conciso della tua risposta come un elenco di punti chiave. Poi, espandi ogni punto in modo indipendente e completo. Formato: [Scheletro] seguito da [Punto 1], [Punto 2], ecc." Ecco tutto. Questo è il segreto. Dove lo SoT domina:...