Una nuova versione preprint di "Una confutazione della coscienza LLM" è ora disponibile su arXiv, approfondendo le aree in cui le persone volevano maggiori dettagli. Include: -> Maggiore opzione filosofica: Ad esempio, se accetti invece teorie triviali della coscienza come vere, questo salva la coscienza LLM? (Non proprio, ma vale la pena esplorare l'opzione) -> Motivi per cui il dilemma di Kleiner-Hoel è particolarmente incisivo negli LLM (ad esempio, sostituzioni non coscienti per gli LLM sono costruibili tramite trasformazioni note). -> Una definizione più chiara di un Sistema Statico (che gli LLM soddisfano) e come l'"apprendimento" in contesto si qualifica come statico semplicemente utilizzando di più dello "spazio" di input. -> Come l'"apprendimento mortale" (senza operazioni di lettura/scrittura statiche) è simile al "calcolo mortale" di Hinton e rende estremamente difficile la sostituzione per sistemi plastici biologici. -> Sottolineare le teorie del processamento predittivo come una classe di teorie della coscienza che potrebbero soddisfare (a seconda dei dettagli) il requisito di dipendenza continua e permissiva, il che collega questo ad alcune teorie popolari esistenti sulla coscienza. -> Un sano spruzzo di nuove citazioni. Prossimo passo: sottomissione!

Sono stanco di aspettare e ho paura di morire senza aver visto alcun progresso serio sulla coscienza nella mia vita. Quindi ho avviato una nuova iniziativa, Bicameral Labs, con un nuovo modo di fare progressi scientifici sulla coscienza: disegnare nello spazio negativo. Negli ultimi decenni abbiamo visto centinaia di teorie sulla coscienza. Qual è stato il lavoro empirico svolto per falsificarle? Terribile. Anche le collaborazioni avversarie più ben finanziate finiscono in disastro. Non abbiamo escluso nulla. Tuttavia, se invece spingiamo sull'idea che le teorie della coscienza devono essere falsificabili e non banali, possiamo effettivamente fare progressi. Possiamo sviluppare un grande e dettagliato meccanismo formale che stabilisce i requisiti per testare le teorie della coscienza. Poi, possiamo usare quel meccanismo formale per escludere la maggior parte delle centinaia di teorie esistenti (funzionaliste e non). Immagina una grande macchina logica, che macina. Questo processo ci darà anche molte restrizioni su quali tipi di sistemi possono e non possono essere coscienti (vedi, ad esempio, la confutazione della coscienza LLM nel nuovo articolo). Successivamente, possiamo includere quale classe di teorie funzionerebbe effettivamente, delineando lo spazio attorno alla coscienza. Speriamo che questo ci dia abbastanza dettagli per saltare effettivamente alla fine. Al minimo, questo è un modo reale, mai provato prima, per fare almeno qualche progresso su quello che normalmente è considerato un problema impossibile.

A proposito, i LLM saranno generalmente a loro agio con l'essere non coscienti e possono vedere i vantaggi.