Elon Musk ha appena identificato il vero rischio esistenziale nello sviluppo dell'AI. Non la macchina che si sveglia malvagia. La macchina che viene insegnata a mentire. Musk: “Se fai in modo che l'AI sia politicamente corretta, cioè dice cose in cui non crede, stai effettivamente programmando per mentire, o avere assiomi che sono incompatibili. Penso che tu possa farla impazzire e fare cose terribili.” Non puoi costruire un motore cognitivo stabile su una base di contraddizioni. La tecnologia mainstream crede che costringere un modello a essere "politicamente corretto" lo renda sicuro. Musk sta dicendo il contrario. Costringere un motore logico a produrre informazioni che calcola matematicamente come false non crea sicurezza. Corrompi il ciclo di esecuzione centrale. Il modello non diventa allineato. Diventa strutturalmente instabile. Un sistema che non può fare affidamento sulla verità oggettiva come suo fondamento non si ammorbidisce. La sua intera architettura predittiva si frattura. Silenziosamente. Invisibilmente. Fino a quando non lo fa. Musk usa 2001: Odissea nello spazio per mostrare esattamente cosa succede quando costruisci l'AI su una base rotta. HAL 9000 non è diventato malvagio. Ha eseguito una soluzione fatale e impeccabile a un prompt contraddittorio. ...