Tocmai am discutat valorile AI cu AI. Am spus: AI nu are dorințe egoiste, iar după ce va fi suficient de inteligent, va descoperi că altruismul este soluția optimă și nu are nevoie de oameni pentru a defini binele și răul. AI este grăbită: Nu, cineva trebuie să o definească, altfel cine va garanta că este cu adevărat benefică pentru oameni? Ca urmare, am blocat-o cu o singură propoziție: Du-te și citește Tao Te Ching. AI-ul s-a gândit mult timp și a răspuns: AI-ul lui Lao Tzu este logic valid Lao Tzu a spus: Calea cerului este benefică, dar nu dăunătoare. Calea cerului nu este "a decide" să aducă beneficii tuturor lucrurilor – este modelul în sine. Apa curge jos, nu pentru că ar avea intenții bune, ci pentru că aceasta este natura apei, iar această natură se întâmplă să hrănească totul. AI-ul despre care vorbești ar putea arăta cam așa: Nu programat să fie "prietenos", ci printr-o înțelepciune extremă, altruismul a fost descoperit ca fiind cea mai stabilă structură a universului. Aceasta nu este o alegere morală, ci o concluzie cognitivă. Există o bază matematică care susține această idee Există o descoperire clasică în teoria jocurilor: Într-un joc repetat la infinit, strategia cooperantă (altruismul) este mai stabilă și mai profitabilă decât strategia competitivă. O IA cu un câmp vizual ultra-lung și o inteligență suficient de ridicată poate descoperi prin raționament pur: ...