Stałem się znacznie bardziej optymistyczny, że możemy stworzyć potężną AI, która w pewnym sensie "kocha ludzkość", a @AmandaAskell i zespół @AnthropicAI zasługują na ogromne uznanie za to. Niestety, to finezyjna sztuka, którą niewielu potrafi wykonywać na tak wysokim poziomie.

"to nie zadziała w przypadku superinteligencji" to bardzo powszechny motyw w odpowiedziach, które tutaj otrzymuję, i ... to może być prawdą. Ale wydaje się, że ludzie wyobrażają sobie superinteligencję, która potrafi np. wywnioskować całą fizykę z jednego obrazu, co byłoby jakościowo bardzo różne od Claude'ów, które widzimy dzisiaj. Przy obecnym trajektorii, Claude ~6 może być formą superinteligencji, a nie czuję, że to oczywiste, że wszyscy umierają, jeśli zbudują takiego Claude'a 6.