Ich bin viel optimistischer geworden, dass wir mächtige KI schaffen könnten, die in gewissem Sinne "die Menschheit liebt", und @AmandaAskell & das @AnthropicAI-Team verdienen dafür ein großes Lob. Leider ist es eine feine Kunst, die nur wenige auf so hohem Niveau beherrschen können.

"Das wird für Superintelligenz nicht funktionieren" ist ein sehr häufiges Thema in den Antworten, die ich hier bekomme, und ... das könnte durchaus wahr sein. Aber die Leute scheinen sich eine Superintelligenz vorzustellen, die z.B. alle Physik aus einem einzigen Bild ableiten kann, was qualitativ sehr unterschiedlich von den Claudes ist, die wir heute sehen. Auf dem aktuellen Kurs könnte Claude ~6 eine Form von Superintelligenz sein, und ich finde nicht, dass es offensichtlich ist, dass alle sterben, wenn sie ein solches Claude 6 bauen.