Tôi đã trở nên cực kỳ lạc quan rằng chúng ta có thể tạo ra AI mạnh mẽ mà theo một cách nào đó "yêu nhân loại", và @AmandaAskell & đội ngũ @AnthropicAI xứng đáng nhận được rất nhiều tín dụng cho điều này Thật không may, đó là một nghệ thuật tinh tế mà ít người có thể thực hiện ở mức độ cao như vậy.

"điều này sẽ không hiệu quả cho siêu trí tuệ" là một chủ đề rất phổ biến trong các phản hồi mà tôi nhận được ở đây, và ... điều đó có thể đúng. Nhưng mọi người dường như đang tưởng tượng ra một siêu trí tuệ có thể ví dụ suy luận tất cả một lĩnh vực vật lý từ một hình ảnh duy nhất, điều này sẽ rất khác biệt so với các Claude mà chúng ta thấy ngày nay. Trên con đường hiện tại, Claude ~6 có thể là một hình thức siêu trí tuệ, và tôi không cảm thấy rõ ràng rằng mọi người sẽ chết nếu họ xây dựng một Claude 6 như vậy.