He llegado a ser MUCHO más optimista sobre la posibilidad de que podamos crear una IA poderosa que, en cierto sentido real, "ame a la humanidad", y @AmandaAskell & el equipo de @AnthropicAI merecen un gran reconocimiento por esto. Desafortunadamente, es un arte fino que pocos pueden realizar a un nivel tan alto.

"esto no funcionará para la superinteligencia" es un tema muy común en las respuestas que estoy recibiendo aquí, y ... eso podría ser cierto. Pero la gente parece estar imaginando una superinteligencia que puede, por ejemplo, inferir toda la física a partir de una sola imagen, lo cual sería cualitativamente muy diferente de los Claudes que vemos hoy. En la trayectoria actual, Claude ~6 podría ser una forma de superinteligencia, y no siento que sea obvio que todos mueran si construyen un Claude 6.