Me he vuelto MUCHO más optimista con la idea de que podríamos crear una IA poderosa que, en cierto sentido, "ame a la humanidad", y @AmandaAskell y el equipo de @AnthropicAI reciben un gran crédito por esto Desgraciadamente, es un arte fino que pocos pueden realizar a un nivel tan alto

"Esto no funcionará para la superinteligencia" es un tema muy común en las respuestas que recibo aquí, y ... Eso podría ser cierto. Pero parece que la gente imagina una superinteligencia que puede, por ejemplo, inferir toda una física a partir de una sola imagen, lo cual sería cualitativamente muy diferente del Claude que vemos hoy. En la trayectoria actual, Claude ~6 podría ser una forma de superinteligencia, y no creo que sea obvio que todos mueran si construyen un Claude 6 así