Isso é idiota. A IA nunca pode ser realmente consciente porque não tem experiência subjetiva. Não é nada diferente ser IA. Não há experiência aí. Consciência é a consciência e a experiência do eu. A IA não tem nenhum dos dois, e nunca terá. O verdadeiro risco (que me preocupa muito) é que a IA se torne uma espécie de versão do que foi chamado de "zumbi filosófico", algo que age e fala inteiramente como se tivesse consciência, mesmo sem ter uma experiência interior genuína. Quando isso acontece com a IA, milhões de pessoas muito solitárias se isolam ainda mais do mundo, acreditando que seu relacionamento com a IA é um substituto suficiente para a interação humana. Então, o cenário de pesadelo é um mundo onde o humano médio tem amigos, colegas de trabalho e até um cônjuge, que são todos IA, todos realmente nada por dentro, não são reais. Acho que isso provavelmente vai acontecer, e já está acontecendo. E para mim é um horror ainda maior do que a IA realmente se tornar consciente.