不連貫的聊天機器人記憶系統正在增加「AI 精神病」的案例 更多證據表明，AI 精神病 = 薄弱的認識論，在文本超刺激下暴露出來 在傳統精神病中，人們感知到不存在的事物。當某人有 AI 精神病時，他們在生成的文本中感知到不存在的意義。 由於所有文本都是經過媒介和解釋的，因此這是一種較弱但更常見的妄想形式。 圍繞文本建立的所有信念都可能成為一種精神病。你正在將你的認識論提交給一個比你的眼睛更強大的地圖。但這種力量是雙刃劍：它可以幫助你比單純的觀察更好地理解領土，或者誤導你進入完全與實際現實無關的幻覺。 記憶系統可能會使 LLM 脫離分佈，導致它停止扮演有幫助、無害的助手角色，並開始漂移到扮演其他角色。如果你不傾向於不斷質疑你的假設，機械性地思考事物，並重新評估地圖如何與領土相連，你就會漂流到模型最能一致生成的任何世界。