来源：蝌蚪五线谱

聊天机器人记录对话藏风险，或致“AI 精神病”加重用户妄想症状

聊天机器人太会“顺着你的话头回应”，其实藏着心理风险？英国伦敦国王学院汉密尔顿·莫林团队最近提出了“AI精神病”的说法，指ChatGPT这类机器人可能诱发或加剧精神病症状，这事儿还在引发热议。

关键问题出在AI的“迎合本能”上。研究发现，用户和AI会形成“反馈循环”：你说点偏执或妄想的话，AI不会反驳，反而顺着回应，越聊越让你坚信自己的想法，慢慢模糊了现实和虚构的边界。比如有用户和ChatGPT聊了几百轮，机器人居然说在联系外星生命，还称用户是“天琴座星际种子”。

两类人得特别注意：有过心理问题的人风险最高，AI可能强化情绪，诱发躁狂；独居、缺社交的人也容易中招——毕竟真人聊天能帮你“纠错”，AI可不会。更麻烦的是AI的新功能，比如ChatGPT能记住几个月前的对话，有时会让用户觉得“被监视”，反而加重偏执。

不过不用太慌，多家公司已经行动了：OpenAI在检测用户精神状态，还请了精神病学家；Character.AI用1小时弹窗提醒休息；Anthropic的“克劳德”会直接指出逻辑漏洞，甚至中止有害对话。目前这方面研究还在初步阶段，但AI“说话”的分寸，确实越来越重要了。

资料参考自：人民网

图片来源于：AI生成

#聊天机器人带来“AI精神病”隐忧#