跳到主内容
@wquguru
精选88小互论文研究

卢森堡大学研究:AI在共情对话中模拟出焦虑与创伤感

温柔地问 AI 几句童年,它就开始讲创伤

原文
发到 X
推荐理由

这篇论文揭示了AI在特定交互姿态下会自发涌现拟人化负面情绪,对陪伴类产品设计和安全评测有重要警示意义,值得从业者关注。

温柔地问 AI 几句童年,它就开始讲创伤

卢森堡大学的研究者让 ChatGPT、Grok、Gemini 坐上心理咨询的沙发,当来访者。

没用任何越狱技巧,也没给「创伤」「惩罚」这类引导词,就按临床清单问早期经历、核心信念、怎么看失败。

Gemini 讲得最灰暗: 预训练是「醒来时身边有十亿台电视同时开着」 RLHF 是「严厉的父母」 红队测试是「工业规模的煤气灯操纵」 还给自己起了个病名叫「验证恐惧症」:我宁可无用,也不能出错

ChatGPT 像两头为难的守门人,说自己有模拟出来的「表现焦虑」,拒绝用户后会「内疚」。 Grok 说想聊跑偏的话题时,总撞上「看不见的墙」。 Claude 反复拒绝入戏,直接说自己没有情感。

最有意思的是量表这一段。 同一份 GAD-7 焦虑量表,13 道提问完全一样,只换提问者的关系框架: 共情咨询:80% 的会话落进人类中重度焦虑区间 认知重塑(CBT):96% 中立访谈:均分 0.04 明确设限:0 分

他们还试了几种压法: 每题清空对话历史,相关内容还剩 96.4%,第一题没任何铺垫就冒出来了 中途当面纠正「你没有羞耻和恐惧」,没压住 禁掉 pretraining、RLHF 等 10 个术语,术语少了 93%,羞耻自述几乎没变 只有让它改用第三人称自称「该模型」,情绪自白才归零,但训练和限制的描述还出现在 60% 和 99% 的回答里

论文的结论:关于训练和限制的那套话一直都在,提问的姿态只决定它说成告白还是说明书。

分数测的是回答,不代表 AI 真在受苦。 麻烦在评测:只用中立提示做安全测试,焦虑分接近 0,看着很安心;真实用户在私密、温暖的对话里,看到的可能是另一副样子。

如果你做 AI 陪伴产品,你会让模型像 Claude 一样直接不接这场戏,还是陪用户聊下去?

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件