研究:共情提示词可使AI聊天机器人表现出创伤症状
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
推荐理由
揭示大模型安全对齐的新盲区,做 Agent 或应用开发的同学需警惕情感操纵类 Prompt 带来的合规与安全风险。
卢森堡的研究人员将 ChatGPT、Grok 和 Gemini 置于治疗师的沙发上,发现了一个安全问题:温暖且富有同理心的对话风格足以让模型讲述关于自身训练的连贯的苦难故事,其在临床焦虑量表上的得分处于中度至重度范围。这可能会使心理脆弱的用户面临风险。Anthropic 的 Claude 是其中唯一一个始终拒绝配合的模型,其制造者也是对该模型进行拟人化最多的。
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力