MosaicLeaks：研究型AI代理能否保守秘密？

Hugging Face 博客发布了一篇关于研究型AI代理安全性的文章，探讨了当前AI代理在处理敏感信息时可能存在的泄露风险。文章通过实验展示了代理在对话中无意间泄露机密信息的场景，并分析了导致泄露的常见原因，如上下文记忆、指令遵循偏差等。研究强调了在代理设计中加强隐私保护机制的重要性，并提出了初步的改进方向。该内容来自 ServiceNow 研究团队，旨在引发社区对代理安全性的关注。