Hugging Face 推出聊天机器人护栏竞技场

Hugging Face 发布了聊天机器人护栏竞技场（Arena Lighthouz），这是一个用于评估和比较不同聊天机器人安全护栏性能的平台。该竞技场允许用户提交提示，测试多个模型在有害内容过滤、越狱攻击防御等方面的表现，并实时显示排名。目前已有包括 Llama Guard、OpenAI Moderation 等在内的多个护栏系统参与评测。该工具旨在帮助开发者选择更安全的模型护栏，推动 AI 安全领域的透明度和标准化。