Hugging Face 发布红队抵抗排行榜

Hugging Face 推出了红队抵抗排行榜（Red Team Resistance Leaderboard），旨在评估大语言模型对对抗性攻击的鲁棒性。该排行榜通过自动化红队测试，衡量模型在面对提示注入、越狱等攻击时的防御能力。首批上榜模型包括 Llama 3、Mistral 等主流开源模型，并提供了详细的评分和排名。该工具为开发者提供了模型安全性的量化参考，有助于提升 AI 系统的安全性。