OpenAI 提出代码合成大模型危害分析框架

OpenAI 发布了一项关于代码合成大语言模型（LLMs）的危害分析框架，旨在系统评估和缓解由AI生成的代码可能带来的安全风险。该框架涵盖了从模型训练到部署的多个阶段，包括数据收集、模型微调、输出过滤和用户交互等环节，并提出了针对恶意代码生成、漏洞引入、隐私泄露等潜在危害的评估方法和缓解策略。OpenAI 希望通过这一框架，为开发者、研究者和政策制定者提供一套标准化的工具，以更安全地利用代码合成模型。