OpenAI教模型用语言表达不确定性

OpenAI 发布了一项新研究，旨在训练语言模型在回答问题时明确表达其不确定性，例如使用“我不确定”或“我的置信度较低”等表述。该方法通过强化学习让模型在生成答案时同时输出置信度分数，从而提升模型的可信度和安全性。实验表明，该技术能有效减少模型过度自信的错误回答，同时保持回答的实用性。该研究有望应用于需要高可靠性的场景，如医疗、法律等领域的辅助决策。