半监督知识迁移实现深度学习隐私保护

OpenAI 提出一种半监督知识迁移方法，旨在从私有训练数据中学习深度学习模型，同时保护数据隐私。该方法利用未标记的公共数据，通过教师模型集成和学生模型训练，实现知识迁移，并应用差分隐私技术确保训练数据不被泄露。实验表明，该方法在多个数据集上取得了与使用原始数据训练相近的性能，同时提供了可证明的隐私保障。