[发明专利]一种面向预训练语言模型隐私泄露风险的评估方法及系统在审
| 申请号： | 202210302577.2 | 申请日： | 2022-03-24 |
| 公开（公告）号： | CN114676458A | 公开（公告）日： | 2022-06-28 |
| 发明（设计）人： | 纪守领;张曜;杜天宇;陈建海;张旭鸿;邓水光 | 申请（专利权）人： | 浙江大学 |
| 主分类号： | G06F21/62 | 分类号： | G06F21/62;G06F40/284;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司： | 杭州中成专利事务所有限公司 33212 | 代理人： | 周世骏 |
| 地址： | 310058 浙江*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及隐私安全领域，旨在提供一种面向预训练语言模型隐私泄露风险的评估方法及系统。包括：在预训练数据集中加入伪造数据；将预训练数据集输入初始化的神经网络模型，根据设定的预训练任务和损失函数计算损失；在训练过程中持续更新模型的参数，增加其隐私的泄露风险；利用微调数据集输入经过预训练的神经网络模型，对模型的特征提取能力进行微调；向模型输入隐私前缀内容，输出作为预测结果的文本信息；计算、统计和排序输出信息的困惑度，通过对比生成的隐私信息的比例来评估隐私数据泄露的风险。本发明可以有效提高评估隐私数据泄露风险的准确性，暴露预训练语言模型存在的隐私数据泄露风险，为后续发展相关防御方法提供思路。 | ||
| 搜索关键词： | 一种 面向 训练 语言 模型 隐私 泄露 风险 评估 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于浙江大学，未经浙江大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210302577.2/，转载请声明来源钻瓜专利网。
- 上一篇：一种显示基板及其制作方法和显示装置
- 下一篇：固体剂型生产
