哈尔滨工业大学、安天科技申请深度学习模型鲁棒性评估方法专利
金融界2024年9月3日消息，天眼查知识产权信息显示，哈尔滨工业大学、安天科技集团股份有限公司申请一项名为“基于ORS面向软标签输出深度学习模型鲁棒性评估方法“，公开号CN2.7，申请日期为2024年5月。
专利摘要显示，本发明提出基于ORS面向软标签输出深度学习模型鲁棒性评估方法，属于鲁棒性评估技术领域。包括生成对抗文本，并使用对抗文本攻击目标模型，基于ORS计算目标模型的鲁棒性分数，评估鲁棒性。对抗文本基于词语重要性框架生成，词语重要性框架包括排序阶段和扰动阶段。利用文本对应的真值标签上的置信度计算重要性分数，若重要性分数大于0，则说明文本中的词语对真值标签有正向影响，即词语为文本中重要词语，反之词语为文本中非重要词语；为输出为软标签的目标模型的鲁棒性评估提供了一种可行的解决方案，解决了当前鲁棒性评估方法中评价指标不全面的问题，并量化了输出为软标签的深度学习模型的鲁棒性评估标准。
本文源自：金融界
