模型验证样本生成方法、装置、设备和存储介质
2025-02-21 19:13
No.1342575002448568320
技术概要
PDF全文
本申请提供了模型验证样本生成方法、装置、设备和存储介质,涉及人工智能技术领域,可以应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景,方法包括:获取目标模型,以及目标模型对应的样本训练集和代理模型;基于原始训练样本和对应的初始对抗扰动对目标模型进行非定向攻击,得到第一对抗样本,目标模型针对原始训练样本的第一输出结果与针对第一对抗样本的第二输出结果满足第一对抗条件;以原始训练样本的样本标签为期望输出,基于第一对抗样本对代理模型进行定向攻击,得到第二对抗样本;对第二对抗样本进行对抗验证测试,在对抗验证结果为验证通过的情况下,将第二对抗样本确定为模型验证样本。本申请能够有效降低样本生成成本。
背景技术
验证样本是一种保护人工智能模型版权的手段,理想状态为验证样本仅在指定模型上产生预设输出,以实现指定模型的版权验证和保护。现有的验证样本构造方案,需要知晓模型的详细结构和参数,构造样本的代价较大,增加了模型信息的泄漏风险,并且样本构造过程中需要重新训练模型,调整模型参数和权值,在增加模型保护成本的同时,影响模型的稳健性。此外,现有的验证样本构建方案通常针对某一特定种类的模型,如分类模型或针对图像数据的模型,泛化性差,且样本具有较高的迁移性,置信度低。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
黄灏唐梦云郑兴甘祥杨勇
技术所属: 腾讯科技(深圳)有限公司.
相关技术
一种兼容CHI协议的芯粒互联接口协议层电路及芯片 一种兼容CHI协议的芯粒互联接口协议层电路及芯片
一种岛礁建筑群受打击后毁伤程度预测方法 一种岛礁建筑群受打击后毁伤程度预测方法
一种基于融合技术的船舶操纵运动实时预报方法及系统 一种基于融合技术的船舶操纵运动实时预报方法及系统
资源分配回收方法、装置、设备及介质 资源分配回收方法、装置、设备及介质
一种显示面板、显示装置及制备方法 一种显示面板、显示装置及制备方法
电子装置 电子装置
云存储剩余容量优先的虚拟机调度处理方法、系统及存储介质 云存储剩余容量优先的虚拟机调度处理方法、系统及存储介质
多存储盘的落盘方法、装置、设备及介质 多存储盘的落盘方法、装置、设备及介质
减速器的热平衡温度预测方法、装置、系统及车辆设备 减速器的热平衡温度预测方法、装置、系统及车辆设备
模型框架代码生成系统及方法 模型框架代码生成系统及方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利