黑盒环境下对抗性样本的高效生成技术
2025-02-11 10:48
No.1338824008799625216
技术概要
PDF全文
本技术介绍了一种在黑盒环境下生成对抗性样本的新方法及其装置,旨在提升人工智能系统的安全性,并减少对抗样本生成过程中对模型的依赖,从而降低冗余扰动。
背景技术
随着人工智能技术的发展,视觉大模型不断涌现出超强的语义理解与内容生成能力。在图像理解、自动驾驶、医疗影像分析等众多关键领域的广泛应用,其安全性问题成为研究焦点。现有研究主要面向白盒攻击(White-Box Attack)场景,攻击者对视觉模型具有完全的了解,包括目标模型的结构(如神经网络的层数、每层的神经元数量等)、参数(权重和偏置)和训练数据的分布等信息;利用输入图像对于视觉大模型的梯度反馈,迭代生成对抗样本,用于设计特定目标攻击和非特定目标攻击策略。此外,对于黑盒攻击(Black-BoxAttack)场景下,攻击者不了解视觉大模型的内部结构和权重参数等先验知识,常常采用随机选取像素点进行多值篡改,试凑生成用于黑盒攻击的对抗样本。同时,面向已知大模型进行白盒攻击生成对抗样本,利用对抗样本的攻击迁移性,用于误导具有相同变换器和卷积结构的未知大模型,实现黑盒攻击。 然而,上述随机篡改试凑法和攻击迁移性法都缺乏利用黑盒模型的决策反馈信息,对抗样本生成效率和攻击成功率都较低,针对某一视觉大模型生成的对抗样本难以对其他视觉大模型产生有效攻击,这严重限制了对视觉大模型安全性的全面评估和防护策略的制定。因此,迫切需要一种能够在黑盒环境下生成具有高迁移性对抗样本的方法。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
彭弘毅  周维铭  孙一凡  陈茗扬  彭希奥  王震
技术所属: 西北工业大学
相关技术
一种服务开发方法、装置、设备及存储介质 一种服务开发方法、装置、设备及存储介质
一种高精度双层优化方法的神经网络搜索架构构建方法 一种高精度双层优化方法的神经网络搜索架构构建方法
跨总线域的设备对宿主机空间DMA访问方法及相关设备 跨总线域的设备对宿主机空间DMA访问方法及相关设备
一种客户信息定期维护方法及系统 一种客户信息定期维护方法及系统
代码发布方法、装置、计算机设备和可读存储介质 代码发布方法、装置、计算机设备和可读存储介质
一种基于统一管理平台的子应用数据获取方法及装置 一种基于统一管理平台的子应用数据获取方法及装置
利用深度学习的BIM模型错误自动检测系统 利用深度学习的BIM模型错误自动检测系统
一种基于智能反射面的室内T型走廊场景路径损耗的分析方法 一种基于智能反射面的室内T型走廊场景路径损耗的分析方法
模型评估任务处理方法及装置 模型评估任务处理方法及装置
基于大数据的异常信号智能识别方法 基于大数据的异常信号智能识别方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利