本技术涉及一种利用高级神经预测器生成黑盒语音对抗样本的方法。该方法包括:1) 对音频x生成n个随机扰动方向向量,通过搜索和ASR模型查询确定最小扰动以生成数据集;2) 设计高级神经预测器;3) 使用数据集训练神经预测器,寻找最优扰动方向;4) 利用优化搜索和ASR模型确定最小扰动,生成新样本并更新数据集;5) 重复步骤3-4直至获得对抗样本。该技术解决了现有技术中搜索复杂、扰动过大的问题。
背景技术
近年来,语音对抗样本生成方法研究备受学术界和工业界关注,如何设计并生成具有较小扰动的语音对抗样本仍然是一项具有挑战性的任务。现有的语音对抗攻击方法,例如基于生成对抗网络的方法在学习语音特征方面表现出色,但面临复杂的训练过程和高计算资源需求;基于转移的方法通过在一个已知模型上生成对抗样本再应用于目标黑盒模型,操作简便但成功率有限;基于遗传算法的生成方法不依赖梯度信息,在全局优化问题上具有较强搜索能力,但收敛速度较慢,需要进行多次搜索。现有的黑盒攻击方法通常需要大量的查询才能找到有效的攻击,这使得攻击过程变得既耗时又低效。在保持攻击隐蔽性的同时实现高效攻击是一个挑战,难以在不显著改变输入样本的前提下实现有效攻击。
实现思路