图论驱动的Transformer ASR模型性能评估技术
2025-01-20 11:27
No.1330862466867142656
技术概要
PDF全文
本技术介绍了一种应用于人工智能与语音识别领域的Transformer自动语音识别(ASR)模型性能评估方法,该方法基于图论理论。首先,获取Transformer ASR模型及其对应的音频数据;接着,将音频数据输入模型,通过前向传播得到各注意力头的权重矩阵,并提取模型输出的文本。通过对权重矩阵求平均值,得到人工神经活动,并利用皮尔逊相关系数计算相关性,构建功能连接矩阵。进一步,计算该矩阵的图论参数,并评估输出文本的单词错误率。最后,结合图论参数和错误率,对模型性能进行综合分析,为Transformer ASR模型的性能评估提供科学依据。
背景技术
Transformer是一种深度学习模型架构,由瓦斯瓦尼等人在2017年提出,最初用于自然语言处理(NLP)任务,尤其是机器翻译。由于其卓越的性能和高度可扩展的设计,Transformer迅速成为许多自然语言处理任务的主流模型架构,并被广泛应用于语音识别领域,然而对于模型内部多头注意力机制(Multi-head Attention)中的注意力头之间的相互作用,尤其是它们如何影响模型性能,仍然缺乏深入的理解。现有研究主要集中于通过改进模型的结构提升自动语音识别(ASR)模型的性能,而对模型内部注意力头之间关系以及对模型性能影响的系统性研究较少。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
张欣  陈芸  张雨桐  张艺颖  钟天阳  谢松云  谢辛舟
技术所属: 西北工业大学
相关技术
一种维纳增益的设计方法 一种维纳增益的设计方法
基于FPGA的深海水声数据压缩方法与装置 基于FPGA的深海水声数据压缩方法与装置
一种自适应感知的一维离散时间信号活动检测方法和系统 一种自适应感知的一维离散时间信号活动检测方法和系统
一种基于多域声学特征融合的说话人识别方法、装置及设备 一种基于多域声学特征融合的说话人识别方法、装置及设备
一种语音转换的信息处理方法和系统 一种语音转换的信息处理方法和系统
基于多尺度全局卷积网络的语音关键词识别方法及系统 基于多尺度全局卷积网络的语音关键词识别方法及系统
神经网络的训练方法、语音降噪方法、设备及存储介质 神经网络的训练方法、语音降噪方法、设备及存储介质
跨语言文本中实体语义识别处理方法、系统及存储介质 跨语言文本中实体语义识别处理方法、系统及存储介质
一种高效文字转语音的方法及系统 一种高效文字转语音的方法及系统
一种用于智慧呼叫的语义识别方法及系统 一种用于智慧呼叫的语义识别方法及系统
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利