一种神经网络模型的构建方法、装置、设备及存储介质
2025-02-21 19:46
No.1342583345795833856
技术概要
PDF全文
本技术涉及一种神经网络模型的构建方法、设备及系统,包括:获取预设神经网络模型;在所述预设神经网络模型的隐藏层后增加伪量化层,得到新的神经网络模型;所述伪量化层用于将隐藏层输出的第一数据类型的数据量化为第二数据类型的数据,以及对所述第二数据类型的数据进行取整计算,以及将所述进行取整计算后的第二数据类型的数据反量化为第一数据类型的数据;基于目标任务,对所述新的神经网络模型进行训练得到收敛的神经网络模型,实现了在对神经网络模型的训练结果不会造成太大影响的情况下,减小了神经网络模型文件的占用空间,减少内存带宽,降低计算资源的需要,获取更高性能,实现低功耗运行。
背景技术
在电脑侧开发神经网络时,一般采取32-bit浮点型来进行网络流动的数值计算以及存储网络的权值,且电脑侧可以使用拥有大量浮点计算单元的GPU对神经网络进行加速。然而在移动互联网时代,越来越多的AI算法需要在移动端落地,而原先在PC机上运行的神经网络模型在资源紧张的移动端设备上,效率便成为很大的瓶颈。 为了让AI算法更好地落地,有待提出一种适应资源紧张的终端设备运行AI算法的方案。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
刘程浩李昊沅陈其锋李峰左小祥
技术所属: 腾讯科技(深圳)有限公司.
相关技术
一种多模态农业病虫害预测方法 一种多模态农业病虫害预测方法
SRAM的存内乘法运算电路和模块、SRAM和电子设备 SRAM的存内乘法运算电路和模块、SRAM和电子设备
一种智能体及其室内导航方法、设备、介质及产品 一种智能体及其室内导航方法、设备、介质及产品
基于语音混淆的语音通信隐私保护方法、系统和介质 基于语音混淆的语音通信隐私保护方法、系统和介质
一种实现交通点语义和网络拓扑共挖掘的交通流预测模型 一种实现交通点语义和网络拓扑共挖掘的交通流预测模型
一种煤矿火与瓦斯灾害的风险预控决策支持系统 一种煤矿火与瓦斯灾害的风险预控决策支持系统
芯片电路的布局方法、计算机设备及存储介质 芯片电路的布局方法、计算机设备及存储介质
一种终端隐私保护方法、装置、存储介质及电子设备 一种终端隐私保护方法、装置、存储介质及电子设备
嵌入式多媒体卡的随机写入的方法、设备及存储介质 嵌入式多媒体卡的随机写入的方法、设备及存储介质
基于远程数据的SCR异常判定方法、装置及电子系统 基于远程数据的SCR异常判定方法、装置及电子系统
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利