深度学习优化:卷积神经网络的高效量化技术
2025-02-13 15:29
No.1339619463708024832
技术概要
PDF全文
本技术方案涵盖了一种针对卷积神经网络的量化技术,该技术应用于深度学习领域。该方法通过逐层量化目标卷积神经网络,实现网络参数的优化,以提升模型的运行效率。
背景技术
卷积神经网络是一种可以用于图像识别、计算机视觉、自然语言处理等领域的深度学习模型。卷积神经网络的量化是一种旨在减少模型大小和加速推理过程的优化技术。 量化可以包括感知训练量化(Quantization Aware Training,QAT)方法和后训练量化(Post-Training Quantization,PTQ)方法。PTQ方法由于无需额外的训练操作而应用较广。 卷积神经网络的量化可以根据量化颗粒的不同分为逐层(Per-Layer)量化与逐通道(Per-Channel)量化。逐层量化为每一卷积层的权重共享同一组量化参数;逐通道量化为每一卷积层的相同通道内的权重共享同一组量化参数。 但发明人发现,在基于PTQ方法对卷积神经网络进行量化时,存在不同通道或者不同空间位置的激活值分布不均而导致的值域范围差异较大的问题。而由于硬件设备的资源受限,使得不能支持逐通道量化进行卷积神经网络的量化,而是采用逐层量化的量化方式。如此会使得整个卷积层的值域范围由个别值域范围较大的通道或空间位置所主导,使得卷积神经网络中存在不同通道或不同的空间位置的数据分布不均的问题,会最终导致其它通道或空间位置的量化分辨率明显降低,而影响模型量化之后的性能。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
马志伟熊超牛昕宇
技术所属: 深圳鲲云信息科技有限公司.
相关技术
一种基于VR高空模拟系统及其使用方法 一种基于VR高空模拟系统及其使用方法
一种模块化工业算力设备 一种模块化工业算力设备
一种基于边缘计算和大数据算法的RV减速器信息管理系统 一种基于边缘计算和大数据算法的RV减速器信息管理系统
一种独柱墩桥梁加固后的健康监测预警方法及系统 一种独柱墩桥梁加固后的健康监测预警方法及系统
一种具有无极滚轮和侧滚轮的鼠标 一种具有无极滚轮和侧滚轮的鼠标
一种文本展示方法、装置、设备和存储介质 一种文本展示方法、装置、设备和存储介质
一种多级行政区划要素的快速检索与展示方法及系统 一种多级行政区划要素的快速检索与展示方法及系统
一种审计数据价值评价方法及设备 一种审计数据价值评价方法及设备
一种基于智能背心生产质量安全溯源方法及系统 一种基于智能背心生产质量安全溯源方法及系统
一种线程监控的方法、装置、计算机设备和存储介质 一种线程监控的方法、装置、计算机设备和存储介质
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利