本项创新技术专注于神经形态计算领域,特别提出了一种新型神经形态计算设备。该设备集成了神经元状态存储器、神经元互连存储器、控制器、物理神经元、外部神经元激励输入模块以及外部神经元接口,旨在提升神经元计算的效率和性能。
背景技术
1936年,英国数学家艾伦·图灵提出一种抽象的计算模型来代替人类进行数学运算,该计算模型被称为图灵机(Turing Machine)。图灵机非常简单,由三部分组成:(1)无限长的纸带用于保存数据内容、(2)读写头用于读取纸带内容并更新纸带内容、(3)控制器按照特定程序规则决定读写头的具体操作方式。
经过近100年的发展,如今,图灵机已成为大多数现代计算机系统的基础计算模型,从微型嵌入式计算机到大型超级计算机,所有现代计算机系统都属于图灵机。图灵机计算模型的核心功能是实现数学运算,数学运算的规则以程序的形式存储,因此,图灵机是一种“按照程序规则更新数据”的计算系统。
神经网络是一种模拟人类大脑神经系统的数学抽象模型,可以通过把神经网络数学模型分解成图灵机可运行程序的方式,在图灵计算机中实现神经网络模型的运算。然而,图灵计算机“按照程序规则更新数据”的计算方式会引入大量程序控制等额外操作,计算效率低下。
除了传统图灵计算机方案,近年来也出现一些神经形态专用计算方案,例如IBMTrueNorth、Intel Loihi以及清华Tianjic等。
现有神经形态计算方案,在物理上构建了一个由神经元及其互连组成的计算系统,例如,IBM TrueNorth是由1百万个神经元相互连接而成的神经形态计算系统;清华大学Tianjic是由4万个神经元相互连接而成的神经形态计算系统。
现有计算方案的一大缺陷是拥有有限的神经元规模,大于物理神经元规模的神经网络无法在该神经形态计算系统中运行,只能通过扩展的方式来运行(例如合并多个计算系统来实现更大规模的计算)。
由于人脑神经系统的规模十分庞大,人类大脑约由1000亿个神经元组成,每个神经元包含1000~10000个突触。如果按照现有技术方案实现人脑规模神经形态计算系统,相关系统将变得十分庞大而几乎不可能实现。
实现思路