南京大学缪峰团队提出迄今最高并行度的神经形态计算方案
《科学》杂志在今年4月份提出了125个最具挑战性的前沿科学问题,其中信息科学领域的首个问题便是:计算机处理速度是否有上限?(Is there an upper limit to computer processing speed?)由于发热问题,数字计算机中处理器的时钟频率在十多年来已经停止了增长,这也导致传统计算机在有着大规模计算需求的物联网、自动驾驶等应用场景中面临巨大挑战。突破这一挑战的关键是发展并行计算技术,通过提高并行度来提升处理速度的上限。但是,常规的多核、多芯片、多板卡并行计算系统均采用“空间换时间”的妥协方式来提升算力。如何利用新的计算硬件和计算方案来实现大规模并行计算,从而实现信息处理速度的不断提升,是未来计算领域一个广受关注的议题。
神经形态计算具备存算一体的特点,有望突破传统计算机的发展阻碍。针对如何在神经形态计算中克服常规并行计算方案所面临的挑战,南京大学物理学院缪峰教授团队提出用时间上连续的信号作为信息载体,引入频率维度从而实现并行神经形态计算的方案,打破了传统并行方案需要“用空间换取时间”的局面。相关研究成果以“Scalable massively parallel computing using continuous-time data representation in nanoscale crossbar array”(利用连续时间数据表达在纳米尺度交叉阵列上实现可扩展大规模并行计算)为题于 2021年7月8日发表在《自然-纳米技术》(Nature Nanotechnology)期刊上。(论文链接:https://www.nature.com/articles/s41565-021-00943-y)。
研究团队基于忆阻器交叉阵列可以在时间上连续处理信息的特性,提出了在频域上采用频分复用实现并行计算的方案。研究团队利用该方案设计了两种操作模式:并行读取模式和并行计算模式,分别可以执行忆阻器阵列上电导矩阵的并行读取和矩阵-矩阵相乘运算的并行计算。进一步,研究团队将两个分别工作在读取和计算模式下的阵列进行级联,配合无线射频模块,实现了多张图片的并行读取、并行识别、与识别结果传输的功能演示。最后值得一提的是,在该工作中,虽然团队利用忆阻器阵列作为硬件展示,但是该频分复用计算技术可以广泛应用于相变存储器、磁隧穿结存储器、浮栅器件等其他神经形态计算硬件上。该工作为未来人工智能时代,填补海量数据计算需求所面临的算力缺口提供了可行的技术途径。
南京大学物理学院博士研究生王聪和梁世军副教授为该工作第一作者,缪峰教授为通讯作者。该工作得到国家杰出青年科学基金、国家自然科学基金重点项目、中科院先导B项目、南大中央高校基本科研业务费原创交叉项目等项目资助,以及固体微结构物理国家重点实验室、人工微结构科学与技术协同创新中心等支持。
图1. 频分复用神经形态并行计算方案,以及读取模式和计算模式的工作机制示意。
图2. 基于频分复用神经形态并行计算方案,对16张字母图片的并行读取、并行识别、与识别结果传输的示意图。
论文链接:https://www.nature.com/articles/s41565-021-00943-y