面向实时高效信号处理的忆阻器模拟储备池计算系统
储备池计算(Reservoir Computing, RC)作为一种能够高效处理动态时空信号的全新计算范式,具有易训练、便于硬件实现等优点,已成为近年来类脑计算领域的一大前沿热点。在算法上,RC可以等效于一种特殊的递归神经网络,且具有更低的训练成本。在硬件实现上,RC的核心思想是利用物理系统自身的动态特性和非线性来取代传统递归神经网络中各个节点间的循环连接,从而大幅减少硬件开销和系统功耗。同时,由于消除了循环连接带来的误差积累问题,RC系统天然具备全模拟计算的优势与潜力。
RC系统按硬件实现方式可以分为三类:全数字系统、数字-模拟混合系统和全模拟系统。前两种RC系统都需要额外的模拟-数字转换器和寄存器作为数据转换和缓存,因此具有较高的系统功耗和计算延时。而在全模拟的RC系统中,输入的模拟信号可以在整个系统中直接传输和处理,无需任何数据转换和缓存。然而,要实现这种具有极低功耗和硬件开销的全模拟RC系统,仍面临两大关键挑战:一是如何构建状态丰富的储备池并寻找到物理节点中决定储备池性能的关键特征参数;二是如何降低全模拟传输和处理过程中的噪声对系统性能的负面影响。
图1. 不同类型的硬件RC系统:全数字RC系统、数模混合RC系统、全模拟RC系统。
针对上述挑战,近日,清华大学集成电路学院唐建石与吴华强研究团队研制出了具备全模拟计算与信号处理能力的DM-RC系统,其核心是由24个动态忆阻器(DM)构成的储备池层以及由2048×4个非易失性忆阻器(NVM)构成的读出层。DM-RC系统中每个动态忆阻器都构成一个具备计算能力的物理系统,称之为DM节点,通过特殊设计的时分复用机制能够产生丰富的储备池状态。研究团队发现,DM节点的阈值、窗口等关键行为特征对系统的性能影响很大,通过调节DM节点的关键特征参数,可以使得RC系统达到最优性能。此外,为了进一步抑制噪声等非理想特性对系统性能的影响,研究团队提出了一种带有噪声感知能力的线性回归算法,使用该算法所得到的输出层权重具有较好的噪声鲁棒性,能够很好地补偿由器件电导值扰动以及模拟传输噪声引起的计算精度损失。
图2. DM-RC系统的硬件架构:其核心是由24个动态忆阻器(DM)构成的储备池层以及由2048×4个非易失性忆阻器(NVM)构成的读出层。
为验证DM-RC系统实时处理模拟信号的能力,研究团队进一步将该系统应用到异常心率检测和动态手势识别等任务中,均获得了优异的系统性能和极低的功耗。以动态手势识别为例,手环中的三轴加速度传感器将手部的空间动作转换成3路不同的模拟电信号,每路信号被分别输入到8个DM节点上产生相应的储备池状态,其随后被直接传输到非易失性忆阻器阵列中进行模拟域的乘加运算,并最终区分出4类不同的动态手势。DM-RC系统最终实现了97.9%的分类准确率,与全数字RC系统准确率接近,但却节省了99.9%以上的功耗。该工作从优化物理节点的关键特征参数以及降低系统噪声干扰两个方面实现了具有极低功耗的全模拟RC系统,展示了其在边缘计算、物联网等低功耗场景中的应用潜力,也为将来实现更复杂的、功能更强大的全模拟类脑计算系统提供了方法论和理论基础。
图3. DM-RC系统在动态手势识别任务上的性能表现和系统功耗表现:系统能以全模拟的方式对传感器信号进行实时处理,实现了与数字系统相近的准确率,且功耗降低3个数量级。
相关成果以"A memristor-based analogue reservoir computing system for real-time and power-efficient signal processing"为题近期在线发表在《自然?电子》(Nature Electronics)上。该研究得到了科技部科技创新2030重大项目、国家自然科学基金委、北京信息科学与技术国家研究中心、集成电路高精尖创新中心、科学探索奖等支持。
来源:半导体学报