提供降低计算能力以改善边缘的AI推理
随着AI处理从云端移动到网络边缘,电池供电和深度嵌入式设备面临着执行AI功能的挑战,如计算机视觉和语音识别。
Microchip公司通过其硅存储技术(SST)子公司,通过其模拟存储器技术memBrain神经形态存储器解决方案降低功耗,从而应对这一挑战。
该公司的模拟闪存解决方案基于其Superflash技术并针对神经网络进行了优化以执行矢量矩阵乘法(VMM),通过模拟内存计算方法改善了VMM的系统架构实现,增强了边缘的AI推理。
由于当前的神经网络模型可能需要50M或更多的突触(权重)进行处理,因此为片外DRAM提供足够的带宽变得具有挑战性,从而造成神经网络计算的瓶颈和整体计算能力的提高。相比之下,memBrain解决方案将突触权重存储在片上浮动门中,从而显着改善系统延迟。与传统的基于数字DSP和SRAM / DRAM的方法相比,它可以降低10到20倍的功耗并降低整体BOM。
“ 随着汽车,工业和消费者市场的技术提供商继续为神经网络实施VMM,我们的架构可帮助这些前向解决方案实现功耗,成本和延迟优势, ”SST许可部门副总裁Mark Reiten表示。“ Microchip将继续为AI应用提供高度可靠和多功能的Superflash内存解决方案。“
今天的公司正在采用memBrain解决方案来提高边缘设备的ML容量。由于具有降低功耗的能力,这种模拟内存计算解决方案非常适合任何AI应用。
“ Microchip的memBrain解决方案为我们即将推出的模拟神经网络处理器提供超低功耗的内存计算, ” Syntiant公司首席执行官Kurt Busch 说道。 “ 我们与Microchip的合作继续为Syntiant提供许多关键优势,因为我们支持普遍的ML边缘设备中语音,图像和其他传感器模式的永远在线应用。“
SST展示了这种模拟存储器解决方案,并在FMS上展示了Microchip的基于memBrain产品区块阵列的架构。