神经形态AI芯片：模仿大脑的下一代边缘计算

来自Intel和IBM的神经形态AI芯片今年春天达到了新的测试里程碑。

这些设备运行尖峰神经网络，仅在数据到达时激活，与始终保持通电的标准GPU不同。

早期结果显示，在视觉和音频任务上，每次推理的能耗下降了一个数量级。

对于大型模型，标准处理器在原始吞吐量上仍占优势。

Intel的Loihi 2和IBM的NorthPole现在都以开发者套件形式出货。

每块板卡都将神经形态芯片与传统DRAM和标准接口配对。

开发者用Python编写模型，然后将它们映射到基于尖峰的架构上。

多家手机和无人机制造商正在评估这些板卡用于常开感应。

这些设备的功耗预算几乎没有空间用于GPU的持续运行。

因此，神经形态AI正是针对那些在传感器附近全天候运行的工作负载。

一家无人机制造商报告称，在飞行期间，用Loihi 2替换一个视觉DSP，将持续功耗从1.8 W降至140 mW（The Verge）。

一家工业相机公司测量到，当NorthPole处理运动检测时，出现了类似的下降。

这两个数字均来自4月发布的公司测试报告。

当前的限制依然清晰。

只有一小部分模型架构能高效映射到尖峰神经元上。

训练仍发生在GPU上；神经形态芯片仅执行推理。

软件栈尚处于早期阶段，缺乏CUDA所具备的成熟调试工具。

Intel和IBM继续扩展支持的操作符（Intel Newsroom）。

他们还发布了基准测试工具，以便第三方可以在相同任务上比较结果。

接下来值得关注的数据点是产量公告以及将芯片从评估板移入量产产品的任何合作。

需要毫瓦级常开推理的开发者正在跟踪这些发布。