ニューロモーフィック AI チップ：次世代エッジコンピューティングのための脳の模倣

IntelとIBMのニューロモーフィックAIチップは今春、新たなテストのマイルストーンに到達した。

これらのデバイスは、データが到着したときにのみ活性化するスパイキングニューラルネットワークを実行し、電源が入ったままの標準的なGPUとは異なります。

初期の結果では、ビジョンおよびオーディオタスクにおける推論あたりのエネルギーが桁違いに低下したことが示されています。

大規模モデルでは、標準的なプロセッサが依然として生のスループットで勝っています。

IntelのLoihi 2とIBMのNorthPoleはどちらも現在、開発者キットで出荷されています。

各ボードは、ニューロモーフィックダイを従来のDRAMと標準インターフェースと組み合わせています。

開発者はPythonでモデルを書き、それをスパイクベースのファブリックにマッピングします。

いくつかの電話およびドローンメーカーが、常時オンのセンシング用にこれらのボードを評価しています。

これらのデバイスの電力予算では、継続的なGPU動作のための余地はほとんどありません。

したがって、ニューロモーフィックAIは、1日24時間センサーの近くで実行されるワークロードを正確にターゲットにしています。

あるドローンメーカーは、1つのビジョンDSPをLoihi 2に置き換えたことで、飛行中の持続電力が1.8 Wから140 mWに削減されたと報告しました (The Verge).

ある産業用カメラ会社は、NorthPoleがモーション検出を処理した際に同様の低下を測定しました。

両方の数値は4月にリリースされた会社のテストレポートからのものです。

現在の限界は明らかです。

スパイキングニューロンに効率的にマッピングできるモデルアーキテクチャは限られたセットのみです。

トレーニングは依然としてGPU上で行われます。ニューロモーフィックダイは推論のみを実行します。

ソフトウェアスタックは初期段階であり、CUDAで利用可能な成熟したデバッグツールが不足しています。

IntelとIBMはサポートされるオペレーターを拡大し続けています (Intel Newsroom).

また、サードパーティが同一タスクで結果を比較できるようにベンチマークハーネスを公開しています。

次に注目すべきデータポイントは、生産量の発表と、チップを評価ボードから出荷製品に移行させるパートナーシップです。

ミリワットレベルの常時オン推論を必要とする開発者は、これらのリリースを追跡しています。