Koç UniversityのフォトニックAI、画像処理を光にオフロードするも、エネルギー面の優位性はなお未確定
Koç UniversityのフォトニックAI研究チームは、光学コアの周辺で電子機器に依存しながらも、画像処理を光にオフロードする2つの光学システムを発表した。一方は色情報を維持しつつ、皮膚画像ベンチマークで98%の精度を達成した。もう一方はファイバーレーザーを用い、複数のデータセットで85%から99%の精度を得た。
この成果は、より大規模な電子アクセラレーターを構築する以外の、より具体的な選択肢を持続可能なAIの研究者に提示する。しかし、いずれのシステムも最新GPUの導入環境より総エネルギー消費が低いことを立証したわけではない。カメラ、光変調器、レーザー、制御用電子機器、デジタル分類器はいずれもワークフローの一部として残る。
この隔たりこそが本質的な論点である。Koç Universityは、物理的な光学システムが単にデータを伝送するだけでなく、有用な変換を実行できることを示した。次に競われるのは、光と電気を単独で比べることではない。特化型フォトニック処理と、完成度が高く高度に最適化された電子コンピューティングシステムとの比較である。
Koç UniversityのフォトニックAI、2つのワークロードを光へ移行
この研究は、処理における重要な段階をソフトウェアから物理的な光学ハードウェアへ移す。ただし、AIパイプライン全体を置き換えるものではない。
報じられた研究は、イスタンブールのKoç Universityに所属する助教授Uğur Teğin氏と学生らによるものだ。Communications EngineeringとCommunications Physicsで発表された2つの別個の研究を組み合わせている。
1つ目のシステムは、特にカラー画像などのマルチチャネルデータを対象とする。多くの光学機械学習実験では、入力をカラー画像からグレースケールへ変換して簡略化する。これにより、分類が始まる前に光学システムを通過する情報量が減少する。
Teğin氏と修士課程の学生Fatma Nur Kılınç氏は、異なるアプローチを取った。彼らのプログラマブルなフォトニックニューラルネットワークは、赤、緑、青の各チャネルを保持し、同時に処理する。
フォトニックニューラルネットワークとは、制御された光の伝搬を利用し、機械学習に関連する数学的変換を実行するハードウェアである。デジタルニューラルネットワークのすべての層を必ずしも再現するものではない。
研究チームは、プログラマブルな空間光デバイスにデータを符号化した。その後、光はチャネルを混合・変換する光学配置を通過した。カメラが得られたパターンを取得し、その特徴がシンプルなデジタル分類器に渡された。
この区別は重要だ。光学機器が担うのは特徴抽出、すなわち生の入力を、カテゴリをより明確に分離できる表現へ変換する処理である。最終的な判定は依然として電子的に行われる。
マルチチャネル研究によると、このアーキテクチャは理想化されたシミュレーションだけに依存せず、物理測定からも学習する。これにより、位置ずれ、光学収差、製造ばらつき、ほこり、熱ドリフトに適応できる。
こうした不完全性は、説得力のあるフォトニクスのシミュレーションと、実用可能なデバイスを分けることが多い。光学モデルは理論上は良好に機能しても、物理的な実装では異なる挙動を示す場合がある。ハードウェアを直接最適化することで、その不一致を学習プロセスに組み込める。
HAM10000皮膚病変データセットでは、研究チームは最適化されたRGB処理後に98%の分類精度を報告した。プレプリントの詳細な結果では、生ピクセルのベースラインは67%で、31パーセントポイントの改善となった。
このシステムは、チャネル混合の最適化後、STL-10自然画像ベンチマークでも90%に達した。同一の光学アーキテクチャでは、RGB処理は一貫してグレースケール処理を5〜6パーセントポイント上回った。
2つ目の研究は、異なる演算を物理現象へ移した。Teğin氏、Dilem Eşlik氏、Kılınç氏、Bahadır Utku Kesgin氏は、連続波マルチモードファイバーレーザーを非線形光学プロセッサとして利用した。
非線形性により、プロセッサは直接的な重み付き和より複雑な関係性を作り出せる。現代のニューラルネットワークは、単純な線形手法では識別できないパターンを分離するため、非線形変換に依存している。
研究チームは、画像を位相パターンとして符号化してからレーザー共振器へ送り込んだ。マルチモード干渉と利得飽和が入力を安定した強度パターンに変換した。カメラがそれらのパターンを記録し、線形分類器に渡した。
この構成は、リサイクル可能な廃棄物、天候、衛星画像、網膜スキャン、皮膚病変を含むベンチマークで85%から99%の精度に達した。ファイバーレーザー論文によれば、深層ニューラルネットワークより桁違いに少ない学習可能パラメータで済んだという。
したがって、2つのシステムは相補的な課題に取り組んでいる。一方は複数の情報チャネルを保持・最適化し、もう一方はレーザー共振器の挙動を通じて非線形の特徴変換を提供する。
両者は、光学ハードウェアがあらかじめ定められた行列演算を高速化するだけにとどまらないことを示している。下流の分類タスクを容易にする形へ情報を整形できるのだ。
持続可能なAIハードウェアに、より高速なGPUだけでは足りない理由
フォトニックAIを後押しする圧力は、電子チップの突然の失敗ではなく、電力、熱、データ移動にある。
AIインフラは現在も、GPUやその他の電子アクセラレーターが主導している。これらのシステムはプログラマブルで、成熟したソフトウェアに支えられ、確立されたサプライチェーンを通じて製造されている。
その弱点は、より大きなモデルとクラスタにわたり計算規模が拡大すると現れる。メモリ、プロセッサ、ネットワークインターフェース間でデータを移動させるにはエネルギーが必要だ。電気抵抗も熱を生み、冷却要件を増やす。
国際エネルギー機関は、データセンターが2024年に415テラワット時の電力を消費したと推定した。これは世界全体の電力消費量のおよそ1.5%に相当する。
同機関のエネルギー見通しは、2030年までに約945テラワット時へ達すると予測している。AIがこの増加の最大の要因だが、他のデジタルサービスも寄与する。
この予測は、AIだけが予測総量のすべてを消費することを意味しない。しかし、ハードウェア効率が送電網計画、データセンター建設、運用コスト、導入スケジュールに影響する理由を示している。
IEAはまた、AIに重点を置く典型的なデータセンターが10万世帯分に相当する電力を使用すると推定している。建設中の最大級施設では、その20倍の電力を使う可能性がある。
世界的な電力消費が支配的になる前に、地域的な制約が先に訪れる場合もある。データセンターは、利用可能な光ファイバー、土地、顧客、電力インフラの周辺に集中する。先進国では、新たな送電線の建設に4年から8年を要することが多い。
フォトニック処理は、光の物理的な挙動を活用することで、この圧力の一部を対象とする。光子には電荷がないため、光学構造内を移動させても、電子回路に見られる抵抗損失の一部を回避できる。
また光は、波長、空間、位相、偏光にわたる並列性をサポートする。単一の光路で複数の情報チャネルを運べるため、各チャネルを同一の電子演算列で処理する必要がない。
こうした特性は、画像データを初期のフォトニックシステムにとって魅力的なものにする。元の信号は、カメラセンサーが電子ピクセルへ変換する前からすでに光学的である。変換の前またはその近傍で情報の一部を処理すれば、後段のデジタル処理を減らせる可能性がある。
想定される用途には、マシンビジョン、医用画像、産業検査、リモートセンシング、自律システムが含まれる。いずれも視覚入力から迅速な判断を必要とし、ときには厳しい消費電力やレイテンシーの制約下で動作する。
ただし、光学的な並列性が高まっても、システム全体のエネルギーコストが自動的に下がるわけではない。レーザーには電力が必要で、空間光変調器には制御信号が必要となる。カメラは出力を取得しなければならず、電子ハードウェアは入力の準備と結果の解釈を担う。
したがって、Koç Universityの2つのプロトタイプは、ワークロードをオフロードするシステムとして捉えるべきだ。選択した変換をデジタルソフトウェアから光学物理へ移す。
このアプローチは、アクセラレーターのより広い歴史に似ている。GPUは中央処理装置をなくしたわけではない。並列設計に適した演算を引き受けたのだ。その後、特化型AIチップが追加の行列計算を専用ハードウェアへ移した。
フォトニックアクセラレーターは、さらなる役割分担を目指す。並列的な光の伝搬が明確な利点をもたらす演算を処理することを狙う。一方で、電子プロセッサは制御フロー、メモリ管理、汎用ソフトウェア、高い数値柔軟性を要するタスクを担い続ける。
最も強い持続可能性の根拠は、光学ステップ単体の効率ではなく、ワークロード全体のエネルギーに左右される。研究者は、データ準備、変換、光生成、検出、冷却、補助電子機器をすべて計上する必要がある。
こうした測定がまだ存在しない段階でも、研究室の装置には意義がある。どの演算が光に適切にマッピングでき、どのハードウェア上の問題が導入を妨げるかを明らかにできる。
Koç Universityの貢献はそこにある。同大学のシステムは、実際のハードウェアの不完全性に対処しつつ、有用な光学変換の範囲を広げている。データセンターのエネルギーをめぐる議論に、まだ決着をつけるものではない。
Koç UniversityのフォトニックAIは実際にどのように画像を処理するのか
その仕組みは、光の伝搬を特徴抽出へ変換し、より容易になった分類問題を電子機器へ戻すことで機能する。
マルチチャネルシステムは、画像または別の多次元入力から始まる。ソフトウェアがデータをプログラマブルな光学デバイスにマッピングし、このデバイスが光場の異なる部分がどのように伝搬するかを制御する。
このデバイスはRGBチャネルを単一のグレースケール表現に統合せず、そのまま保持する。これにより、光学システムは形状やテクスチャに加え、色の関係性にもアクセスできる。
光は複数の制御された変換を通過する。干渉は振幅と位相に応じて波を組み合わせ、多数の入力関係を一度に反映する出力パターンを生み出す。
続いてカメラが強度パターンを測定する。これらの測定値は、正則化を備えた比較的シンプルな線形モデルであるリッジ分類器の数値的特徴となる。
分類器自体が、有用な画像構造をすべて発見するわけではない。光学変換がすでにデータを再配置し、カテゴリをより分離しやすくしている。
研究チームは、6つのチャネル混合パラメータの調整にベイズ最適化を用いた。ベイズ最適化は、過去の実験結果に基づいて有望な構成を選ぶため、すべての組み合わせを試す必要を減らす。
また、自己組織化臨界性に着想を得たハードウェア・イン・ザ・ループ手法も適用した。このプロセスでは、はるかに大きな光学位相空間に摂動を加え、実際の装置から得た測定値を用いて変化を評価する。
研究プレプリントによると、この第2の最適化は22,500個のパラメータを扱った。報告されたあるタスクでは、およそ75回の反復で収束した。
2つの手法は異なる層に対応している。チャネル混合は情報がシステムへ入る方法を変える。ハードウェア最適化は、光が進む物理的な位相構成を変える。
それぞれの実験で、さらに6〜7ポイントの改善を達成した。この類似性は注目に値する。一方の手法はわずか6つの変数だけを調整するのに対し、もう一方は数千もの変数を探索するためだ。
これは、慎重な入力構造が、はるかに大規模なハードウェア探索と同じほど重要になり得ることを示している。また、生の光学的並列性だけで十分だと考えるべきではないことも警告している。
ファイバーレーザー・システムは異なる物理効果を利用する。マルチモードファイバーは、多数の空間的な光パターンを同時に支えられる。レーザー共振器の内部では、それらのモードが干渉と利得ダイナミクスを通じて相互作用する。
入力画像は位相パターンとして符号化される。そのパターンが循環するにつれ、共振器はそれをより高次元の光強度分布へと写像する。
利得飽和が重要な非線形応答をもたらす。光増幅が限界に近づくと、出力は入力に正比例して変化しなくなる。
この非線形挙動は、複雑なカテゴリを分離する助けとなる。結果として得られるパターンにより、生のピクセルでは容易に分離できない場合でも、画像クラスを線形決定境界で判別可能にできる。
研究チームは、超短パルスの高出力レーザーではなく、連続波レーザーを使用した。この選択は、よりコンパクトで、潜在的に低消費電力の物理プロセッサという主張を支えている。
ただし、公表された精度値は慎重に解釈する必要がある。精度はデータセット、訓練分割、前処理、クラスのバランス、比較モデルに左右される。
ある医療画像実験で98%という結果が出たとしても、その装置が臨床現場で皮膚疾患を98%の信頼性で診断できることを意味しない。この研究が評価しているのは機械学習ベンチマークであり、実運用される医療製品ではない。
最初の研究では、同じ単純な分類器で処理した生のピクセルと光学的特徴も比較している。これにより分類器の能力は統制されるが、完全な最新ビジョンモデルとの比較とは異なる。
著者らは、モデル能力、訓練データ、計算コストの違いにより、ディープラーニングとの直接比較は複雑になると認めている。主張の中心は光学的特徴抽出であり、デジタルモデルに対する普遍的な優位性ではない。
これが、報告された結果を捉える適切な枠組みだ。光学システムは、限られたデジタル学習で価値ある表現を生成した。精度、エネルギー、コスト、規模のすべてで、あらゆる電子的代替手段を打ち負かしたわけではない。
この仕組みは、統合作業が必要となる箇所も明らかにする。光学センサーから直接来る場合を除き、データは電子システム内で始まる。データは光に符号化され、処理・検出された後、電子的なワークフローへ戻されなければならない。
境界をまたぐたびに、レイテンシー、エネルギー消費、校正上の要求、情報損失の可能性が加わる。成功する製品は、こうした境界を越えるために費やす以上の価値を、光学段階の内部で得なければならない。
変換損失が汎用GPUに対するフォトニックAIの後れを保つ
最も重要な未解決の問題は、あらゆる変換・制御コンポーネントを計上した後、完全な光学システムが最適化済みの電子システムを上回れるかどうかだ。
光コンピューティングは、単一の光学演算を切り出して見るとしばしば魅力的に映る。光は高速に伝搬し、多数のチャネルを組み合わせ、一部の数学的演算をわずかな追加エネルギーで実行できる。
しかし、実運用のコンピューターではその演算だけを切り離すことはできない。メモリー、ソフトウェア、入力エンコーディング、出力検出、エラー管理、既存プロセッサとのインターフェースが必要になる。
カリフォルニア大学アーバイン校の電気工学教授であるMaxim Shcherbakovは、電気から光への変換を中心的な障害として挙げた。レーザーは電子信号によって変調する必要があり、検出器は結果を再び電子データへ変換する。
彼のフォトニクスに関する評価では、汎用フォトニックプロセッサは依然として標準的なGPUに後れを取っていると論じられている。一方で、特化型エッジ用途には短期的により強い可能性を見ている。
この判断は、Koç Universityの実験と整合する。どちらのシステムも構造化された分類タスクを対象としている。汎用大規模言語モデルを動作させるものでも、完全なGPUソフトウェアスタックを置き換えるものでもない。
一部の入力がすでに光として到来するため、エッジシステムはより明確な参入点となり得る。カメラ、顕微鏡、医療用イメージャー、リモートセンシング機器は、完全な電子表現を作る前に光学情報を処理できる可能性がある。
これにより変換回数を減らせる。また、情報が汎用プロセッサ、メモリーシステム、ネットワーク接続に到達する前に、データ量を削減することも可能だ。
ビジュアルセンサーはレンズ近くで有用な特徴を識別し、コンパクトな表現だけを送信できるかもしれない。その価値は、ガラスでGPUを再現することではなく、低レイテンシーと後段の処理削減から生まれる。
クラウドデータセンターは、より厳しい基準を課す。そのハードウェアは、多数のモデル、テンソルサイズ、数値フォーマット、急速に変化するソフトウェアフレームワークを支えなければならない。
フォトニックハードウェアは、特化することで効率を得ることが多い。固定された光学的挙動は、適合する演算では極めて高速になり得るが、アルゴリズムが変わると転用は難しい。
プログラマブルな変調器は柔軟性を高める一方、制御の複雑さを増す。校正は、温度、振動、部品の経年劣化、わずかな機械的変化によってずれる可能性がある。
Koç Universityのハードウェアベース最適化は、こうした問題の一部に直接対応する。測定結果から学習することで、理想化されたシミュレーションでは見落とされる不完全性をシステムに取り込める。
これは工学上の利点だが、継続的な再校正にも時間とエネルギーが必要となる。商用評価では、適応がどの程度の頻度で発生するか、また校正サイクルの間に何が起こるかを測定しなければならない。
精度もまた重要な論点だ。電子アクセラレーターは、明確に定義された数値フォーマットと成熟した誤差解析を提供する。アナログの光学測定にはノイズやデバイスごとのばらつきが含まれる。
一部の機械学習ワークロードは、精度低下を許容できる。他方、多くの光学段階と電子段階が接続される場合、とりわけ小さな誤差が反復演算を通じて増幅されるワークロードもある。
公表された実験は、光学変換の後にデジタル分類器を用いている。この限定的な構造により、多数の光学層を通じて誤差が蓄積するリスクを抑えている。
この手法を拡張すれば、新たなトレードオフが生じる可能性がある。チャネル数を増やせばスループットは高まるかもしれないが、クロストークも生じ得る。より大規模なシステムには、より多くの検出器、制御要素、パッケージング、アライメントが必要となる。
製造は、実験室の物理学と同じほど重要になる。有用なアクセラレーターは、個体間で再現可能で、長期にわたり安定し、生産プロセスと互換性があり、コンピューティングシステム内で保守可能でなければならない。
エネルギーに関する証拠は、現在の発表における最大の空白である。ファイバーレーザー論文はそのプロセッサをコンパクトかつ低消費電力と説明し、マルチチャネル論文は潜在的な効率上の利点を述べている。
公開されている要約のいずれも、対応するGPUワークロードに対する完全かつ独立して検証されたエネルギー比較を提示していない。光源、変調器、カメラ、コントローラー、分類器を網羅した完全な計上もない。
この欠如は研究を無効にするものではない。ただし、読者がそこから導くべき結論を限定する。
これらのシステムは、光による計算を実証し、強力な分類結果を報告している。しかし、商用条件下で正しく分類されたサンプル当たりのエンドツーエンドのエネルギーが低いことは、まだ実証していない。
したがって主な競争相手は、別のフォトニクス研究室ではない。ソフトウェアの成熟度、製造規模、柔軟性、継続的な効率改善を含む、確立された電子スタックである。
フォトニックAIが勝つのは、価値あるワークロードにおいて、その完全なスタックを上回る場合に限られる。より高速な光学カーネルは入口であって、最終結果ではない。
光コンピューティングが拡張可能かを示す3つのシグナル
次の段階では、システムレベルのエネルギー測定、統合ハードウェア、小規模な実験室分類器を超えるワークロードでの信頼できる試験が求められる。
第一のシグナルは、エンドツーエンドのエネルギーベンチマークだ。研究者は、装置全体について、推論当たりまたは処理サンプル当たりのジュールを報告すべきである。
この測定には、レーザー、光変調、カメラ、デジタル制御、前処理、校正、後段の分類器を含めなければならない。電子システムとの比較では、同等の精度とレイテンシーで同じタスクを実行するべきだ。
Koç Universityまたは独立したチームがこうした結果を公表すれば、持続可能なAIという主張は大幅に強まる。変換後に光学的な節約が消えるなら、その意義はレイテンシーや特化型センシングに限定されるだろう。
測定境界も明示する必要がある。光の伝搬中に使われるエネルギーだけを報告すれば、プロセッサを動作可能にするコンポーネントが除外されてしまう。
第二のシグナルは物理的な統合だ。報告された両システムは、カメラや制御機器を備えた実験室の光学構成を用いている。研究者らは、コンパクトなチップ統合デバイスを重要な前進経路として挙げている。
統合によって、光路を短縮し、アライメント感度を低減し、パッケージング要件を下げられる。また、この技術をセンサーや電子プロセッサと組み合わせやすくなる。
成功した統合プロトタイプは、GPUを置き換える必要はない。既存の機械学習ワークフローに接続できる、安定した光学フロントエンドを実証すればよい。
制御された実験室の外部、とりわけ温度や振動が変化する環境での動作に注目したい。長期的な精度と校正頻度によって、自己最適化が実用上のドリフトを解決できるかが明らかになる。
第三のシグナルは、より幅広いワークロードでの検証だ。現在の研究は、複数の画像・構造化データベンチマークを対象としており、これは汎用性を示す有用な証拠である。
次の試験には、ストリーミングセンサーデータ、より大きな入力、レイテンシー測定、最新のデジタル特徴抽出器との比較を含めるべきだ。医療または産業分野の試験には、代表性のあるデータと独立した評価も必要になる。
実運用されるエッジ実験は、もう一つの単独精度記録よりも、主張を強く裏付ける。それにより、光学プロセッサがメモリー、通信、電力制約、変化する入力条件とどのように相互作用するかを示せる。
有力な道筋は、完全光学ではなくハイブリッド型だろう。光はその物理特性に合う選択的な変換を担い、電子回路はメモリー、オーケストレーション、汎用的な意思決定を維持する。
この分担にも大きな意味がある。数百万回繰り返される演算から高コストの段階を一つ取り除くだけでも、システムの残りが電子的であっても、発熱とエネルギーを削減できる。
また、開発者が新興AIハードウェアを評価する方法も変える。統合コスト、数値精度、稼働率、ソフトウェアサポートを伴わないピーク光学スループットには、ほとんど意味がない。
企業の購入担当者は、光が理論上電子より速いかではなく、デバイスが自社の実際のワークロードを加速するかを問うべきだ。また、コンセントからの消費電力に基づく測定も要求すべきである。
この分野が拡大するにつれ、開発者と研究者は文書化の問題に直面する。結果はしばしば、プレプリント、学術論文、ハードウェアノート、ベンチマークの詳細、後日の訂正にまたがる。
検索可能なナレッジベースは、エンジニアリングチームがそうした詳細を保存し、一貫した評価境界の下で主張を比較する助けとなる。
Koç UniversityのフォトニックAI研究が注目に値するのは、色を保持しながら非線形処理を導入し、有用な画像変換を物理ハードウェアへ移しているためだ。
最も強い成果は、持続可能なコンピューティングについて確定的な主張を行ったことではない。光学ハードウェアが電子回路の隣で真に役割を得る場所を見つけるための、より明確な実験的道筋を示したことにある。
決定的な証拠は、システム全体の測定、統合プロトタイプ、実際のワークロードから得られるだろう。それまでは、問うべきことは具体的だ。光へ移すことで、周辺のあらゆる要素を正当化できるほどのエネルギーを節約できる処理段階はどれか。
