top of page

BDH-CQ、再帰的潜在メモリでトークン単位のAI推論に挑む

8月16日
読了時間: 24分

BDH-CQは、途中の推論を一切言語化せずに、1億5,000万パラメータでARC-AGI-1のpass@2 29.5%を達成した。Pathwayの研究者らは2026年8月10日、再帰的メモリと反復的な潜在計算を組み合わせたこのシステムをプレプリントで発表した。この成果は、現代の推論モデルに広くある前提、すなわち難しい問題にはより長い推論トークン列の生成が必要だという見方に疑問を投げかける。

報告されたスコアは、BDH-CQを最も高精度なARCソルバーにするものではない。その重要性は、モデルが各テスト課題をどのように学習するか、そして著者らが報告する計算量の少なさにある。デモンストレーションは推論時に内部メモリを更新し、固定されたモデルパラメータは連続的なワークスペース内でクエリを繰り返し処理する。

このアプローチが対抗するのは、特定の企業やフラッグシップモデルではなく、トークン単位の推論だ。Chain-of-thoughtシステムは、中間計算を言語に変換してから、そのトークンを再び読み込む。BDH-CQはその計算を内部に留めることで、長い推論トレースに伴うレイテンシーやデコードのオーバーヘッドを回避できる可能性がある。

ただし、証拠の範囲は見出しが示唆するほど広くない。評価対象は視覚的なグリッド変換であり、自由形式の言語、コーディング、科学研究ではない。重要なアーキテクチャの詳細も非公開のままで、独立した再現や検証には限界がある。

BDH-CQはパラメータを更新せずに課題を学習する

BDH-CQはデモンストレーションを一時的な再帰的メモリへ変換し、そのメモリを使って新しいクエリを解く。

Pathway主導のチームは、8月のプレプリントでBDH-CQを発表した。著者にはPathway、Bielik AI、ニューヨーク大学の研究者が含まれる。論文では、BDH-CQをDragon Hatchlingアーキテクチャファミリーの拡張として説明している。

各評価課題では、複数の入出力例と、回答を必要とする新しい入力が提示される。BDH-CQはこれらのデモンストレーションを順に処理する。各例は再帰状態を変化させ、その状態が後続の入力へ文脈を引き継ぐ。

その後、モデルは蓄積された状態とともにクエリをエンコードする。計算に使われる連続的な内部表現である高次元の潜在ワークスペースを繰り返し変換する。デコードされるのは最終的な候補回答だけだ。

この過程で勾配更新は行われない。モデルの学習済みパラメータは固定されたまま、再帰状態だけが与えられた証拠に応じて変化する。この違いが、推論時メモリを従来のファインチューニングと分けている。

研究者らによると、評価課題の識別子と評価用のデモンストレーション対は学習から除外された。その代わり、モデルはARCスタイルのソースと非公開でキュレーションされた例を組み合わせて学習した。公開ソースには、ARC-AGI-1の学習データ、RE-ARC、ConceptARC、ARC-Heavy、ARC-GEN100Kが含まれる。

この設定は重要だ。多くのコンパクトなARCシステムは、各評価パズルに直接適応する。モデル構成要素を最適化したり、パズル固有の識別子を使ったり、拡張版をまたいで投票したりする。BDH-CQは、デモンストレーションだけから変換を推論すると主張する。

テストベッドは公開ARC-AGI-1評価分割だった。ARCの課題は小さな色付きグリッドを用い、オブジェクト、対称性、カウント、トポロジー、空間関係に関わる変換を表現する。ソルバーは、少数の例から明示されない規則を推論しなければならない。

公開分割には400課題が含まれる。BDH-CQは、最上位候補で97課題を解き、2つの候補のいずれかが正解なら118課題を解いた。これらはpass@1 24.25%、pass@2 29.5%に相当する。

419の個別テスト対では、pass@1 25.78%、pass@2 31.03%に達した。課題単位の精度は、必要なすべてのテスト出力が正しくなければならないため、より厳格だ。グリッドが1つでも誤っていれば、その課題全体は失敗となる。

研究者らは、実測したH200 GPU時間から推論計算量を算出した。標準構成では、1課題あたり約0.85 H200 GPU秒を使用した。彼らは、この結果が従来報告されていたARC-AGI-1のコスト対精度フロンティアを超えるものだと主張している。

この効率性の主張こそが、この出来事の中核となるニュース価値だ。BDH-CQは最高の総合スコアを出すことで勝っているわけではない。意味のある性能に異例なほど少ない推論計算量しか要しない、新たな運用点を提示していると主張する。

論文はまた、Bielik AIとニューヨーク大学に所属する共著者によるブラックボックス監査も報告している。彼らはモデル重みへアクセスせずに29.5%のスコアを再現した。これはデプロイされたサービスに対する有用な検証ではあるが、利害関係のない第三者による再現と同等ではない。

最も重要なのは、この結果がメモリ、適応、推論を1つの再帰プロセスに統合している点だ。システムはパズルごとに別のオプティマイザを必要としない。また、すべての中間状態を文として表現することも避けている。

トークン単位の推論が圧力を受ける理由

BDH-CQが標的にするのは、chain-of-thought推論のベンチマーク精度だけでなく、その計算形式だ。

大規模推論モデルは一般に、より多くのトークンを生成することで計算量を増やす。これらのトークンは部分的な推論を記録し、代替案を試し、初期の誤りを修正できる。一方で、内部処理を離散的な語彙に通す必要がある。

生成される推論トークンごとに、追加の自己回帰デコードステップが必要となる。モデルは隠れ状態を語彙確率へ投影し、トークンを選択し、再びそのトークンを取り込まなければならない。そのため、トレースが長くなるほど計算量とレイテンシーは増加する。

言語による推論は、人間が検査できるため依然として有用だ。ツール呼び出し、協働、明示的な検証も支援できる。しかし、中間状態を人間が解釈する必要がない場合、言語は帯域幅の制約になる。

BDH-CQは別の計算配分メカニズムを試している。可視化されたトランスクリプトを延長する代わりに、連続状態の内部で再帰的変換を加える。1つの内部状態は、複数の部分的可能性をそれぞれ個別に書き出すことなく符号化できる。

この違いは、並列作業と直列作業の違いに似ている。言語的なトレースは通常、各位置で1つのトークンを選択する。高次元状態は複数のアクティブな特徴を保持し、それらをまとめて変換できる。

この発想はBDH-CQ固有のものではない。MetaのCoconut研究では、連続的な隠れ状態をTransformerに戻すことで、すべての中間ステップをデコードせずに推論できるようにしている。再帰的深度モデルも同様に、複数の内部反復にわたって計算ブロックを再利用する。

BDH-CQは、デモンストレーションが再帰的なタスクメモリを継続的に変化させるという明確な要素を加えている。続いてクエリが、潜在的な反復処理の間にそのメモリを利用する。そのため、このシステムはインコンテキスト適応と非言語的推論を1つのアーキテクチャの内部で結び付けている。

この接続は、確立された2つの経路に圧力をかける。1つ目は、例が課題を指定し、トークンがワークスペースを提供する従来のchain-of-thoughtだ。2つ目は、コンパクトなソルバーが各パズルに個別に適応する、タスク固有の最適化である。

Pathwayのシステムは、必須の説明を伴わずに1つ目の経路の柔軟性を維持すると主張する。また、パズル固有のパラメータ更新を伴わずに、2つ目の経路のコンパクトな計算を維持すると主張する。

ARCでは、この対比はさらに鮮明になる。Hierarchical Reasoning ModelとTiny Recursive Modelのシステムは反復的な潜在計算を使うが、ARCの手順にはトランスダクティブな適応が含まれる。評価デモンストレーションは、各パズルに関連付けられた最適化に参加する。

BDH-CQの著者らは、これまで見たことのない課題でも、代わりに文脈を通じて取り込めると主張する。彼らはこの構成を、例から規則を学び、その後に推論機構全体を書き換えずに適用する人間になぞらえている。

この類推は限定的に捉えるべきだ。再帰状態の更新は数学的操作であり、人間のような理解の証拠ではない。論文は設計を脳に着想を得たものと呼ぶ一方、生物学的な模倣を主張してはいない。

基盤となるDragon Hatchlingアーキテクチャは、疎な正の活性化、低ランク通信、再帰的連想状態を用いる。公開されているアーキテクチャリポジトリでは、局所的に相互作用する人工ニューロンと、Hebbianスタイルのワーキングメモリが説明されている。

Hebbianメモリは、同時に活性化する特徴間の結び付きを強化する。BDH-CQにおける実用上の要点は、文脈が持続的な内部状態を変化させられることだ。この状態は、以前のすべてのキーと値を明示的なリストとして増やす必要がない。

この性質は、いずれ視覚パズル以外でも重要になる可能性がある。長い推論トレースはメモリ、デコーダ時間、通信帯域を消費する。再帰状態は、こうしたコストを抑えながら情報を保持する別の方法を提供する。

ただし、言語を取り除くことは、便利な検査面を取り除くことでもある。隠れた軌跡は効率的というだけで信頼できるわけではない。開発者には、内部プロセスが安定しているか、偏っているか、操作に脆弱かを検証する別の手法が必要だ。

したがって、トークンベース推論への圧力は条件付きだ。BDH-CQは、可視的なテキストが唯一可能な計算ワークスペースではないことを示している。しかし、隠れた計算があらゆる課題で言語に置き換われることを示したわけではない。

Horizon MachineLearningでの議論が示す、より深いメカニズム

重要なメカニズムは沈黙した推論だけではない。文脈メモリと能動的な推論ワークスペースの分離にある。

広く共有されたMachineLearningでの議論がこの論文の認知拡大に寄与したが、根底にある技術的主張は研究そのものに由来する。BDH-CQは、異なる役割を持つ2つの内部構造を維持する。

再帰的な文脈状態は、モデルがデモンストレーションを取り込む間に変化する。新たに提示された課題に関連する結び付きを保存する。潜在推論ワークスペースは、それらの例がメモリに入った後に始まる。

クエリの解決中、ワークスペースは複数の推論ステップにわたって変化する。文脈状態は、それらの変換中も利用可能なままだ。デコーダは最終ワークスペースを、順位付けされた1つまたは2つのグリッド候補へ変換する。

この分割により、1つのベクトルがすべての責務を担うことを防ぐ。メモリは、デモンストレーションが何を確立したかに答える。ワークスペースは、クエリに必要として残る計算を処理する。

著者らはメモリ更新を高い抽象度で説明している。新しい状態は、前の状態と次のデモンストレーションに依存する。その更新を支配する学習済みパラメータは変化しない。

ワークスペースについても同様に説明している。エンコーダがクエリと蓄積された文脈からワークスペースを初期化する。再帰関数がデコーダによる回答生成前に、それを繰り返し更新する。

この説明は概念を明らかにするが、完全な実装を示すものではない。論文では、正確な次元、更新規則、内部システムの詳細は非公開のままだとしている。完全な学習レシピも明かしていない。

評価された製品には、中核となるニューラルアーキテクチャ以上の要素が含まれる。入力変換、候補の構築、ランキング、推論パイプラインを用いる。こうした周辺コンポーネントは、精度と計算量の双方に影響し得る。

この制限があっても、統制された実験は再帰的メモリが実際に何を保持しているかについて手掛かりを与える。あるテストでは、各課題内で新しい色マッピングを作成した。デモンストレーションは、複数の色がどのように変化すべきかを定義した。

BDH-CQは、同時バインディング数が2から8へ増加しても、保持された96の出力すべてを第1位で解いた。この結果は、文脈メモリが高密度なタスク固有のマッピングを保存し、適用できることを示唆している。

他のテストでは、実証された操作の規模を変化させた。境界伝播は、距離が2から8までの範囲で、ホールドアウトされた48件の出力すべてにおいて正確だった。ターゲット数を増やした場合も、モチーフのコピーは48件すべてで正確だった。

これは、基礎となる操作が局所的で規則的に保たれるため、好ましい例である。モデルは複雑な出力順序を再構築することなく、学習した操作を拡張できる。

順序付けでは異なる曲線が現れた。性能は5個のオブジェクトまでは飽和に近い水準を維持したが、より長い列では低下した。8個のオブジェクトでは、BDH-CQがpass@2で解けたホールドアウト出力は24件中わずか1件だった。

誤りのパターンは局所的ではなく広範だった。その長さで正しい次元を持っていた出力は3件にすぎない。これは、規則に関する不確実性だけでなく、順序付けられた結果を構築する際の実行上のボトルネックを示唆している。

入れ子の包含は別の形で失敗した。性能は深さ4までは高水準を維持したが、深さ5で低下した。それらの出力は通常、正しい次元を保ち、最良候補では平均セル精度99.9%超に達していた。

単一の関係的な誤りが失敗を引き起こすことが多かった。このパターンは、モデルが変換をほぼ完了していたものの、1つの包含判断を見失ったことを示唆する。完全一致による採点が、それらの出力を誤りとして数えたのは適切だ。

ターゲットの複雑性に対応する実演を追加すると、結果は変わった。深さ5の入れ子では、正解出力が24件中19件から24件中24件へ上昇した。長さ8の順序付けは、24件中0件から13件へ改善した。

この介入は、インコンテキスト学習という主張を強める。バイト単位で同一のテスト入力であっても、必要な複雑性を実演がカバーしている場合には異なる性能を示した。パラメータ更新なしに、例がモデルの実効的な振る舞いを変えたのである。

同じ証拠は境界も定義している。BDH-CQは、実演された複雑性を超えてすべての規則を確実に外挿できるわけではない。そのメモリは変換を結び付けられる一方、ワークスペースはより大きな規模でその変換を実行することに依然として苦戦する。

推論の計算量は、もう1つの予測可能なトレードオフを生んだ。高設定ではpass@2が29.5%に達し、中設定では27%だった。低い計算量では21%にとどまり、著者らは計算量が段階的に低下したと報告している。

この関係は、他の推論システムにおけるテスト時コンピュートのスケーリングに似ている。再帰ステップを増やすほど、完全に正しい答えを得る確率は上がる。違いは、追加の計算が拡大するトランスクリプトではなく、連続状態の内部で行われる点だ。

この仕組みは、BDH-CQを圧縮されたチェーン・オブ・ソート実験以上のものにしている。実演からタスクメモリを作成し、そのメモリをクエリ計算から分離し、再帰的な深さを通じて計算量を拡張する。

ベンチマークでの勝利が明らかにする失敗モード

BDH-CQを最も強く裏付ける証拠は、文脈学習が一貫した規則実行を保証しないことも示している。

論文は、視覚タスクを16の概念ファミリーに整理したConceptARCでBDH-CQを評価している。意味を持つ識別子では、厳格なタスクpass@2は59.38%に達した。識別子を不透明化し、概念グループを混在させた後には60%に達した。

この近いスコアは、1つの明白な懸念を軽減する。モデルは、意味のあるタスク名や概念別にグループ化されたバッチに依存しているようには見えなかった。両バージョンとも、個別テストペア480件中374件の正解を出した。

しかし、集計上の安定性は同一の振る舞いを意味しなかった。完全な順位付き候補リストが2回の実行で一致したのは480件中276件にすぎない。リクエストの文脈や内部探索の挙動が多くの出力を変えた一方で、全体スコアは動かなかった。

さらに重要なのは、テストペア精度が77.92%に達した一方、厳格なタスク精度は59.38%にとどまった点だ。18.54ポイントの差は、ある入力での正解が、すべての入力へはしばしば転移しなかったことを示している。

ConceptARCの160タスク中52件では、3つすべてを解くことなく、1つまたは2つのテスト入力だけが正しかった。厳格な規則誘導の観点では、こうした部分的成功は、推定した規則の一貫した適用を示すものではない。

性能は概念ごとにも大きく異なった。このシステムは、塗りつぶしと非塗りつぶしの区別を含む10タスク中9件を解いた。また、TopBottom2Dファミリーでも10タスク中9件を解いた。

CopyとOrderは、それぞれ10件中わずか2件にとどまった。各ファミリーには10タスクしかないため、これらの数値だけで安定した順位付けを確立することはできない。それでも、現行システムに対してより厳しい検証が必要な領域を示している。

合成はもう1つの大きな弱点を生んだ。BDH-CQは回転と再配置を別々に解いた後、その組み合わせではホールドアウト出力72件すべてを解いた。反射と再配置の組み合わせは、72件中47件で成功した。

色の入れ替えははるかに低調だった。プールされたモチーフファミリー全体で、単独操作として成功したのは72件中26件にすぎない。再配置と組み合わせると、72件すべてで失敗した。

レイアウトの影響は大きかった。モチーフが固定配置を共有している場合、モデルは色の入れ替えをより容易に学習した。合成が問題に入る前であっても、2つのシャッフルされたファミリーでは性能がほぼ消失した。

この結果は、留保なしにこのシステムを抽象的な演算子を学習していると表現することへの注意を促す。再利用可能な変換を結び付ける場合もある。他方で、成功が実演内の表現上の規則性に依存する場合もある。

ARC自体も、結論として導ける範囲を限定する。そのグリッドには、事実想起、自然言語の曖昧性、社会的文脈、ツール利用、長期的な計画は含まれない。強力な視覚的帰納が、幅広い推論能力を証明するわけではない。

論文のタイトルは、再帰的潜在推論によるインコンテキスト学習を強調している。150百万パラメータのシステムが汎用言語モデルを置き換えられるとは主張していない。展望では、言語推論と数学的推論を将来の拡張として挙げている。

再現性はより大きな懸念として残る。完全な評価対象システムは利用できず、正確なメモリ更新と潜在ワークスペースの詳細も公開されていない。研究者は、公開されているDragon Hatchlingリポジトリから注目の結果をまだ再現できない。

報告された監査は、サービスが記載されたスコアを返したことについて一定の保証を提供する。しかし、評価者は論文の共著者であり、モデル重みにはアクセスできなかった。より強い検証には、固定された成果物を無関係の評価者が実行することが必要だろう。

学習データ汚染についても慎重な表現が必要である。論文によれば、研究者らは公開評価用の実演とタスク識別子を除外した。非公開データと完全なチェックポイント選択プロセスは、検証のために公開されていない。

不透明な識別子を使った実験は、狭い意味でのリクエスト側ショートカットを排除する。しかし、関連するパターンが一切学習に入らなかったことまでは証明しない。論文自体も、ConceptARCが新しいベンチマークではないと認めている。

コスト比較にも注意が必要だ。BDH-CQの推定値は、想定したアクセラレータ料金の下で測定したハードウェア時間に基づいている。他のリーダーボード掲載モデルは、プロバイダー価格や別のハードウェア推定を反映している場合がある。

つまり、プロットされた値が常に同じ経済的数量を測っているわけではない。モデルの短い実測実行時間は注目に値するが、その優位性の正確な大きさは比較方法に依存する。

サイレント推論は、ガバナンス上のトレードオフをもたらす。言語的な経路が存在しないため、ユーザーは中間過程を検査できない。ARCでは、すべてのセルに正確な正解があるため、最終回答を検証できる。

多くの実世界の用途には、こうした検証はない。医療要約、事業予測、研究統合に、即時のオラクルがあることはまれだ。隠れた推論には、信頼度の較正、一貫性テスト、外部証拠の確認が必要になる。

この問題は、潜在計算を無効化するものではない。人間が読めるチェーンも、基礎となる判断の後に生成されたもっともらしい説明を含むことがある。可視的な推論が忠実である保証はない。

実用上の要件は、より良い評価である。潜在システムには、メモリ、外挿、合成、安定性、失敗からの回復を検証する行動プローブが必要だ。BDH-CQの統制された実験が有用なのは、まさにこれらの境界を明らかにするからである。

再帰的潜在推論がコスト論争を変える

BDH-CQは、モデル規模だけから推論と適応の構造へと注目を移す。

150百万パラメータのモデルは、最先端の言語システムと比べれば小さい。しかし、パラメータ数だけでは、報告された効率性を完全には説明できない。このアーキテクチャは、繰り返しの言語デコードとパズルごとの最適化も避けている。

これにより、3つの異なる計算予算が生まれる。学習はARC型タスクを処理する汎用能力を構築する。実演は一時的な再帰メモリを更新する。潜在反復は、クエリ固有の推論計算量を割り当てる。

これらの予算を分離することで、開発者はより細かな制御を得られる可能性がある。システムは、パラメータを変更せずにより多くの実演を処理できる。また、クエリが必要とする場合にのみ内部反復を増やすこともできる。

現在の言語モデルは、しばしばこれらの機能を1つのトークン列に統合している。プロンプトが実演を運び、アテンションが文脈を保持し、生成トークンが推論を拡張する。結果として得られるインターフェースは単純だが、計算は直列的である。

BDH-CQは、より構造化された分担を提供する。メモリは文脈から得た証拠を記録し、再帰的な深さが能動的な探索を行う。デコーダが現れるのは、システムが外部向けの回答を必要とするときだけだ。

この設計は、活性化が固定ネットワーク内に一時的な連想を作る高速重みメモリに似ている。また、過去の情報を再帰状態内に要約できる線形アテンションともつながる。

より深い競争上の問いは適応に関わる。タスク特化型の再帰ソルバーは、各パズルの例に対して最適化した後、高い性能を発揮できる。汎用言語モデルは文脈を通じて適応するが、推論に多くのトークンを費やすことが多い。

BDH-CQは、冗長なデコードや逆伝播による最適化なしに、文脈的適応を目指している。絶対精度がより強力なシステムを下回るとしても、この組み合わせが既存手法に対する主要な対抗軸となる。

開発者は、この結果をトークンが時代遅れになった証拠と読むべきではない。言語は、モデル、ユーザー、ツール、監査者の間の有効なインターフェースであり続ける。また、システムが不確実性を伝え、不足情報を要求することも可能にする。

将来のアーキテクチャは、両方のモードを組み合わせるかもしれない。潜在的な再帰は高帯域幅の内部計算を担い得る。選択的なデコードは、検証、協働、ツール利用に言語が必要なときにチェックポイントを公開できる。

BDH-CQ論文は、このハイブリッドを示唆している。潜在状態と言語は異なる機能を担えると指摘している。中間テキストは、すべてのステップで不要だからといって、あらゆる場所から消える必要はない。

このアプローチはメモリ設計も変える可能性がある。従来の長文脈モデルは、増大するトークン履歴または圧縮キャッシュを保持する。これに対し再帰メモリは、新たな証拠が到着するたびに固定サイズの状態を更新する。

固定サイズのメモリには、それ自体のトレードオフがある。圧縮は情報を捨て、連想を統合し、あるいは以前の証拠を上書きする可能性がある。論文の色結合テストが示すのは、1つの統制された範囲内での容量であって、無制限の保持ではない。

したがって、長期評価では干渉を検証すべきだ。実演が矛盾する場合、異なる順序で到着する場合、無関係な例を含む場合に何が起きるのかを研究者は知る必要がある。また、古い連想がどれほど速く減衰するかも測定すべきである。

同じ理由から、セキュリティテストも重要だ。推論入力が再帰状態を変更するなら、悪意ある実演が後続の回答を誘導する可能性がある。テキストのスクラッチパッドに遷移が記録されないため、潜在メモリ攻撃は診断がより難しいかもしれない。

企業利用には、リセット境界とメモリ隔離が必要になる。一時的なタスク状態が、ユーザー間や無関係なジョブ間で漏洩してはならない。システムには、破損した文脈が下流のクエリに影響する前に特定する手段も必要だ。

知識労働においても、その根底にある発想は魅力的だ。人はノートを読み、証拠を比較し、結論を形成する際に、内的な手順をすべて逐一言語化することはほとんどない。作業モデルを組み立て、それを修正し、選択した推論を伝える。

knowledge blendingを支援するソフトウェアは、すでにコンテキスト収集と回答生成をつながったプロセスとして扱っている。BDH-CQは、このつながりをより低レベルのアーキテクチャとして探究している。

この結果は製品面の問いも提起する。ユーザーは、読むことのない可読な推論連鎖のために計算コストを負担すべきなのか。正確性と検証可能性が求められるタスクでは、静かな潜在反復のほうが、よりよいバランスを実現するかもしれない。

重大な意思決定では、答えは変わる。ユーザーには、引用された証拠、明示的な前提、あるいはレビュー可能な導出が必要になる場合がある。潜在的な中核には、それらの要素を忠実に伝える外部レポーティング層が必要となる。

したがって長期的な競争は、隠れた思考と可視化された思考の対立ではない。硬直したトークン列への直列化と、各計算・コミュニケーション段階に適切な表現を選ぶシステムとの競争だ。

BDH-CQは、このより広い設計に向けた初期的な証拠を示している。コンパクトなARCの結果は、この問いを軽視しにくくする。一方で、その限界は、この競争に決着がついたと宣言することを妨げる。

BDH-CQの重要性を決める3つのシグナル

BDH-CQがより大きな主張を支えるには、次の段階で再現性、より広い領域、スケーリングを検証しなければならない。

最初のシグナルは、独立して実行可能な成果物だ。PathwayはベースラインとなるDragon Hatchlingのコードを公開しているが、報告された評価で使用した完全なBDH-CQシステムは公開していない。

固定されたコンテナ、モデルチェックポイント、またはホスト型の評価プロトコルがあれば、利害関係のない研究者が400タスクの結果を再現できる。また、候補の構築とランキングが最終スコアにどう寄与しているかも明らかになる。

独立評価では、一貫した条件下で測定されたハードウェア時間を比較すべきだ。ニューラル推論を、前処理、拡張、候補ランキング、サービスのオーバーヘッドから切り分ける必要がある。比較可能な計上は、効率性の主張を補強するか、あるいは弱めるだろう。

研究者は、評価データを除外する境界についても検証すべきだ。データセットのマニフェスト、ハッシュ、チェックポイント選定手順は、概略的な保証よりも高い信頼をもたらす。出所を監査できるなら、非公開の例を公開する必要はない。

再現性が確認されれば、BDH-CQはARCの効率曲線における信頼できる新たな地点となる。確認できなければ、この話は、未確認のシステム結果を伴う興味深いアーキテクチャ提案へと狭まる。

2つ目のシグナルは、視覚グリッド以外での性能だ。論文は今後の方向性として、言語、数学、制約充足、より難しいARCタスクを挙げている。これらの評価は、アーキテクチャが現在の訓練分布を超えて移転できるかを試すことになる。

言語推論では異なる要件が生じる。モデルは曖昧さ、事実知識、長い出力、時間とともに変化する指示を扱わなければならない。また、単に正確なグリッドを出力するだけでなく、証拠を伝える必要もある。

数学は、問題構造を広げつつ、より強力な検証を提供する。形式的証明、プログラム合成、定理検証は、主観的な採点だけに依存せずに潜在推論を試せる。

ARC-AGI-2も有用な挑戦となる。これは、既知のタスクパターンを利用する手法に耐え、より合成的な汎化を要求するよう設計された。そこで強い結果が出れば、適応に関するより広範な主張を支えることになる。

こうした領域で失敗しても、現在の発見が消えるわけではない。それは、BDH-CQがARC型の視覚変換に特化していることを示す。その結果も、効率的なソルバー設計にとってなお有益だ。

3つ目のシグナルは、透明性のあるスケーリングの証拠だ。論文はBDH-CQがスケール可能だと主張し、10億から6000億パラメータの初期実験に言及している。しかし、その主張を評価するには証拠が十分ではない。

著者らは、このアーキテクチャがはるかに大規模な構成をサポートできるとも述べている。読者は、学習曲線、計算予算、下流タスクの結果が利用可能になるまで、これをエンジニアリング上の見通しとして扱うべきだ。

スケーリングは、難しい順序付けや合成を改善するかもしれない。一方で、メモリの不安定性、最適化の問題、あるいは収穫逓減を露呈させる可能性もある。現在の1億5000万パラメータモデルでは、どの結果が支配的かに答えられない。

特に有用な公開は、モデルサイズに対してタスク精度、推論反復回数、再帰メモリ容量をプロットしたものだろう。これにより、大規模モデルが抽象化を改善しているのか、それともARC型の規則性をより多く記憶しているだけなのかが分かる。

研究者は、推論努力が滑らかにスケールするかも検証すべきだ。現在の低・中・高の設定は精度の向上を示すが、わずか3点にとどまる。より細かな曲線なら、飽和や不安定性を特定できる。

この3つのシグナルは、再現性、領域拡張、そしてスケーリングの順で到来すべきだ。より大きな独自の主張よりも、独立チームが検証できる小さな結果のほうが科学的価値は高い。

開発者は、全体を通して1つの実務的な詳細に注目すべきだ。再帰メモリは、新たなコンテキスト分離やセキュリティ上の失敗を生まずに適応を改善するのか。効率だけでは、信頼できない状態境界を補えない。

現時点でBDH-CQが確立したのは、焦点を絞った結果だ。コンパクトな再帰システムがデモンストレーションから視覚変換を学習し、連続状態を通じて推論し、低い測定計算量で競争力のあるARCスコアを達成した。

同時に、長い順序付け、一貫しないルール実行、特定の複合操作では予測どおりに失敗した。こうした失敗は、この研究を現実に即したものに保つ。より豊富なデモンストレーションが役立つ場所と、内部実行がなお破綻する場所を示している。

適切な反応は、否定でも称賛でもない。ARC leaderboardを追い、公開される評価成果物を精査し、一貫した計上の下で結果を比較することだ。

そして、あらゆる推論モデルに対して、より鋭い問いを投げかけるべきだ。どのステップが本当に言語を必要とし、どのステップが、今日のアーキテクチャによりよい作業空間がないという理由だけでトークンを使っているのか。

 
 

無料で始めましょう

ローカルファーストのパーソナル知識管理付きAIアシスタント

より良いAI体験のために、

remio は現在、 Windows 10+ (x64)とM-Chip Mac のみをサポートしています。

仕事のAIパートナー
remioでもっと仕事が進む

計画・作成・仕上げまで
すべてをひとつに

bottom of page