IntelとMITのシグナルが示す、科学のためのAIに欠けている要素

IntelとMITからのシグナルは今、人工知能において根強く残る前提の一つに疑問を投げかけている。データを増やすだけでは、自律的な科学者は生まれない。最近の研究は、AIエージェントが構造化された分析タスクを完了できても、証拠を検証せず、信念を更新せず、結論を正当化できない場合があることを示している。

テクノロジー企業や研究機関が、予測モデルから実験を計画し仮説を提案するエージェントへと移行するなかで、この違いは重要だ。中心的な競争は、もはやAI対人間の科学者ではない。データ中心のスケーリングと、科学的推論を軸に設計されたシステムとの競争である。

最近のAI science analysisは、科学が完成に近づいているという過去の宣言と対比させながら、この議論を位置付けている。こうした予測は、新たな観測が既存理論の欠陥を明らかにし得ることを繰り返し過小評価してきた。

AIもまた、似たような誘惑をもたらす。モデルは現在、膨大な科学文献を取り込み、関連論文を検索し、コードを書き、もっともらしい説明を生成できる。この流暢さによって、蓄積された知識が理解であるかのように見えることがある。

しかし科学は、データセット内で最も裏付けの強い答えを繰り返すことで進歩するわけではない。研究者が不確実性を特定し、前提に挑戦し、識別力のある検証を設計し、証拠が求めるときに結論を変えることで前進する。

これが、最新のIntelとMITに関する議論の転換点だ。AI支援による発見における最大の制約は、必ずしも別のデータセットへアクセスできるかどうかではない。AIシステムが、観測を擁護可能な知識へ変える自己修正のプロセスに参加できるかどうかである。

IntelとMITの研究、焦点を答えから探究へ移す

重要な変化は、研究者が科学エージェントについて、許容できる答えに到達するかだけでなく、どのように考えるかを評価し始めたことにある。

科学向け機械学習の第一世代は、通常は限定的な予測問題に取り組んだ。モデルは、タンパク質構造を推定したり、医療画像を分類したり、ラベル付けされた例から材料特性を予測したりできた。

こうしたシステムは、調査全体を管理しなくても有用な出力を提供できた。科学者は依然として問いを選び、結果を解釈し、物理的な制約を確認し、次に行うべき実験を決めていた。

AIエージェントは、より広い役割を約束する。エージェントは言語モデルにツール、メモリ、検索、そして複数の手順を計画・実行できる制御ループを組み合わせる。科学では、こうした手順に文献検索、観測の処理、シミュレーションコードの作成、実験の提案などが含まれる。

その可能性は、データ駆動型AIの自然な拡張のように聞こえる。十分な数の論文や実験記録をエージェントに与え、適切なツールへ接続し、個々の研究者では到達できない規模でパターンを探索させればよい、という考え方だ。

しかし最近の証拠は、ワークフローの完了と科学的推論は異なる能力であることを示唆している。学生が問題を理解せずに正解を当てられるように、エージェントも脆弱なプロセスを通じて正しい結果を出すことがある。

2026年の研究であるAI scientistsは、8つの科学領域にわたる25,000件超のエージェント実行を調査した。研究者らは、タスク性能だけでなく、エージェントの推論における認識論的構造も評価した。

認識論的構造とは、システムが証拠、競合する説明、不確実性、そして反証の可能性をどのように扱うかを指す。これらは科学に付け加える装飾ではない。結論が信頼に値するかどうかを決める要素である。

この研究では、基盤となる言語モデルが、性能と行動における測定済み分散の41.4%を説明した。エージェントのスキャフォールド、すなわち周辺の計画・ツールフレームワークが説明したのは1.5%にとどまった。

さらに懸念されるのは、研究者らが分析対象のトレースの68%で、エージェントが証拠を無視していたと報告した点だ。反証に基づく信念更新は26%で見られた一方、複数の検証から得られる収束的な裏付けは依然として一般的ではなかった。

これらの発見は、科学エージェントが役に立たないことを示すものではない。研究を信頼できるものにする推論実践に一貫して従わずとも、エージェントは研究の一部を実行できることを示している。

Intelの認知AIに関する取り組みも、同様の技術的懸念を示している。Intel Labsは、将来のシステムにはニューラル学習に加え、構造化知識、常識的推論、記号的操作が必要だと主張してきた。

MITの研究者たちは、別の方向からこの問題に取り組んでいる。彼らは、エージェントが有用な問いを立て、不完全な答えを解釈し、不確実性のもとで協調できるかを検証している。

こうしたIntelとMITのシグナルは、目標を変える。科学AIは、既存情報から洗練された応答を生成する能力だけでなく、探究する能力を高めなければならない。

より多くの科学データでは競合する説明を解決できない

データは理論を制約するが、原因、前提、不確実性について推論しなければ、最良の説明を選ぶことはほとんどできない。

科学データセットは中立的な事実の集まりではない。何を測定するか、どの機器を使うか、どの観測を除外するか、不確実性をどう表現するかという判断を反映している。

そうした記録で訓練されたモデルは、それを認識しないまま同じ境界を継承する可能性がある。また、研究者が説明しようとする現象ではなく、測定慣行によって生じた相関を学習することもある。

問題が安定しており、関連するカテゴリーが既知である場合には、より多くのデータが役立つ。研究者が異常、未知のメカニズム、あるいは同じ観測に適合する複数の理論に直面するとき、その決定力は低下する。

より良いバッテリー電解質を探す材料エージェントを考えてみよう。公表済みの測定値と予測特性を使って化合物を順位付けできる。この順位付けは有用だが、化合物が予測どおりに振る舞う理由を確立するものではない。

隠れた変数、実験室のアーティファクト、あるいはモデル化されていない相互作用が、見かけ上の関係を生み出している可能性がある。科学システムは、どのパターンが最も頻繁に現れるかだけでなく、どの説明が新たな実験に耐えられるかを問わなければならない。

同じ問題は生物学にも現れる。エージェントは分子と疾患転帰の関連を見つけられるかもしれない。関連から介入へ進むには、因果推論、対照、再現、そして生物学的文脈への注意が必要になる。

因果推論は、他の関連条件を制御したまま特定の要因を変えた場合に何が起こるかを問う。訓練データだけで、その反実仮想的な検証が自動的に得られるわけではない。

この制約は、科学の進歩を文献の取り込みに還元できない理由を説明する。論文には証拠、解釈、意見の対立、そしてインセンティブによって形づくられた結果が含まれる。AIシステムは、それらを区別しなければならない。

また、見かけ上のコンセンサスが共通の前提に依存している場合を把握する必要もある。すべての研究が同じ代理指標を使っているなら、その代理指標についてさらに100万件の観測を加えても、誤ったモデルを強化するだけかもしれない。

検索システムには別の問題もある。現在のクエリに関連すると判断された資料を優先するため、エージェントの初期仮説と矛盾する、見落とされてきた結果を浮かび上がらせにくくなる可能性がある。

エージェントがもっともらしい説明を形成すると、確証バイアスが検索プロセスに入り込む可能性がある。システムは支持する証拠を取得し、曖昧さを自らに有利に解釈し、一貫した物語に到達した時点で停止するかもしれない。

人間の科学者も同じ行動に脆弱だ。科学は、対抗的な査読、再現可能な手法、独立した実験、そして誤りの発見を評価する仕組みによって、この弱点を抑えている。

自律エージェントには、運用プロセスの内部に同等のチェックが必要だ。反証となる証拠を意図的に探し、棄却した仮説を記録し、各推奨の背後にある前提を明らかにすべきである。

こうした要件により、科学AIは知識アーキテクチャの問題となる。研究者には、主張、情報源、実験、改訂の間の関係を保持するシステムが必要だ。

このアプローチは、取得した情報をユーザーの作業コンテキストと結び付け続けるknowledge blendingに似ている。科学用途では、プロベナンス、不確実性、実験の系譜を備えた、さらに厳格な形態が求められる。

したがって核心は、データが重要かどうかではない。科学AIは、高品質なデータ、アクセス可能な研究記録、適切に記述された実験に依存している。

誤りは、データ量を判断の代替物として扱うことにある。追加の観測は候補を絞り込めるが、どの不確実性が重要か、次にどの証拠を得るべきかを決めるのは推論である。

科学エージェントは問いが開かれている場合に依然として苦戦する

今日のエージェントは、人間がすでに発見を明確な終点を持つ、十分に定義されたタスクへ変換している場合に最も力を発揮する。

ベンチマークは、科学で最も難しい部分を取り除きながら、AIシステムを科学的に見せることができる。プロンプトが問題を定義し、関連ツールを提供し、採点基準を指定していれば、エージェントに必要なのは主に実行である。

現実の研究は、これらの要素のいずれも固まる前に始まることが多い。科学者は、どの問いを立てる価値があるか、どの測定が有益か、どの結果が自分の考えを変えるかを決めなければならない。

2026年のSciAgentArena benchmarkは、この隔たりを縮めようとしている。科学研究のシナリオから抽出した約200のタスクを含み、対話型環境の中で段階的な検証を用いる。

著者らは、現在のエージェントが明確に規定されたデータ分析ワークフローには効果的に貢献できると確認した。一方で、タスクに自由度の高い探索、新たな洞察、あらかじめ定められた経路のない堅牢な解決策が求められると、性能の一貫性は低下した。

この結果は、新たな証拠によって誰が圧力を受けるのかを示している。汎用エージェントの開発者は、ツール利用の成功を科学的自律性と同一視できなくなった。

研究組織もまた圧力に直面する。最終回答のベンチマークに基づいてエージェントを導入すれば、信頼できる正当化を伴わないもっともらしい結論を生むプロセスを自動化するリスクがある。

研究室には、中間的な意思決定を検査する評価が必要だ。エージェントは矛盾する証拠を認識したか。二つの仮説を区別できる実験を選んだか。その後に確信度を更新したか。

この区別は、エージェントのオーケストレーションの役割も変える。文献、コーディング、統計、レビューの専門エージェントを追加すれば、カバレッジは広がる。しかし、それだけでグループが一貫した科学的方法に従う保証にはならない。

複数のエージェントが同じ誤りを強化することもある。基盤モデル、訓練分布、検索システムを共有している場合、見かけ上の合意は独立した確認ではなく、相関した失敗を反映している可能性がある。

科学チームは、異なる機器、手法、サンプル、理論的視点を用いることでこの問題を回避する。エージェントシステムには、異なる役職を与えられた一つのモデルの複製ではなく、意味のある多様性が必要だ。

協調的な質問に関するMITの研究は、具体例を示している。制御されたゲームで、エージェントは限られた通信のもと、パートナーが隠された物体を見つける助けとなる質問をしなければならなかった。

questioning studyでは、この環境において、慎重に訓練された小規模モデルがはるかに大規模なモデルを上回り得ることが示された。改善は、期待される情報価値に基づいて質問を選んだことから生じた。

これは科学にとって重要だ。なぜなら、発見は不確実性を減らす観測を選ぶことに依存するからである。大規模モデルはより多くの事実を知っていても、なお弱い問いを立てる可能性がある。

この結果は、パラメータ数だけがエージェントの質を決めるという考えにも異議を唱える。効果的な科学エージェントには、自身が何を知らないのか、そしてどの行動がその不確実性を解消するのかを判断するための方策が必要だ。

構造化・記号的推論に関するIntelの取り組みは、このメカニズムに合致する。記号的手法は、エンティティ、規則、関係を明示的に表現し、定義された制約の下でシステムがそれらを操作できるようにする。

ニューラルモデルは、非構造化言語を解釈し、大規模データセット全体のパターンを検出できるため、依然として価値が高い。より強力な科学アーキテクチャは、おそらくこうした強みを、明示的な仮説、因果モデル、検証ツールと組み合わせることになる。

このハイブリッド設計は、異なるエンジニアリング目標を生み出す。システムは、不確実性をただちに一つの自信に満ちた答えへ圧縮するのではなく、保持しなければならない。

また、検索と評価を分離する必要がある。論文を見つけることは、その手法が提示されている主張を裏づけるかどうかを判断することとは別物だ。

したがって、近い将来におけるエージェントの最も信頼できる役割は、範囲を限定した協働である。科学者が枠組み設定と検証の責任を維持する一方で、エージェントは検索、計算、シミュレーション、候補となる説明の草案作成を担える。

この配置は、完全自律型のAI科学者ほど劇的ではない。しかし、証拠が支持する姿にはより近い。

真の対立軸は、科学的推論を伴わないデータスケーリングだ

中心的な対立は、成功した出力を再現するよう最適化されたシステムと、擁護可能な探究プロセスを行うよう訓練されたシステムの間にある。

データスケーリングは現代AIを変革した。モデルがより多くの事例に触れることで、多くのタスクの性能が向上するためだ。言語モデリング、画像認識、コード補完はいずれも、パターンへの幅広い接触から恩恵を受ける。

科学にはパターン認識が含まれるが、発見には規範的な層もある。研究者は、何を証拠と見なすか、不確実性が主張にどう影響すべきか、そして説明がいつ失敗したと判断するかを決めなければならない。

こうした判断は、既知の答えとの一致だけでは評価できない。最先端の問いには解答集がなく、最も興味深い結果は既存文献と矛盾する可能性がある。

結果に基づく報酬には、特有の危険がある。開発者が、最終回答が受け入れられた結論に似ているたびにエージェントへ報酬を与えれば、モデルはその合意が正当化される理由を学ばないまま、コンセンサスを模倣することを学び得る。

見せかけの関係によって生み出された正しい予測は、科学的には依然として弱い。新たな条件下で失敗するかもしれず、システムはその失敗がいつ起こるかについて信頼できるシグナルを示せない可能性がある。

プロセス監督は一つの対応策となる。これは、エージェントが証拠を正しく用いたか、代替案を検証したか、自身の確信度を適切に調整したかといった中間段階を評価する。

しかし、科学的プロセスは算術より採点が難しい。数学的証明は場合によっては行ごとに検証できる一方、科学的議論は不完全な証拠や分野固有の判断に依存することがある。

研究者は、科学的アラインメントという考え方を提案している。これは、AIシステムが科学的結論を有用なものにする認識論的価値に従うべきだという考え方だ。そこには、追跡可能性、一貫性、検証可能性、較正可能性、理解可能性が含まれる。

科学的アラインメントに関する2026年の論文は、通常の性能指標ではこうした価値を捉えられないと論じている。同論文は、科学的実践を軸に設計されたベンチマークと報酬システムを求めている。

この提案は、モデルが人間の研究慣行をすべて模倣することを求めるものではない。科学機関には、盲目的に組み込むべきではないバイアス、出版上のインセンティブ、不平等なアクセスが存在する。

むしろ、目標は訂正を支える特徴を保つことだ。主張は証拠と結び付けられ、仮定は可視のままにされ、矛盾する観測は再検討を促すべきである。

アラインされた科学エージェントは、一つの物語をただちに選ぶのではなく、複数の有力な仮説を維持する。それらを最もよく切り分けられる実験を特定する。

また、証拠がないことと、不在の証拠を区別する。言語モデルは、両者が似た言語的文脈に現れ得るため、この境界を曖昧にしがちだ。

確信度の較正も、もう一つの要件である。較正されたシステムは、証拠が乏しい、相反している、あるいは学習分布から大きく外れている場合に、より低い確信度を示す。

これは基本的に聞こえるが、流暢な言語は不十分な較正を隠し得る。自信に満ちた段落からは、その推論が一つの間接的な情報源に基づくのか、複数の独立した実験に基づくのかは分からない。

IntelとMITの議論は、アーキテクチャと振る舞いを結び付けている点で有用だ。Intelの構造化推論の方向性は、知識と規則をどのように表現するかに関わる。MITのエージェント研究は、システムが不確実性の下でどのように情報を収集し、行動するかを検討している。

どちらのアプローチも、大規模モデルや広範なデータセットを放棄することを示唆してはいない。いずれも、そうした資源を問い直しと訂正のために構築されたプロセスの中に置くことを示唆している。

このメカニズムは、AIが概念的変化に貢献できるかどうかも左右する。驚きを最小化するよう訓練されたモデルは、多くの場合、学習分布の中心に近い説明を好む。

科学エージェントは、時に驚きを維持しなければならない。異常はノイズかもしれないが、受け入れられたモデルが機能しなくなる地点を示すこともある。

システムは、あらゆる矛盾を発見として称賛すべきではない。異常は、その信頼性、再現可能性、説明を区別する能力に基づいて順位付けすべきである。

そのためには、データ、機器、理論をまたぐ推論が求められる。これは、もう一つのもっともらしい単語列を生み出すことより、はるかに要求の厳しい目標だ。

仮説生成の高速化は検証のボトルネックを生む

エージェントが研究者の検証速度を上回ってアイデアを生み出すなら、科学的アウトプットは増える一方で、各結果への信頼は低下し得る。

AI科学者がもたらす最も差し迫ったリスクは、回答を生成しなくなることではない。既存の機関が評価できる量を超えて、もっともらしい回答を生み出しすぎることだ。

エージェントは数千本の論文を検索し、離れた概念を組み合わせ、候補となる実験を24時間提案できる。実験室の能力、査読、専門家の注意力は、同じ速度では拡張しない。

Google DeepMindの研究者は、これを検証のボトルネックと表現している。仮説の生産が加速するにつれ、科学には来歴の確認、結果の再現、実験の優先順位付けのためのより優れたインフラが必要になる。

このボトルネックは、AIの出力が増えれば自動的に発見も速くなるという単純な主張を弱める。有用な速度は、1時間当たりに生成された仮説数ではない。検証され、共有知識に組み込まれた信頼できる仮説の数である。

自動化された査読者は投稿の絞り込みに役立つかもしれないが、相関リスクの懸念をもたらす。同じモデルファミリーから構築された査読者は、生成エージェントと同じ裏づけのない仮定を見落とす可能性がある。

独立検証は、別のチャットボットに回答が正しく見えるかを尋ねるだけでは不十分だ。別のデータ、異なるモデル、形式的検査、シミュレーション、あるいは物理実験が必要になる可能性がある。

科学モデルは現実世界と相互作用するため、物理的な検証は特に重要だ。化学合成は、文献に記されていない不純物、温度感受性、取り扱いの詳細によって失敗することがある。

AIエージェントは、理論上は有益でも、実用的でない、あるいは危険な実験を推奨する可能性がある。分野の専門家は、学習データに完全には表現されていなかった制約を評価しなければならない。

データの来歴は、別の脆弱性を生む。エージェントはしばしば、証拠の基準が異なる情報源からの記述を組み合わせる。査読済みの結果、プレプリント、未検証のデータベース項目が、一つの自信に満ちた応答の中で隣り合う文になることがある。

信頼できるシステムは、各主張がどこから生じ、推論の過程でどのように変化したかを示すべきだ。滑らかな要約の背後に不一致を隠してはならない。

懐疑的な目は、ベンチマーク結果にも向けるべきである。約200のインタラクティブタスクでの高い性能は、エージェントがあらゆる研究分野を扱えることを立証しない。

ベンチマークは必然的に現実を単純化し、モデルは繰り返し現れるその構造に最適化され得る。計算生物学で優れた性能を示すシステムでも、物理実験室やフィールド調査では失敗する可能性がある。

25,000回を超えるエージェント実行を調査した研究も、掲載時点ではなおプレプリントである。その大規模な実験基盤は価値を持つが、独立した再現と査読は依然として重要だ。

その割合を、すべての科学エージェントに当てはまる普遍的な定数にしてはならない。それらは評価されたシステム、タスク、採点方法を記述している。

それでも、中心的な警告を退けるのは難しい。管理された評価で証拠を無視するエージェントに、コストの高い、あるいは安全性に敏感な研究への無制限の権限を与えるべきではない。

組織は支援と自律性を分けるべきだ。エージェントは、治療が有効だと判断することなく文献マップを作成できる。危険な装置を制御することなく、実験を提案できる。

チームには、成功した出力だけでなく、失敗した推論の記録も必要だ。隠された失敗は、どのタスクがシステムの能力を超えるのかを研究者が学ぶことを妨げる。

ここでIntelとMITの主張が実務的な意味を持つ。科学的推論は、機関がエージェントの導入を拡大する前に、ワークフロー、評価、レビューゲートへ組み込まれなければならない。

そうでなければ、より遅く、より高コストな検証に、より高速なコンテンツ生成が結び付くだけになる。それは科学的進歩ではなく、科学らしさの自動化である。

AIエージェントが科学者になりつつあるかを示す三つのシグナル

次の段階は、ますます洗練されたデモではなく、信念の更新、現実世界での検証、独立した再現によって判断されるべきだ。

第一のシグナルは、プロセスレベルの科学ベンチマークの登場である。こうしたテストは、エージェントが反証を探すか、相関と因果を区別するか、予測が外れた後に立場を改めるかを評価すべきである。

推論の軌跡を監査でき、評価前にタスクが秘匿されている場合、ベンチマーク結果の説得力は高まる。そうした条件下での成功は、科学的推論が訓練可能な能力になり得るという主張を強める。

失敗すれば、汎用エージェントは主として構造化されたワークフローを実行するという現在の結論が補強される。また、ツールやメモリを追加しても、根底にある推論上の隔たりは解消しないことを示す。

第二のシグナルは、エンドツーエンドの実験的検証である。研究チームは、エージェントが生み出したアイデアの数だけでなく、その仮説のうち何件が実験室での試験を通過したかを報告すべきだ。

最も強い証拠は、エージェントが有益な実験を選び、予想外の結果を受け取り、作業仮説を変更する事例から得られる。この一連の流れは、科学の完全なループを検証する。

一度限りの発見の成功は注目を集めるが、より重要なのは反復可能な性能だ。研究者は、このプロセスが新しいタスク全体で機能するのか、失敗が検出可能なままなのかを知る必要がある。

第三のシグナルは、異なるモデル、ツール、データセットを用いるチームによる独立した再現である。再現は、結果が一つのエージェントの隠れた仮定やベンチマークの設計に依存しているかを明らかにできる。

同じ基盤モデルの複製同士の一致は、独立した確認として数えるべきではない。意味のある再現には、相関した誤りを露出させるのに十分な方法論上の分離が必要だ。

これらのシグナルは、科学エージェントの短期的な市場も明らかにしている。不確実性を記録し、人間のレビューと統合するシステムは、規模だけで自律的な発見を約束する製品よりも、より大きな信頼を得るはずだ。

開発者にとって実務上の優先事項は、作業状態を可視化するエージェントを構築することだ。すべての仮説は、情報源、前提、予定されたテスト、観測結果、その後の修正と結び付いていなければならない。

企業の研究責任者にとっては、評価を範囲の限定されたタスクから始めるべきだ。チームはエージェントの推奨を専門家の判断と比較し、両者がどこで異なるかを追跡できる。

ナレッジワーカーが注意を払うべきなのは、同じ区別が研究室の外にも当てはまるからだ。契約書、製品リサーチ、顧客の証拠をレビューするエージェントも、その根底にある前提を検証せずに、もっともらしい回答を生成できる。

だからこそ、IntelとMITの議論にはより広い重要性がある。それは、AIシステムが単に既存の成果物の生成を加速するだけなのか、それともそれを生み出す推論の質を向上させるのかを問うている。

より多くのデータは引き続き不可欠だ。より優れたモデルも重要であり、専門化されたツールはエージェントにできることを広げるだろう。

しかし、こうした投資のいずれも、自己修正するプロセスの必要性をなくすものではない。科学的知識がその地位を得るのは、主張が問い直され、追跡され、検証され、修正され得るからだ。

次に信頼に値するAI科学者を決めるのは、どれだけ多くの論文を読んだかではない。証拠が最初の答えは誤りだったと示したときに、何をするかで決まる。

研究者、開発者、テクノロジーの購買担当者は、今こそすべての科学エージェントに対して、より厳しい問いを投げかけるべきだ。どの証拠が判断を変え得るかを、そのシステムは示せるのか。

その答えがなお不明確であるなら、そのエージェントは自律的な科学者ではなく、有能な研究アシスタントにとどまる。この区別は、組織が次のIntelとMITの研究主張、そしてその後に続くあらゆる科学AIのデモンストレーションを評価する際の指針となるべきだ。