90億パラメータのモデルがOpenAIの1200億パラメータモデルを打ち負かした。ノートパソコン上で。

2026年3月、Alibabaは90億パラメータの言語モデルをリリースしました。このモデルは大学院レベルの推論ベンチマークであるGPQA Diamondで81.7のスコアを記録し、サイズが13分の1であるOpenAIのGPT-OSS-120Bを上回りました。このモデルQwen 3.5-9Bは、16GBのRAMを搭載したラップトップ上で動作します。オープンウェイトでApache 2.0ライセンスであり、Ollamaを通じて単一のコマンドで利用可能です。

これは例外ではありません。新しい常識です。

Gemma 4、GLM-5.1、DeepSeek V4、Mistral Small 4は、いずれも主要ベンチマークでGPT-3.5 Turboの品質に匹敵または上回り、コンシューマーGPU上で動作します。2年前、ローカルでAIを実行するにはプライバシーを得る代わりに結果の劣化を受け入れる必要がありました。2026年では、パフォーマンスのペナルティはなくなりました。クラウドAPIを使うというデフォルトの前提は、もはや成り立ちません。

何が変わったのか

ブレークスルーは単一のモデルではありません。2026年初頭に収束した3つのトレンドにより、小型モデルが不均衡に高性能になったのです。

第一に、Mixture-of-Expertsアーキテクチャが効率の方程式を変えました。Qwen 3 30B-A3Bは300億パラメータのうち30億のみをトークンごとに活性化させながら、140億パラメータのdenseモデルに近い品質を実現します。RTX 4090上で1秒あたり196トークンを生成し、多くの小型denseモデルより高速です。効率向上は漸進的ではなく、コンシューマーハードウェアが実現できることの段階的変化です。Nvidia RTX 4090の価格は約1,600ドルです。GPT-4クラスのモデルで100万トークンあたり15ドルのクラウドAPI料金の場合、本格的な運用では数ヶ月でハードウェア代が回収できます。

第二に、フロンティアモデルからの蒸留により、能力が下方圧縮されました。各ラボは現在、1000億パラメータモデルを訓練した後、その推論能力を40億パラメータ未満のバリアントに蒸留しています。生徒モデルは教師の推論能力の多くを、計算コストのごく一部で継承します。r/LocalLLaMAで広く議論されているMiniMax M2.7のGGUF量子化バリアントが最も顕著な例です。100B超のモデルをラップトップで動作するサイズまで蒸留したものです。この手法自体は新しいものではありませんが、2026年の結果はわずか12ヶ月前でも不可能だった質的飛躍を示しています。

第三に、オープンウェイトエコシステムが散発的な実験から競争力のある風景へと成熟しました。現在、6つの主要ラボが本番グレードのオープンウェイトモデルを提供しています。AlibabaのQwen 3.6、GoogleのGemma 4、MetaのLlama 4、Zhipu AIのGLM-5.1、DeepSeekのV4、MistralのSmall 4です。競争は本物で、各ラボは異なる次元で差別化しています。Qwenはサイズ横断的な幅広い能力、Gemmaは使いやすさ、GLMはベンチマーク性能、DeepSeekは推論、Mistralは小規模での効率です。ComputingForGeeksが結論づけたように、Qwen 3.5、DeepSeek V3.2、GLM-5、Llama 4などのモデルは「主要ベンチマークで独自モデルに匹敵または上回り、独自ハードウェア上で実行可能」になりました。

ツールチェーンはモデルに追いつきました。Ollamaは参入障壁を「Python環境を構成して依存関係を管理する」から「1つのコマンドを入力する」へと低減しました。LM StudioはGUIを追加しました。llama.cppはコンシューマーハードウェアから最大限のパフォーマンスを引き出します。4ビット量子化は品質の低下を最小限に抑えつつVRAM要件を約75%削減します。2026年のローカルLLM体験は趣味のプロジェクトではなく、製品です。

重要なモデル

r/LocalLLaMAコミュニティの2026年4月の「Best Local LLMs」メガスレッドは143件の投稿と440件のインタラクションを集め、Latent.Spaceが報じた合意ランキングを生み出しました。ランキングはベンダーの主張ではなく、実ハードウェア上でのコミュニティ主導の評価に基づいています。

汎用性：Gemma 4。Googleのオープンウェイト製品はローカル展開の品質でリードしています。単一のベンチマークで最高得点ではないものの、最も幅広いタスクで一貫して使いやすいモデルです。すべてをそこそここなす1つのモデルを求める人にとって、Gemma 4がデフォルトの推奨です。Googleの戦略はベンチマーク至上主義ではなく展開品質で競うものであり、Llama 4スキャンダル以降に賢明に見えます。

コーディング：Qwen3-Coder-Next。Alibabaのコーディング最適化モデルはローカルコーディングベンチマークを支配しています。前世代のQwen2.5-Coder 32Bはすでに700ドルのGPU上でHumanEvalで92.7%を記録していました。次世代はさらに進化します。GitHub Copilotに匹敵するローカルコード生成を求める開発者にとって、このカテゴリのリーダーです。

総合能力：GLM-5およびGLM-4.7。Zhipu AIのモデルは広範なオープンモデルランキングの上位に位置します。推論、コーディング、一般知識で強く、競争力のある推論速度を維持しています。清華大学の学術ラボからグローバルなオープンウェイト contenderへのZhipuの台頭は、AI分野で最も過小評価されているストーリーの一つです。

推論：DeepSeek V4および蒸留バリアント。DeepSeekのフロンティアモデルとその小型蒸留版は、チェーンオブソート推論をローカルハードウェアにもたらします。蒸留バリアントは特に重要です。DeepSeekの推論能力をコンシューマーGPU上で動作するパッケージサイズに圧縮しつつ、推論品質の多くを保持しています。DeepSeekはNvidia GPUではなくHuawei Ascendチップを使ってこれを実現しました。これはAIハードウェアの地政学に関する別かつ同等に重要なストーリーです。

効率：Qwen 3.5 smallシリーズ。Alibabaの0.8Bから9Bの範囲はすべてネイティブにマルチモーダルで、262,000トークンのコンテキストウィンドウをApache 2.0ライセンスで提供し、効率の最前線を表しています。9Bモデルは前世代の30Bモデルを上回るため、開発者はミッドレンジゲーミングGPUで動作するモデルから2025年半ばのフラッグシップ性能を得られるようになりました。具体的なベンチマーク数値は注目に値します。MMLU-Proで82.5（GPT-OSS-120Bは80.8）、多言語MMLUで81.2（両方のGPT-OSSバリアントを上回る）。

Llama 4の脚注。Llama 4は有能なモデルですが、信用は永久に損なわれています。ベンチマークスキャンダルにより、すべての主張は独立して検証する必要があります。コミュニティはランキングに含める際に「信用せよ、ただし自分で検証せよ」という但し書きを付けています。

なぜ重要なのか

ローカルモデルの性能上限は十分に高く、クラウドAPIを使うというデフォルトの前提はもはや成り立ちません。

経済性が逆転しました。クラウドAPIの推論コストは100万トークンあたり0.15ドルから15ドルの間で、無期限にかかります。ローカル推論のコストは一度のハードウェア購入後の電気代だけです。ローカルがクラウドより安くなる分岐点は、ほとんどの企業アーキテクトが想定するよりも早く訪れます。RTX 4090 1台でQwen 3 30B-A3Bを1秒あたり196トークンで実行すれば、1日数千クエリを電気代だけで処理できます。

プライバシーは、ローカルLLMコミュニティの伝統的な主張ですが、主要な売り込みではなく無料のボーナスになります。ローカルモデルがクラウド品質に匹敵する場合、パフォーマンスとデータ主権をトレードオフする必要はなくなります。両方を得られるのです。機密データを扱う規制産業、利用量に応じてAPI料金が膨らむのを許容できないスタートアップ、モデルが何を言えるかを制御したい開発者にとって、ローカルオプションは構造的に優位です。

戦略的側面も同様に重要です。クラウドAPI依存は、AI能力が他者の価格設定、他者のレート制限、他者のコンテンツポリシーによって制限されることを意味します。ローカルモデルはこれら3つの制約をすべて排除します。2023年にOpenAIのAPIを採用した企業は、現在セルフホスト型代替案への移行を評価しています。Llama 4ベンチマークスキャンダルはクラウドプロバイダーの主張を助けませんでした。最も著名なオープンソース企業がベンチマークを操作していることが発覚しても、コミュニティがオープンウェイトモデルを好む場合、ローカル展開の構造的論拠は強化されます。

立証責任は逆転しました。クラウドAPIプロバイダーは、なぜトークンごとに料金を支払うのではなく自分でモデルを実行すべきでないかを今や正当化しなければなりません。拡大するユースケースでは、その正当化はますます困難になっています。

ローカルAIの限界

限界についての正直さは不可欠です。ローカルモデルはクラウドAPIの普遍的な代替ではありません。

フロンティアレベルの推論は依然としてギャップです。Qwen 3.5はAIME 2026数学で91.3を記録しましたが、GPT-5.2の96.7やClaude Opus 4.6の93.3には及びません。最も困難な推論タスクでは、独自リーダーが依然として優位です。ギャップは縮まっていますし、オープンウェイトモデルの改善速度は独自モデルを上回っていますが、まだ解消されていません。

エージェント能力が次のフロンティアです。現在のローカルモデルは生成と推論に強い一方、ツール使用、多段階計画、自律行動では劣ります。信頼できるエージェント能力を備えたオープンウェイトモデルをリリースするラボが、ローカルAI競争の次の段階を定義するでしょう。いくつかのラボが取り組んでいますが、まだリリースされていません。

ハードウェア要件は野心に比例します。70億から90億パラメータモデルは8GB VRAMのラップトップで動作します。300億パラメータのMoEモデルには16〜24GB、つまりRTX 4090やMac Studio程度が必要です。DeepSeek V4をフル精度で実行するフロンティアレベルのローカル展開にはサーバーグレードのハードウェアが必要です。「ラップトップ」という表現はQwen 3.5-9Bの話には当てはまりますが、すべてのモデルに当てはまるわけではありません。

そして今やすべてのAI性能主張に付くベンチマークの注意点：ベンダーベンチマークは信用できません。Llama 4スキャンダルがそれを証明しました。HumanEvalで90%を記録するモデルでも、特定のコードベースでは失敗する可能性があります。推論ベンチマークでトップのモデルでも、ドメイン内で幻覚を起こす可能性があります。唯一意味のある評価は、自分自身のハードウェアとデータで自分で実行するものです。

次に来ること

軌道は明確です。モデルはより小さく、より高性能になり、ハードウェアはより速く、より安くなり、ツールはよりアクセスしやすくなっています。ローカルとクラウドのギャップは引き続き縮まります。

エージェントギャップが次のフロンティアです。それを埋める、ツールを確実に使い、多段階計画を実行し、自律的に行動できるオープンウェイトモデルをリリースするラボが、次の段階を定義します。いくつかのラボが取り組んでおり、レースはオープンです。

クラウドAPIからセルフホストモデルへの企業移行は加速しています。コスト、プライバシー、戦略的制御、ベンチマーク信頼危機がすべて同じ方向に押し進めています。単一の独自API上にAIスタックを構築した企業は、現在オープンウェイト代替案への概念実証移行を実行しています。問題は移行が起こるかどうかではなく、どれだけ速く起こるかです。

6つのオープンウェイトラボ間の統合はあり得ます。6つのラボが競合モデルを提供するのは健全な市場です。しかし、6つのラボがフロンティアモデル訓練のコストを無期限に維持するのは不可能です。技術的能力とベンチマーク信頼性を兼ね備えたラボが生き残ります。Llama 4スキャンダルは、信頼性を失った場合に何が起こるかを示しました。

FAQ: ローカルLLMに関するよくある質問

高性能なGPUが必要ですか？

モデルサイズと量子化によります。70億〜90億パラメータのモデルは8GB VRAMのノートPCで動作します。300億パラメータのMoEモデルには16〜24GB、RTX 4090程度が必要です。4ビット量子化により、品質の低下を最小限に抑えつつVRAMを約75%削減できます。

ローカルモデルは本当にChatGPTと同じくらい良いですか？

特定のタスクでははい。Qwen3-Coder-NextはコーディングベンチマークでGPT-3.5 Turboに匹敵するか上回ります。Gemma 4は一般的な会話の品質で同等です。最先端の推論では、GPT-5.5やClaude Opus 4.7のようなクラウドモデルが依然としてリードしていますが、その差は縮まっています。

どのモデルから始めるべきですか？

一般用途にはGemma 4、コーディングにはQwen3-Coder、推論にはDeepSeekの蒸留版がおすすめです。すべてOllamaで1つのコマンドで利用可能です。

商用利用は合法ですか？

ここで取り上げたモデルのほとんどは寛容なライセンスの下にあります。Apache 2.0（Qwen、Mistral）は完全な商用利用を許可しています。GemmaとLlamaにはカスタムライセンスがあり、制限があります。商用展開前に特定のライセンスを確認してください。

ローカルモデルはGPT-5.5を追い越すでしょうか？

特定のベンチマークではすでに追い越しています。最先端の推論とエージェント機能では、プロプライエタリなリーダーが依然として優位です。差は縮まっており、オープンウェイトモデルの改善速度はプロプライエタリを上回っています。

ローカルLLMコミュニティは2年間、プライバシーが重要だと耳を傾ける人に言い続けてきました。2026年、彼らはその主張をやめられるでしょう。パフォーマンスのパリティがそれを証明します。ノートPC上で動作する90億パラメータのモデルが、OpenAIの1200億パラメータのクラウドモデルを打ち負かしました。API依存が唯一の選択肢だった時代は終わりました。1つダウンロードして、自分で実行してみてください。今回は数字が本物です。