DeepSeek V100 Server、精度向上のため速度を犠牲に
ある弁護士のDeepSeek V100 serverは、モデル内で頻繁に使われる部分の数値精度を高める代わりに、生成速度の一部を犠牲にした。このマシンは引き続きNvidia V100グラフィックスプロセッサを8基使用しているが、構築者によれば、測定対象となったエキスパートルーティング活動の大半をNVFP4参照値に近づけたという。NVFP4はNvidiaの4ビット浮動小数点形式で、共有スケーリング情報とともにモデル数値をコンパクトに保存する。ここで重要なのは、「ルーティング活動の大半」は、モデルの大部分のコンポーネントがその形式へ移行したことを意味しない点だ。
このプロジェクトは、法的事件ファイルの初期作業にローカルAIを利用するNick Mermigesによるものだ。今回のアップグレードは、モデルの数値的挙動をより多く維持しながら、限られたグラフィックスメモリ内に動作コンポーネントを収めるという実務上の緊張関係を狙っている。従来の構成は積極的な圧縮と高速出力を優先していた。新しい構成では、頻繁に選択されるコンポーネントにより多くのメモリを割り当て、参照結果への近さと引き換えに生成速度の低下を受け入れている。
この実験は、Claudeのようなホステッドアシスタント、新しいローカルハードウェア、旧式機器で動く大幅に圧縮されたモデルという、おなじみの選択肢の中間に位置する。即席で組まれたサーバーが、管理されたリーガルAIサービスに匹敵することを示すものではない。一方で、所有者が見出しを飾る速度より数値的忠実度を選んだ、文書化された事例ではある。重要なのは、何が改善したのか、どの測定値を一緒に扱うべきか、そしてその変化が1日の実務を通じて維持されるかという点だ。
DeepSeek V100 serverで何が変わったのか
このアップグレードは、8基の主要プロセッサを置き換えるのではなく、限られたグラフィックスメモリをどこに使うかを変更するものだ。
Tom's Hardwareは2026年11月14日にこの更新を報じた。同誌の報道では、システムメモリが256 GBから1 TBへ増設され、RTX 3090がマシンに追加されたと説明されている。また、コード生成速度は従来の毎秒160~215トークンから150~180トークンへ低下したと報じた。トークンは、モデルが処理・生成するテキストの断片である。これらの数値は、このサーバーが扱うすべてのタスクではなく、報告されたコーディングワークロードを表す。同誌のserver upgrade coverageは、変更点を構築者の公開アカウントまでたどっている。
このサーバーは、法務用ハーネスとともにDeepSeek V4.1 Flashを実行している。ここでいうハーネスとは、モデルの作業を整理する周辺ワークフローやチェックを指す。この区別により、モデルそのものと、Mermigesが実際に使うアプリケーションを分けて捉えられる。モデルは応答を生成するが、周辺システムは何の資料を入力し、どのタスクを続け、何をレビュー対象とするかを決める。基礎となる数値表現を変えても、このより大きなプロセスの一部にしか影響しない。
ハードウェアの追加も分けて扱う必要がある。システムメモリを増やしても、自動的にグラフィックスメモリになるわけではない。追加されたRTX 3090も、公表されたすべての速度結果に自動的に寄与するわけではない。部品リスト全体を性能の説明とみなすことは、実際の構成やソフトウェア上の判断を飛ばすことになる。
このプロジェクトを追う読者にとって、本質的な展開は優先順位の変更だ。従来のアプローチでは、ルーティングされるモデルコンポーネントを、カード上で利用可能な状態に保てるほど積極的に圧縮していた。今回の更新では、その利用可能性を維持しつつ、選択したコンポーネントに高精度で追加の領域を割り当てている。
これは、毎秒トークン数を最大化することとは異なる目標である。高速な応答も、その内容がタスクを支えられる場合にのみ有用だ。逆に、より近い数値的一致も、システムが遅すぎる、または不安定すぎて使えなければ、実用的な価値は限られる。
したがってこの更新は、プロセッサ世代間の競争ではなく、ワークロード設計についての議論に位置づけるべきだ。その関連性は、モデル、メモリ予算、ソフトウェア、法務作業という特定の組み合わせから生まれる。購入者は、この組み合わせを一般的な購入ルールに変換しないよう注意すべきだ。
目に見える追加によってマシンはより複雑になった。今回の更新が重要である理由を説明するのは、目に見えにくい変更、すなわち、どのコンポーネントに希少なメモリを割くべきかという判断である。
エキスパートのトラフィックの大半は、モデルの大半ではない
見出しの割合は、選択されたモデルコンポーネントを通る活動量を測るものであり、モデル全体のうちフル精度で動作する割合ではない。
DeepSeekは、エキスパートと呼ばれる選択されたモデルコンポーネントに計算を振り分ける、mixture-of-experts設計を採用している。後続トークンを生成する段階であるデコード時には、エキスパートごとに異なる量のトラフィックが流れる。頻繁に選択されるコンポーネントは、コンポーネント総数に占める比率から想定される以上の活動を担うことがある。
構築者のexpert routing updateによると、従来のデフォルトでは、ルーティング対象のエキスパート15,360個のうち5,949個をNVFP4へ昇格させていた。測定されたシングルスロットのカバレッジは、デコードルートのおよそ80~86%に達した。2スロットのデフォルトにおける78~85%のカバレッジは、直接測定ではなく予測値だった。同投稿では、エキスパートの選択に公開プロンプトセットと非公開の法務トラフィックを併用したとも述べている。
これらの記述が裏付けるのは、「DeepSeekの80%がフル精度で動作する」という主張よりも限定的なものだ。示しているのは、ワークロードに依存する活動分布である。未知のユーザーの文書、言語、要求にも同じ割合が当てはまることを示すものではない。
根底にある割り当て問題を考えてみよう。一部のエキスパートが頻繁なトラフィックを受けるなら、その参照重みを保持することは、多くのルーティング判断に影響し得る。すべてのエキスパートを均等に扱えば、メモリ消費の仕方も変わる。このプロジェクトのアプローチは、その代わりに、測定によって有用と特定されたコンポーネントを優先する。
これは、DeepSeek mixed precisionをワークロード特化の一形態にする。ここでのmixed precisionとは、異なるモデルコンポーネントを異なる数値表現で保存することを意味する。その利点は、将来の要求が、それらのコンポーネントを選ぶ際に使われたトラフィックにどの程度似ているかにも左右される。
この区別は、法務ワークロードを評価する際に重要となる。契約書レビュー、事実関係の時系列整理、通信文の起草、資料比較では、それぞれ異なる挙動が求められる場合がある。ある種類の要求の組み合わせに基づいて調整された選択は、測定カバレッジを別の用途に関する主張へ転用する前に、テストが必要だ。
NvidiaのNVFP4 format explanationも、保存精度とハードウェアアクセラレーションを分けて理解する助けになる。この形式は4ビット値と共有スケーリングを組み合わせ、表現誤差を抑える。NvidiaはBlackwellでこの形式のネイティブアクセラレーションを導入した。旧世代のプロセッサに参照形式の重みを保持しても、Blackwellの実行ハードウェアが得られるわけではない。
したがって、「Near-NVFP4」には、名前の付いた参照値と定義された測定方法が必要だ。非圧縮演算、正確性の保証、または新しいハードウェアの性能と同義に扱うべきではない。
興味深い結果は、この割り当て戦略にある。このマシンは、頻繁に通る計算経路に沿ってより高い忠実度を維持しながら、他の箇所では圧縮されたカバレッジを保とうとしている。これが測定済みのトラフィック外でも有効かどうかは、追加テストを要する問題だ。
参照値との一致向上は、法的回答の改善を示すものではない
より近い数値的挙動は実装に関する証拠であり、法務上の有用性には別個の評価が必要だ。
プロジェクトの公開モデルカードでは、NVFP4参照値との次トークン一致率が、従来の圧縮ビルドの92.2%から95.1%へ向上したと報告されている。これは、比較条件下で両実装が同じ次のテキスト断片を選択するかを測るものだ。どちらかのシステムが、その割合で法的質問に正しく答えることを意味しない。
ドキュメントには、後の構成修正も含まれている。11月13日の更新では、予約メモリの増加後、2スロットのデフォルトが5,949個から5,936個のNVFP4エキスパートへ削減された。同じmixed precision packageは、以前の一致テストと、品質が未確立の後のサービングオプションを区別している。文書化されたコンテキスト上限は524,288トークンで、これはリクエストに対して構成された最大の入力・出力容量を意味する。
こうした詳細は、いくつかの安易な近道を防ぐ。参照値との一致は、元の文書との一致ではない。参照モデルが事実誤認をすることもあり、より忠実な実装はその誤りを再現し得る。
同様に、不一致が必ずしも悪い回答を生むわけではない。異なる表現でも、同じ意味を保てる場合がある。小さな数値差が重要な限定条件を変えることもある。影響は、単に一致するトークン数ではなく、タスクと出力に依存する。
したがって、DeepSeek legal workflowの評価は、完成した成果物から始めるべきだ。出力は、申立てと立証済みの事実の区別を保っていたか。結論を正しい文書に結び付けていたか。証拠が不完全なままの場合に、不確実性を維持していたか。
これらは、このサーバーの独立評価による発見ではなく、関連する問いの例である。数値比較がタスクレビューの代替にならない理由を示している。
長い構成済みコンテキストも慎重に解釈する必要がある。容量は、システムが設定上どれだけの資料を受け入れるかを示す。応答全体を通じて、すべての関連する詳細にアクセスでき、正しく結び付けられることを保証するものではない。
事件ファイルから組み立てられる初期段階の時系列を想像してみよう。価値ある結果とは、追跡可能な裏付け資料を伴う、利用可能な時系列である。サーバーはファイルを問題なく処理しても、重要な出来事を見落とす可能性がある。また、大幅な修正を要する流暢な文章を生成することもある。
実務上の負担は、ワークフローを維持する側にかかる。数値的忠実度の向上は、レビューを省く理由ではなく、アプリケーションを再テストする理由になる。最も有用な次の検証は、同じ文書と評価基準を用い、アップグレード前後の出力を比較することだろう。
その比較が、エンジニアリング上の変更と、このマシンが存在する理由を結び付ける。それまでは、公開テスト内で参照挙動により近づいたことを証拠は支持する。法的精度が定量的に向上したことまでは支持しない。
速度は、測定するビルドとワークロードに左右される
公開された結果は複数の構成を示しているため、それぞれの最良の数値を組み合わせると、実際にはテストされていないサーバーを作り出すことになる。
プロジェクトの後期リポジトリでは、11月13日の最終ビルドについて、コード出力がおよそ毎秒143~175トークンと記録されている。3件の同時リクエストでの集計値は毎秒176.2トークンで、従来報告された192.3と比較されている。また、後のテストでは256Kプロンプト後の最初のトークン到達が86.7秒となり、従来実行時の108.4秒を上回った。
ベンチマーク構成の詳細では、これらの実行環境で異なる電力設定が用いられていたことが明らかにされています。また、すべてのスロットプロファイルで品質が確立されたわけではないとも警告しています。スロットとは、リクエストの状態のために予約される提供容量です。これらは依然として開発者が報告した測定値であり、独立して再現されたベンチマークではありません。
この開示により、このアップグレードの説明の仕方は変わります。先に示された見出しとなる数値は、特定時点の結果としては引き続き有用です。しかし、以降のすべての改訂版に当てはまる恒久的な仕様として扱うべきではありません。
総合スループットにも、明示的な分母が必要です。これは測定期間中のリクエスト全体にわたる総出力量を数えたものです。個々のユーザーに対し、自分の回答がその合算レートで届くことを意味するものではありません。
オフィス環境では、この違いは実用上重要です。複数のバックグラウンドタスクは、より大きな合算出力の恩恵を受ける可能性があります。一方、特定の回答を待つ弁護士にとって重要なのは、そのリクエストの完了時間です。ある構成が共有リソースの利用効率を改善しても、アクティブな各セッションを遅くすることはあり得ます。
プロンプト処理には、もう一つ区別すべき点があります。プリフィルは、生成が始まる前に入力を処理する初期段階です。長い文書では、その後の出力が速くても、最初に目に見える応答が現れるまでに顕著な待ち時間が生じることがあります。
これは対話的な作業において重要です。ユーザーは包括的な文書分析であれば長めの待ち時間を受け入れられるかもしれませんが、短い追加質問ではそうではないでしょう。両方を単一の速度指標にまとめる評価では、その差が見えなくなります。
Claudeや別のホスト型アシスタントとの比較にも、同じ規律が必要です。Mermigesは、Claudeベースのハーネスから自身のローカルシステムへ作業を移行したと説明しています。この記述が示すのは彼の動機と経験であり、サービス間の統制された比較ではありません。
公正な評価では、タスク、原資料、期待される出力、レビュー基準を一定に保つ必要があります。また、待ち時間と修正も含めるべきです。そうしなければ、同じラベルのもとで異なるワークフローを測定することになりかねません。
したがって、DeepSeek V100サーバーの生成が遅いことは実際のトレードオフですが、適切な枠組みで捉える必要があります。中心的な問いは、より高い忠実度によって修正作業が十分に減り、追加の待ち時間と保守を正当化できるかどうかです。
公開された出力レートだけでは、その問いに答えられません。これらは、実用的な実装と、その真価をなお測定する必要があるアプリケーションとの境界を見極める助けにはなります。
信頼性とローカル制御には、それぞれ固有の負担がある
ビルダーによる安定性の改善は心強いものの、推定されるハードウェア上の原因は、実証された事実ではなく診断にとどまります。
Mermigesは、電力供給に変更を加えた後、クラッシュが止まったと報告しています。彼の記述では、その後に9回の長時間チャットが成功し、故障の可能性がある電源ユニットが原因として疑われています。以前のエラーは、ハードウェア部品を接続する仕組みであるPCIeに彼の注意を向けさせました。こうした観測と、確認済みの根本原因との違いは、明確にしておくべきです。
同じ記述によると、RTX 3090は物理的に設置済みでしたが、小型のドラフトモデルをそこへ移す作業は未完了のままでした。ドラフトモデルは、別のモデルが検証する候補テキストを提案するもので、この手法は投機的デコーディングとして知られています。予定されている配置は、将来のソフトウェア変更であり、既存の結果を説明する確立済みの根拠ではありません。
これらの詳細を合わせると、機能するローカルシステムには、モデルの重みをメモリに収める以上のことが必要だと分かります。生成速度が十分に見える場合でも、ハードウェアの診断、構成管理、ソフトウェア統合には労力がかかります。
一連の成功したセッションは、観測された挙動が改善したという主張を支えます。しかし、故障した部品を特定するものではありません。同時期に行われた複数の変更が、原因の帰属を複雑にすることがあります。
この不確実性は、発展途上の個人プロジェクトでは普通のことです。しかし、そのプロジェクトを信頼できるオフィスインフラのひな型として扱う場合、より重大になります。別の構築者には、他の環境にも移植できる修正と、特定のマシンに固有の改善とを区別するのに十分な文書化が必要です。
ローカル制御には、関連する別の区別があります。Mermigesは、自身の案件文書がオフィス内に残ると述べています。これは彼が意図する運用と報告された実践を説明するものです。システムのデータ処理に関する独立監査ではありません。
同様のアプローチを評価する組織は、文書、ログ、バックアップ、管理アクセスがどこに存在するのかを依然として理解する必要があります。これは、この特定のマシンの欠陥を示すものではなく、展開に関する問いです。利用可能な記述だけでは、完全な答えは得られません。
したがって、ホスト型サービスとの比較は、場所だけでなく責任にも関わります。ハードウェアをローカルで運用すれば、その所有者は多くの判断を直接管理できます。その一方で、より多くの保守とトラブルシューティングも所有者が担うことになります。
マネージドサービスでは、こうした責任の配分が異なります。どちらの形態も、それだけで出力品質の高さ、適切なアクセス、あるいは総労力の低さを自動的に証明するものではありません。これらの判断には、実際のシステムとその利用に関する証拠が必要です。
どの展開方式が選ばれるとしても、周辺のナレッジワークフローは重要です。検索可能なナレッジベースは、検索のために原資料を整理するという関連課題に対応します。ただし、モデル評価に取って代わることも、別個の導入環境におけるプライバシー主張を検証することもできません。
DeepSeekの法務ワークフローにとって厳しい問いは、ローカル制御によって有用な作業への信頼できるアクセスが得られるかどうかです。そのためには、最適化作業と並行して、再現可能な運用プロセスが必要です。成功したデモンストレーションと、保守可能な日常サービスは関連する成果ですが、求められる証拠は異なります。
この取り組みがどこまで広がるかを決める3つの追跡事項
次に有用な更新は、別の単独の見出し向け速度を加えることではなく、エンジニアリング上の改善を再現可能な挙動へ結び付けるものです。
第一に、現行の提供構成に対する統合評価に注目すべきです。より強い証拠は、同じビルド上で測定されたルーティングのカバレッジ、参照との一致、レイテンシ、完了タスクの品質を組み合わせたものです。これにより、異なる設定下で集められた数値を整合させる必要性が減ります。
現行のデフォルト設定が、代表的な利用中に参照に近い挙動を維持していれば、このシグナルはプロジェクトの中心的主張を強めます。未知のトラフィックや追加リクエストによって忠実度が大きく低下するなら、その主張の実用的な範囲は狭まります。いずれの結果も、別の最大出力レートより有益です。
最も価値のあるタスク比較では、入力文書と採点基準を維持する必要があります。公開可能な例は、非公開の案件ファイルを公開せずに再現性を支えられます。また、他のユーザーが選ばれたテストが自らの業務に似ているかを検証することも可能になります。
第二に、RTX 3090へのドラフトモデル移行の完了と、それに続く統制された導入前後の測定に注目すべきです。プロセッサを設置することは、利用可能性を示します。その寄与を実証するには、稼働中のシステムで何が変わったのかを示す必要があります。
有用な結果では、この移行によってメモリが解放されたのか、待ち時間が変化したのか、同時リクエストに影響したのか、新たな不安定性が生じたのかを説明するでしょう。比較には、同じワークロードと明確に特定された構成が必要です。こうした統制がなければ、改善は別のソフトウェア改訂による可能性があります。
追加されたプロセッサが出力挙動を維持しながら実用的な余裕を生み出せば、このシグナルはリソース配分戦略を強めます。統合時のオーバーヘッドが利得を相殺すれば、期待される利点は弱まります。この結果が重要なのは、提案された役割がプロジェクトの未完了部分であり続けているためです。
第三に、構築者自身のマシン以外での継続運用と再現に注目すべきです。独立した試みは、文書化された構成が別の導入環境へ移転できるかを検証します。より長期の運用は、安定性改善についてより良い証拠も提供します。
再現が有用であるために、すべての数値を完全に一致させる必要はありません。ハードウェアや設定の違いで、ある程度の変動は説明できます。重要なのは、別の運用者がその違いを理解し、信頼できる結果を得られるかどうかです。
説明書が、広範な文書化されていない介入なしに比較可能な挙動を生み出せれば、このシグナルはより広い採用を支持する根拠を強めます。成功が引き続きマシン固有の知識に依存するなら、その根拠は狭まります。それでも価値ある実験ではありますが、移植性の低いオフィス向けソリューションとなるでしょう。
より深い問題は、このアプローチの運用に必要な注意を誰が負担できるかです。開発者は具体的な最適化の事例を得ます。エンタープライズの購入担当者は、評価と保守について問うべき事項を得ます。ナレッジワーカーは、ローカル実行、数値的忠実度、有用な回答には、それぞれ別の証拠が必要であることを思い出させられます。
DeepSeek V100サーバーが注目に値するのは、その構築者が意図的な妥協を記録し、その過程で複数の限界を明らかにしたからです。これは、古いハードウェアでも大規模モデルを実行できるという主張以上に有用なものを読者に提供します。ワークロードの選択によって、何が収まり、何がより速く動き、何がなお不確実なままかが変わることを示しています。
このビルドを自分の業務のモデルとして扱う前に、実際に使用する構成に紐づく測定値を確認してください。参照との一致とタスク精度、合算スループットと個人の待ち時間、計画中のアップグレードと完了済みの変更を分けて考えてください。追跡可能な原資料と、見える形のレビュー要件を伴う例を求めてください。修正と保守に費やす労力も含め、ワークフロー全体を現在のプロセスと比較してください。次に問うべきことは、このサーバーが単にローカルでテキストを生成できるかどうかではありません。その高い精度が、信頼できる仕事を完了する助けになることを、どのような証拠が示すでしょうか。



