Servidor DeepSeek V100 troca velocidade por precisão
O servidor DeepSeek V100 de um advogado sacrificou parte da velocidade de geração para obter maior precisão numérica nas partes do modelo usadas com frequência. A máquina continua usando oito processadores gráficos Nvidia V100, mas seu criador relata ter aproximado a maior parte da atividade medida de roteamento de especialistas de uma referência NVFP4. NVFP4 é o formato de ponto flutuante de quatro bits da Nvidia, que armazena números do modelo de forma compacta com informações de escala compartilhadas. A ressalva é importante: a maior parte da atividade de roteamento não significa que a maior parte dos componentes do modelo tenha migrado para esse formato.
O projeto pertence a Nick Mermiges, que usa IA local para trabalho inicial em arquivos de casos jurídicos. Sua atualização mira uma tensão prática: preservar mais do comportamento numérico de um modelo enquanto mantém seus componentes operacionais dentro de uma memória gráfica limitada. A configuração anterior favorecia compressão agressiva e saída mais rápida. A nova configuração destina mais memória a componentes selecionados com frequência, aceitando uma geração mais lenta em troca de resultados mais próximos da referência.
Isso posiciona o experimento entre alternativas conhecidas: assistentes hospedados como Claude, hardware local mais recente e modelos altamente comprimidos executados em equipamentos mais antigos. Ele não estabelece que um servidor improvisado se equipare a um serviço gerenciado de IA jurídica. Mas oferece um exemplo documentado de um proprietário escolhendo fidelidade numérica em vez de velocidade de destaque. As perguntas importantes dizem respeito ao que melhorou, quais medições devem ser consideradas em conjunto e se essas mudanças se sustentam ao longo de um dia inteiro de trabalho.
O que mudou no servidor DeepSeek V100
A atualização altera onde a máquina emprega sua memória gráfica limitada, em vez de substituir seus oito processadores principais.
Tom's Hardware noticiou a atualização em 14 de novembro de 2026. Sua cobertura descreveu o aumento da memória do sistema de 256 GB para 1 TB e a adição de uma RTX 3090 à máquina. Também informou que a geração de código caiu dos anteriores 160–215 tokens por segundo para 150–180. Tokens são os fragmentos de texto que um modelo processa e produz. Esses números descrevem cargas de trabalho de programação relatadas, e não todas as tarefas executadas pelo servidor. A cobertura da atualização do servidor da publicação rastreia as mudanças até a conta pública do criador.
O servidor executa DeepSeek V4.1 Flash com uma estrutura jurídica, ou seja, os fluxos de trabalho e verificações ao redor do modelo que organizam seu trabalho. Essa distinção separa o modelo da aplicação que Mermiges efetivamente usa. Um modelo gera respostas; o sistema ao redor decide qual material entra, qual tarefa vem em seguida e o que exige revisão. Alterar a representação numérica subjacente afeta apenas uma parte desse processo maior.
As adições de hardware também exigem análise separada. Mais memória de sistema não se transforma automaticamente em mais memória gráfica. A RTX 3090 adicionada não contribui automaticamente para todos os resultados de velocidade publicados. Tratar toda a lista de componentes como explicação para o desempenho ignoraria as decisões reais de configuração e software.
Para leitores que acompanham o projeto, o desenvolvimento substancial é uma mudança de prioridades. A abordagem anterior comprimia os componentes roteados do modelo de forma suficientemente agressiva para mantê-los disponíveis nas placas. A atualização preserva essa disponibilidade ao mesmo tempo que aloca espaço adicional para componentes selecionados em maior precisão.
Esse é um objetivo diferente de maximizar tokens por segundo. Uma resposta rápida só é útil quando seu conteúdo atende à tarefa. Por outro lado, uma correspondência numérica mais próxima oferece valor prático limitado se o sistema se tornar lento ou pouco confiável demais para uso.
Portanto, a atualização pertence a uma discussão sobre o desenho da carga de trabalho, e não a uma competição entre gerações de processadores. Sua relevância vem de uma combinação específica de modelo, orçamento de memória, software e trabalho jurídico. Compradores devem resistir a transformar essa combinação em uma regra geral de compra.
As adições visíveis tornam a máquina mais elaborada. A mudança menos visível — decidir quais componentes merecem memória escassa — explica por que essa atualização importa.
A maior parte do tráfego de especialistas não é a maior parte do modelo
A porcentagem destacada mede a atividade por componentes selecionados do modelo, não a proporção de todo o modelo executada em precisão total.
DeepSeek usa um design de mistura de especialistas, que direciona a computação por componentes selecionados do modelo chamados especialistas. Durante a decodificação, a etapa que gera tokens subsequentes, diferentes especialistas recebem diferentes volumes de tráfego. Um componente selecionado com frequência pode representar mais atividade do que sua participação na contagem total de componentes sugere.
Segundo a atualização de roteamento de especialistas do criador, o padrão anterior promoveu 5.949 dos 15.360 especialistas roteados para NVFP4. A cobertura medida de slot único atingiu aproximadamente 80–86% das rotas de decodificação. A cobertura declarada de 78–85% para o padrão de dois slots foi prevista, e não medida diretamente. A publicação também informa que a seleção de especialistas usou conjuntos públicos de prompts juntamente com tráfego jurídico privado.
Essas declarações sustentam uma alegação mais restrita do que “80% do DeepSeek é executado em precisão total”. Elas descrevem uma distribuição de atividade dependente da carga de trabalho. Não estabelecem que a mesma proporção se aplique aos documentos, idiomas ou solicitações de um usuário desconhecido.
Considere o problema de alocação subjacente. Se alguns especialistas recebem tráfego frequente, preservar seus pesos de referência pode afetar muitas decisões de roteamento. Dar tratamento igual a todos os especialistas consumiria memória de forma diferente. A abordagem do projeto, em vez disso, favorece componentes que suas medições identificam como úteis.
Isso torna DeepSeek mixed precision uma forma de especialização da carga de trabalho. Aqui, precisão mista significa armazenar diferentes componentes do modelo com diferentes representações numéricas. O benefício depende em parte de solicitações futuras se parecerem com o tráfego usado para escolher esses componentes.
A distinção importa ao avaliar cargas de trabalho jurídicas. Revisão de contratos, cronologia factual, redação de correspondências e comparação de fontes podem exigir comportamentos diferentes. Uma seleção ajustada a uma combinação de solicitações precisa de testes antes que sua cobertura medida se transforme em uma alegação sobre outra.
A explicação do formato NVFP4 da Nvidia também ajuda a separar precisão de armazenamento de aceleração de hardware. O formato combina valores de quatro bits com escala compartilhada para limitar o erro de representação. A Nvidia introduziu aceleração nativa para esse formato com Blackwell. Manter pesos no formato de referência em um processador mais antigo não lhe fornece o hardware de execução de Blackwell.
“Quase NVFP4” consequentemente precisa de uma referência nomeada e uma medição definida. Não deve servir como sinônimo de aritmética sem compressão, correção garantida ou desempenho de hardware mais recente.
O resultado interessante é a estratégia de alocação. A máquina tenta preservar maior fidelidade ao longo de caminhos computacionais frequentemente percorridos, enquanto mantém cobertura comprimida em outros pontos. Se isso permanece eficaz fora do tráfego medido é uma questão para testes adicionais.
Melhor concordância com a referência não estabelece melhores respostas jurídicas
Um comportamento numérico mais próximo é evidência sobre a implementação, enquanto a utilidade jurídica exige uma avaliação separada.
O cartão de modelo público do projeto relata concordância de 95,1% no próximo token com sua referência NVFP4, em comparação com 92,2% na configuração comprimida anterior. Isso mede se ambas as implementações selecionam o mesmo próximo fragmento de texto nas condições de comparação. Não significa que qualquer um dos sistemas responda corretamente a questões jurídicas nessas taxas.
A documentação também contém uma correção posterior de configuração. Uma atualização de 13 de novembro reduziu o padrão de dois slots de 5.949 para 5.936 especialistas NVFP4 após aumentar a memória reservada. O mesmo pacote de precisão mista distingue testes anteriores de concordância de opções posteriores de serviço cuja qualidade não havia sido estabelecida. O limite de contexto documentado é de 524.288 tokens, isto é, a capacidade máxima configurada de entrada e saída para uma solicitação.
Esses detalhes evitam vários atalhos tentadores. Concordância com uma referência não é concordância com os documentos subjacentes. Um modelo de referência pode cometer um erro factual, e uma implementação mais fiel pode reproduzir esse erro.
Da mesma forma, uma divergência não necessariamente produz uma resposta pior. Redações diferentes podem preservar o mesmo significado. Uma pequena diferença numérica também pode alterar uma ressalva crítica. A consequência depende da tarefa e da saída, não simplesmente do número de tokens correspondentes.
Para um DeepSeek legal workflow, a avaliação deve, portanto, começar com produtos de trabalho concluídos. A saída preservou a distinção entre uma alegação e um fato estabelecido? Ela vinculou uma conclusão ao documento correto? Manteve a incerteza quando a evidência permaneceu incompleta?
Esses são exemplos de perguntas relevantes, não conclusões de uma avaliação independente deste servidor. Eles ilustram por que uma comparação numérica não pode substituir a revisão da tarefa.
Um contexto configurado longo também exige interpretação cuidadosa. A capacidade informa aos usuários quanto material o sistema aceita sob suas configurações. Ela não certifica que cada detalhe relevante permaneça acessível ou corretamente conectado ao longo da resposta.
Imagine uma cronologia inicial montada a partir de um arquivo de caso. O resultado valioso é uma sequência utilizável com material de apoio rastreável. Um servidor pode processar o arquivo com sucesso e ainda assim omitir um evento importante. Ele também pode gerar texto fluente que exige correção substancial.
A pressão prática recai sobre quem mantém o fluxo de trabalho. Maior fidelidade numérica cria um motivo para retestar a aplicação, e não para remover a revisão. O acompanhamento mais útil compararia as saídas antes e depois da atualização usando os mesmos documentos e critérios de avaliação.
Essa comparação conectaria a mudança de engenharia ao motivo de existência da máquina. Até lá, as evidências sustentam um comportamento mais próximo da referência dentro dos testes publicados. Elas não sustentam uma melhoria quantificada na precisão jurídica.
A velocidade depende de qual configuração e carga de trabalho você mede
Os resultados públicos descrevem várias configurações, portanto combinar seus melhores números criaria um servidor que nunca foi realmente testado.
O repositório posterior do projeto documenta uma configuração final de 13 de novembro com saída de código de aproximadamente 143–175 tokens por segundo. Ele lista 176,2 tokens por segundo em agregado com três solicitações simultâneas, em comparação com os 192,3 relatados anteriormente. Seu teste posterior também alcançou o primeiro token após um prompt de 256K em 86,7 segundos, contra 108,4 na execução anterior.
Os detalhes de configuração do benchmark revelam diferentes configurações de energia entre essas execuções. Eles também alertam que a qualidade não foi estabelecida para todos os perfis de slot. Um slot é a capacidade de atendimento reservada para o estado de uma solicitação. Essas continuam sendo medições relatadas pelo desenvolvedor, e não benchmarks reproduzidos de forma independente.
Essa divulgação muda a forma como a atualização deve ser descrita. Os números principais anteriores continuam úteis como resultados datados. Eles não devem se tornar especificações permanentes para todas as revisões posteriores.
A vazão agregada também precisa de um denominador explícito. Ela contabiliza toda a saída entre solicitações durante o intervalo medido. Não informa a um usuário individual que sua própria resposta chegará nessa taxa combinada.
Para um escritório, a distinção é prática. Várias tarefas em segundo plano podem se beneficiar de uma produção combinada maior. Um advogado que espera por uma resposta específica se importa com o tempo de conclusão daquela solicitação. Uma configuração pode melhorar a utilização compartilhada enquanto torna cada sessão ativa mais lenta.
O processamento de prompts introduz outra distinção. O prefill é o estágio inicial que processa a entrada antes de a geração começar. Um documento longo pode gerar uma espera perceptível antes da primeira resposta visível, mesmo quando a saída posterior chega rapidamente.
Isso importa para o trabalho interativo. Um usuário pode tolerar uma espera mais longa por uma análise abrangente de documentos do que por uma pergunta curta de acompanhamento. Uma avaliação que reúne ambos em um único número de velocidade esconde a diferença.
Comparações com Claude ou outro assistente hospedado exigem a mesma disciplina. Mermiges descreve a migração do trabalho de uma estrutura baseada em Claude para seu sistema local. Esse relato estabelece sua motivação e experiência, em vez de uma comparação controlada entre serviços.
Uma avaliação justa manteria constantes a tarefa, o material de origem, a saída esperada e o padrão de revisão. Ela também incluiria tempo de espera e correções. Caso contrário, a comparação corre o risco de medir fluxos de trabalho diferentes sob um rótulo comum.
A geração mais lenta do servidor DeepSeek V100 é, portanto, uma troca real, mas precisa do enquadramento correto. A questão central é se uma fidelidade maior reduz trabalho de correção o suficiente para justificar a espera e a manutenção adicionais.
As taxas de saída publicadas não podem responder isso sozinhas. Elas ajudam a identificar a fronteira entre uma implementação viável e uma aplicação cujo valor completo ainda precisa ser medido.
Confiabilidade e controle local trazem sua própria carga de trabalho
A melhoria de estabilidade relatada pelo construtor é encorajadora, mas a suspeita sobre a causa no hardware continua sendo um diagnóstico, e não uma conclusão comprovada.
Mermiges relata que as falhas pararam após mudanças na alimentação elétrica. Seu relato descreve nove conversas longas bem-sucedidas depois disso e identifica uma fonte de alimentação possivelmente defeituosa como causa suspeita. Erros anteriores haviam apontado para PCIe, o sistema de conexão que interliga componentes de hardware. A distinção entre essas observações e uma causa raiz confirmada deve continuar visível.
O mesmo relato diz que a RTX 3090 foi instalada fisicamente, enquanto a transferência do pequeno modelo de rascunho para ela permanecia inacabada. Um modelo de rascunho propõe texto candidato que outro modelo verifica, um método conhecido como decodificação especulativa. Sua alocação planejada é uma mudança futura de software, e não uma explicação estabelecida para os resultados existentes.
Juntos, esses detalhes mostram por que um sistema local funcional envolve mais do que encaixar os pesos do modelo na memória. Diagnóstico de hardware, gestão de configuração e integração de software consomem esforço mesmo quando a velocidade de geração parece adequada.
Uma sequência de sessões bem-sucedidas sustenta a afirmação de que o comportamento observado melhorou. Ela não isola o componente que falhou. Várias mudanças feitas no mesmo período podem dificultar a atribuição.
Essa incerteza é normal em um projeto pessoal em evolução. Ela se torna mais relevante quando alguém trata o projeto como um modelo para infraestrutura confiável de escritório. Outro construtor precisa de documentação suficiente para distinguir uma correção transferível de uma melhoria específica daquela máquina.
O controle local levanta uma distinção relacionada. Mermiges afirma que os documentos de seus casos permanecem em seu escritório. Isso descreve sua operação pretendida e sua prática relatada. Não é uma auditoria independente do tratamento de dados do sistema.
Uma organização que avalie uma abordagem semelhante ainda precisaria entender onde ficam documentos, logs, backups e acessos administrativos. Essas são questões de implantação, e não evidências de uma falha nesta máquina específica. O relato disponível não estabelece uma resposta completa.
A comparação com serviços hospedados, portanto, envolve responsabilidade e localização. Operar hardware localmente dá ao proprietário controle direto sobre muitas decisões. Também concentra mais trabalho de manutenção e solução de problemas nesse proprietário.
Um serviço gerenciado distribui essas responsabilidades de outra forma. Nenhuma das modalidades estabelece automaticamente melhor qualidade de saída, acesso adequado ou menor esforço total. Esses julgamentos exigem evidências sobre o sistema real e seu uso.
O fluxo de trabalho de conhecimento ao redor continua relevante, qualquer que seja a implantação vencedora. Uma base de conhecimento pesquisável aborda a tarefa relacionada de organizar o material de origem para recuperação. Ela não pode substituir a avaliação do modelo nem verificar as alegações de privacidade de uma instalação separada.
Para o fluxo de trabalho jurídico do DeepSeek, a questão exigente é se o controle local produz acesso confiável a trabalho útil. Isso requer um processo operacional repetível ao lado do trabalho de otimização. Uma demonstração bem-sucedida e um serviço diário sustentável são conquistas relacionadas, mas exigem evidências diferentes.
Três acompanhamentos determinarão até onde isso pode chegar
A próxima atualização útil deve conectar as melhorias de engenharia a um comportamento reproduzível, em vez de acrescentar outra velocidade máxima isolada.
Primeiro, acompanhe uma avaliação unificada da configuração de atendimento atual. A evidência mais forte combinaria cobertura de roteamento medida, concordância com referências, latência e qualidade de tarefas concluídas na mesma versão. Isso reduziria a necessidade de conciliar números coletados sob configurações diferentes.
Esse sinal fortaleceria a alegação central do projeto se o padrão atual mantivesse um comportamento mais próximo das referências durante o uso representativo. Ele enfraqueceria o alcance prático da alegação se a fidelidade caísse acentuadamente com tráfego desconhecido ou solicitações adicionais. Qualquer resultado seria mais informativo do que outra taxa máxima de saída.
As comparações de tarefas mais valiosas preservariam os documentos de entrada e os critérios de pontuação. Exemplos públicos podem apoiar a reprodutibilidade sem expor arquivos privados de casos. Eles também permitiriam que outros usuários analisassem se os testes escolhidos se parecem com seu próprio trabalho.
Segundo, acompanhe a conclusão da transferência do modelo de rascunho para a RTX 3090, seguida por uma medição controlada de antes e depois. Instalar um processador estabelece disponibilidade. Demonstrar sua contribuição exige mostrar o que mudou no sistema em execução.
Um resultado útil explicaria se a transferência liberou memória, mudou o tempo de espera, afetou solicitações simultâneas ou introduziu nova instabilidade. A comparação precisa da mesma carga de trabalho e de uma configuração claramente identificada. Sem esses controles, uma melhoria poderia vir de outra revisão de software.
Esse sinal fortaleceria a estratégia de alocação se o processador adicional criasse margem utilizável enquanto preservasse o comportamento da saída. Ele enfraqueceria o benefício esperado se a sobrecarga de integração eliminasse os ganhos. O resultado importa porque o papel proposto continua fazendo parte do trabalho inacabado do projeto.
Terceiro, acompanhe a operação sustentada e a reprodução fora da máquina do próprio construtor. Uma tentativa independente testaria se a configuração documentada se transfere para outra instalação. Uma operação mais longa também forneceria melhores evidências sobre a melhoria de estabilidade.
A reprodução não precisa corresponder exatamente a todos os números para ser útil. Diferenças de hardware e configurações podem explicar parte da variação. A pergunta importante é se outro operador consegue entender essas diferenças e obter um resultado confiável.
Esse sinal fortaleceria o argumento para adoção mais ampla se as instruções produzissem comportamento comparável sem intervenção extensa e não documentada. Ele restringiria o argumento se o sucesso continuasse a depender de conhecimento específico da máquina. Isso ainda deixaria um experimento valioso, mas uma solução de escritório menos transferível.
A questão mais profunda é quem pode arcar com a atenção necessária para operar essa abordagem. Desenvolvedores ganham um exemplo concreto de otimização. Compradores empresariais ganham perguntas a fazer sobre avaliação e manutenção. Trabalhadores do conhecimento recebem um lembrete de que execução local, fidelidade numérica e respostas úteis exigem evidências separadas.
O servidor DeepSeek V100 merece atenção porque seu construtor documentou um compromisso deliberado e expôs vários limites ao longo do caminho. Ele oferece aos leitores algo mais útil do que a afirmação de que hardware mais antigo pode executar um modelo grande. Mostra como a escolha de uma carga de trabalho muda o que cabe, o que funciona mais rápido e o que permanece incerto.
Antes de tratar esta configuração como modelo para seu próprio trabalho, examine as medições vinculadas à configuração que você realmente usaria. Separe concordância com referências de precisão em tarefas, vazão combinada de tempo de espera pessoal e atualizações planejadas de mudanças concluídas. Peça exemplos com material de origem rastreável e requisitos de revisão visíveis. Compare todo o fluxo de trabalho com seu processo atual, incluindo o esforço gasto em correções e manutenção. A próxima pergunta útil não é simplesmente se este servidor consegue gerar texto localmente. Que evidência mostraria que sua maior precisão ajuda você a concluir um trabalho confiável?



