DeepSeek V4.1 Flash funciona con 12 V100, afirma su creador
DeepSeek V4.1 Flash ahora ejecuta todos los expertos enrutados en doce tarjetas Nvidia V100 usadas, según el abogado y constructor de servidores Nick Mermiges. Su informe del 20 de noviembre de 2026 señala que la generación de código alcanza 184 tokens por segundo. La afirmación contrapone hardware de servidor antiguo con resultados publicados de DGX Spark, aunque las comparaciones utilizan software y representaciones del modelo distintos.
La actualización amplía su anterior máquina de ocho tarjetas. El cambio central es la capacidad de memoria: cada experto puede permanecer en las tarjetas gráficas sin compresión adicional ni transferencias desde la memoria del sistema. Para alguien que consulta repetidamente documentos extensos, esto modifica el equilibrio entre tiempo de espera, complejidad del hardware y mantener el trabajo dentro de una oficina.
Siguen siendo mediciones publicadas por el constructor, sin replicación independiente establecida en las fuentes revisadas. También describen una competencia más limitada que el rendimiento general de IA. Una máquina que responde rápidamente a una persona no sirve automáticamente a un equipo de forma eficiente, produce mejores respuestas ni ofrece menores costes operativos.
DeepSeek V4.1 Flash supera el umbral de memoria
La mejora decisiva consiste en alojar todos los expertos enrutados en la memoria gráfica con la representación seleccionada de cuatro bits.
Mermiges describe doce tarjetas V100-SXM2 distribuidas en tres placas, con cuatro tarjetas por placa. Cada tarjeta cuenta con 32 GB de memoria. Su configuración anterior de ocho tarjetas no tenía suficiente capacidad utilizable para la colección completa de expertos en el formato seleccionado por Nvidia.
Un experto es un grupo especializado de parámetros que el modelo selecciona durante el procesamiento. Mantener disponibles todos los expertos no implica activar todos para cada token. Significa que el servidor evita el compromiso concreto de almacenar algunos expertos en otro lugar o comprimirlos aún más.
Según la arquitectura de doce tarjetas del constructor, los 15.360 expertos enrutados ocupan la memoria de las tarjetas. La colección de expertos requiere 278,9 GiB en la representación seleccionada. GiB mide la memoria mediante unidades binarias, por lo que los lectores deben evitar compararla directamente con cifras de capacidad etiquetadas de otra manera.
Esta distinción hace que la historia sea más específica que la de otro entusiasta añadiendo tarjetas gráficas. La placa adicional cruza un límite de capacidad. La optimización de software por sí sola no puede crear el almacenamiento que falta, incluso cuando mejora la eficiencia con la que se utiliza la memoria existente.
La afirmación también necesita un límite preciso en torno a la palabra “todos”. Mermiges informa de que todos los expertos enrutados están en NVFP4, la representación compacta de coma flotante de cuatro bits de Nvidia. Su documentación identifica representaciones distintas para otros componentes del modelo. Describir todo el modelo como almacenado o calculado uniformemente con precisión de cuatro bits exageraría ese informe.
Para quienes evalúan IA privada, la pregunta importante es qué elimina este cambio de memoria de la ruta de trabajo. Si una solicitud necesita un experto almacenado fuera de la memoria de la tarjeta, mover esos datos introduce otra dependencia. Una compresión adicional introduce un compromiso diferente que requiere su propia evaluación de calidad.
Ninguno de los dos compromisos hace automáticamente que un sistema sea inadecuado. Su importancia depende de la aplicación, la latencia aceptable y la evidencia sobre la calidad de las respuestas. Mermiges eligió hardware adicional porque quería que la representación seleccionada de los expertos residiera en las tarjetas.
Esa decisión perfila la comparación principal de esta historia: un sistema personalizado optimizado para la carga de trabajo de una persona frente a sistemas compactos que atienden necesidades más amplias. No establece que añadir hardware sea siempre la mejor respuesta.
Por tanto, la actualización debe juzgarse como una configuración diferenciada. Los resultados de la máquina anterior de ocho tarjetas no describen automáticamente esta versión de doce tarjetas. A la inversa, no todas las mejoras pueden atribuirse a la capacidad cuando también cambiaron el software y los ajustes operativos.
Para un evaluador independiente, esa es la primera línea divisoria útil. Verifique qué reside en memoria antes de interpretar las cifras de velocidad. De lo contrario, dos implementaciones de modelo aparentemente similares pueden representar compromisos significativamente distintos.
La ganancia práctica es menos espera ante los documentos
Para el trabajo con documentos, la demora antes de que empiece una respuesta puede importar más que el titular sobre la generación más rápida.
Mermiges publicó sus mediciones principales como pruebas del 19 de noviembre, con el razonamiento desactivado y 1.024 tokens de salida solicitados. Los tokens son las unidades de texto que un modelo procesa y genera. Las cifras informadas promedian dos ejecuciones, lo que las convierte en un conjunto de mediciones inicial y no en un estudio estadístico amplio.
Sus mediciones de latencia de documentos indican que una solicitud de código de 128K empieza a responder tras aproximadamente 28,1 segundos. Con ese documento ya almacenado en caché, la espera informada cae a aproximadamente 0,4 segundos. Una caché conserva el estado de procesamiento reutilizable del material que el sistema ya ha leído.
Estas cifras describen situaciones distintas. La espera más corta no significa que la máquina lea un documento nuevo casi al instante. Significa que una solicitud posterior puede reutilizar trabajo, siempre que la caché siga disponible y la solicitud coincida con contenido reutilizable.
Esa diferencia importa en el flujo de trabajo que describe Mermiges: análisis privado de primera pasada de sus propios expedientes. Un profesional suele volver al mismo material con preguntas sucesivas. Pagar repetidamente toda la demora de procesamiento documental interrumpiría esa interacción, incluso si la respuesta final apareciera rápidamente.
Considere una secuencia hipotética con una extensa colección de contratos. La primera solicitud pregunta por obligaciones, la siguiente por excepciones y otra pide pasajes de apoyo. Si cada solicitud reutiliza el estado del documento, el usuario experimenta una herramienta distinta de una que vuelve a empezar desde cero cada vez.
Esta es una interpretación del flujo de trabajo, no un resultado medido de productividad jurídica. El tiempo publicado no establece cuánto tiempo profesional ahorra el sistema. Leer las respuestas, verificar referencias y corregir errores siguen formando parte del trabajo.
La distinción entre el procesamiento inicial y la generación de respuestas también evita un malentendido habitual sobre los benchmarks. El prefill es el procesamiento inicial de una solicitud de entrada. La decodificación es la generación posterior de tokens de salida. Un sistema puede sobresalir en cualquiera de las dos etapas sin liderar en ambas.
La cobertura de la actualización del servidor de Tom’s Hardware identifica la reducción de la espera hasta el primer token como una mejora central respecto a la compilación anterior. Informa de que una solicitud de código de 256K baja de 108,4 segundos a aproximadamente 58 segundos. Esa comparación coincide con cambios en los ajustes de energía y el software, lo que limita las explicaciones simples.
Para los desarrolladores de aplicaciones documentales, la lección es examinar toda la interacción. Una demostración breve puede ocultar la carga inicial del documento. Una prueba de arranque en frío puede pasar por alto los beneficios del trabajo repetido sobre material sin cambios.
Por tanto, la presión sobre los sistemas competidores es específica. Los compradores necesitan mediciones de latencia que se parezcan a sesiones reales, incluidos documentos nuevos y preguntas de seguimiento. Una única tasa máxima de generación deja sin explicar demasiada parte de la experiencia de usuario.
Las V100 antiguas ahorran tráfico de memoria, no matemáticas de cuatro bits
La velocidad informada de la configuración depende del software y del movimiento de datos, pese a que las tarjetas carecen de hardware nativo para cálculos de cuatro bits.
La V100 no adquiere capacidades aritméticas más nuevas porque un modelo utilice almacenamiento NVFP4. Mermiges explica que los valores de expertos almacenados se descomprimen a FP16, un formato de coma flotante de dieciséis bits, antes del cálculo correspondiente. La representación compacta reduce los bytes leídos; no crea ejecución nativa de FP4.
La documentación del modelo NVFP4 de Nvidia proporciona la referencia para el paquete de expertos seleccionado. Esto establece un artefacto de modelo identificable para que los investigadores lo examinen. No valida de forma independiente la implementación, el rendimiento ni la calidad de aplicación de este servidor.
Este mecanismo ayuda a explicar por qué un acelerador antiguo puede seguir siendo útil para un formato de modelo más nuevo. El almacenamiento y la aritmética son decisiones separadas. Un procesador puede beneficiarse de leer menos datos incluso cuando el software debe convertirlos antes del cálculo.
Existe un límite correspondiente para la inferencia. La reducción del tráfico de memoria no elimina la sobrecarga de conversión, la sobrecarga de comunicación ni las diferencias de eficiencia energética. La misma técnica puede crear una implementación útil sin hacer que la arquitectura antigua sea equivalente al hardware más reciente.
La disposición física añade otra capa. Mermiges divide el modelo en tres etapas de canalización, lo que significa que grupos sucesivos de capas se ejecutan en grupos de tarjetas separados. Dentro de cada grupo, el paralelismo tensorial divide los cálculos entre cuatro tarjetas. Ambas técnicas distribuyen el trabajo, pero introducen requisitos de comunicación y planificación.
NVLink, la conexión de Nvidia entre aceleradores compatibles, conecta las tarjetas dentro de cada placa. Las transferencias entre placas siguen una ruta distinta a través de la infraestructura de expansión del host. Esto convierte la topología en parte del resultado, en lugar de un detalle incidental bajo el recuento de tarjetas.
Para alguien que evalúa la reproducibilidad, “doce V100” es, por tanto, una especificación incompleta. La disposición, las modificaciones del motor, la asignación de memoria y los ajustes operativos forman parte de la configuración. Otra máquina con el mismo número de tarjetas no tiene por qué producir los mismos tiempos.
El esfuerzo de software también cambia el significado de la asequibilidad. Un componente usado puede tener un coste de adquisición atractivo y, al mismo tiempo, exigir un trabajo de integración considerable. Que ese trabajo merezca la pena depende de las habilidades del propietario, el tiempo disponible y la tolerancia al mantenimiento.
Este es un análisis de la decisión de implementación, no una comparación medida de horas de ingeniería. La evidencia publicada no asigna un coste laboral completo a la configuración. Los lectores deben resistirse a tratar un total de equipamiento como un presupuesto de adquisición terminado.
Para el mercado más amplio de IA privada, el desafío interesante es práctico. El hardware antiguo puede seguir siendo competitivo para tareas seleccionadas cuando los desarrolladores se dirigen al cuello de botella real. Los proveedores de sistemas más nuevos aún deben explicar qué obtienen los compradores en eficiencia, soporte, fiabilidad y cobertura de cargas de trabajo más amplia.
DeepSeek V4.1 Flash proporciona la carga de trabajo en este ejemplo. El principio de ingeniería más amplio consiste en identificar qué recurso limita una implementación concreta antes de asumir que el acelerador más reciente determina la mejor experiencia.
La comparación con DGX Spark tiene un alcance limitado
La ventaja informada se refiere a resultados seleccionados de decodificación de solicitudes individuales, no a una clasificación controlada de sistemas completos de IA.
La comparación de solicitudes individuales de Mermiges sitúa su máquina junto a configuraciones publicadas de DGX Spark de tres y cuatro unidades. Señala explícitamente que esos sistemas utilizan sus propios motores y pesos. Esa salvedad debe acompañar a la afirmación, porque el software y la representación del modelo afectan al resultado.
Según se informa, su máquina de doce tarjetas genera código a entre 157 y 184 tokens por segundo en contextos de 1K a 128K. El texto jurídico alcanza entre 92 y 102 tokens por segundo, mientras que la prosa llega a entre 83 y 95. La diferencia entre categorías de contenido ya muestra por qué la cifra máxima necesita contexto.
La comparación del creador también reconoce mejores resultados de Spark en algunas pruebas de procesamiento de prompts y ventajas a medida que las cargas de servicio se vuelven más concurrentes. Estas concesiones acotan considerablemente la historia. Describen fortalezas de sistema distintas, no un ganador universal.
Una persona que espera una respuesta tiene un objetivo distinto al de una organización que atiende solicitudes simultáneas. El individuo valora la rapidez con la que termina la tarea actual. Una organización también debe considerar las colas, la equidad entre usuarios, el rendimiento sostenido y el comportamiento durante picos de demanda.
El procesamiento por lotes combina trabajo de múltiples solicitudes para mejorar el uso de recursos. Sus beneficios dependen de un motor de servicio diseñado para aprovechar esa carga de trabajo. Una máquina optimizada en torno a una interacción secuencial concreta no se convierte automáticamente en un servicio compartido de alta capacidad.
Eso hace que “V100 vs DGX Spark” sea una pregunta útil solo después de especificar el trabajo. ¿La comparación trata sobre empezar una respuesta, terminarla o gestionar usuarios simultáneos? ¿Implica documentos nuevos o documentos en caché? ¿Son equivalentes los requisitos de calidad de salida?
Estas preguntas también importan para los agentes de IA, aplicaciones que alternan respuestas del modelo con acciones o llamadas a herramientas. Algunas interacciones tienen dependencias secuenciales que impiden agrupar simplemente cada paso en lotes. Otras aplicaciones generan suficiente trabajo independiente para mantener ocupado a un servidor compartido.
La evidencia revisada no mide todas esas aplicaciones. Aplicar el benchmark a flujos de trabajo de agentes sigue siendo una hipótesis que requiere pruebas directas. Un resultado de generación de código por sí solo no puede demostrar una finalización más rápida de una tarea completa de desarrollo.
Una comparación adecuada entre V100 y DGX Spark preservaría los prompts, los artefactos del modelo, los ajustes de generación y los límites de medición siempre que fuera posible. Cuando las configuraciones deban diferir, el evaluador debería explicar por qué. De lo contrario, la prueba compara sistemas de software ensamblados sin aislar la contribución del hardware.
Esto no hace que las cifras publicadas carezcan de sentido. Identifican una implementación que merece investigación y ofrecen a otros creadores un objetivo concreto. También cuestionan las suposiciones simplistas de que la antigüedad del producto por sí sola predice la capacidad de respuesta.
Sin embargo, los resultados disponibles no establecen una superioridad de compra. Un comprador que elige un sistema necesita evidencia que cubra su carga de trabajo real. La presión relevante sobre las configuraciones Spark es demostrar sus fortalezas en condiciones equiparadas, en lugar de responder a un titular con otro titular no equiparable.
La energía, la privacidad y la calidad siguen siendo pruebas independientes
La generación local rápida responde solo a una parte de la cuestión que un comprador profesional necesita resolver.
Los requisitos operativos de la máquina son considerables. Mermiges afirma que las tarjetas pueden consumir hasta 2.100 vatios bajo sus límites de 175 vatios, sin incluir otros componentes del sistema. También describe ruido y una ubicación alejada de espacios de trabajo ocupados.
Eso crea una limitación práctica evidente. Un servidor puede ser útil para trabajo privado y, aun así, no ser adecuado junto a un escritorio. El espacio, la refrigeración, la capacidad eléctrica y el mantenimiento continuo deben formar parte de la evaluación junto con la capacidad de respuesta.
Su argumento sobre el coste de adquisición también necesita una interpretación cuidadosa. El cálculo principal refleja lo que pagó por componentes usados a lo largo del tiempo. Por separado, ofrece una estimación más alta para adquirir el hardware a precios actuales. Las compras históricas no establecen lo que otro comprador puede reproducir.
Ninguno de los totales por sí solo resuelve la economía de propiedad. Una comparación requeriría un tratamiento coherente de los equipos auxiliares, la instalación, la energía, el mantenimiento y el tiempo de inactividad. El material revisado no establece una ventaja estandarizada de coste de propiedad que cubra todos esos factores.
La privacidad requiere un límite igual de preciso. Mermiges afirma que los documentos de sus casos permanecen dentro de su oficina mientras utiliza el servidor local. Es una declaración del operador sobre su configuración. No constituye evidencia independiente de que cada configuración comparable mantenga local cada categoría de datos.
Una organización aún tendría que inspeccionar el comportamiento de la aplicación circundante. Los registros, las integraciones, las copias de seguridad y el acceso administrativo pueden importar incluso cuando la inferencia del modelo se ejecuta en las instalaciones. Son cuestiones de evaluación, no acusaciones sobre esta máquina en particular.
La distinción se vuelve especialmente importante cuando una interfaz conocida se conecta a un backend diferente. Cambiar el endpoint del modelo no documenta por sí mismo el comportamiento de cada servicio circundante. La evidencia revisada no proporciona una auditoría completa de ese entorno más amplio.
La calidad de las respuestas es otra cuestión independiente. Mantener expertos en una representación seleccionada reduce un compromiso concreto de compresión. No establece que las respuestas generadas sean correctas, estén suficientemente fundamentadas o sean adecuadas para uso profesional.
Del mismo modo, las comprobaciones numéricas frente a otra configuración no sustituyen la evaluación en tareas realistas. Un sistema puede preservar el comportamiento computacional esperado y aun así producir una interpretación incorrecta. Una respuesta rápida aporta poco valor cuando verificarla exige más esfuerzo que realizar la tarea original.
Para los usuarios de documentos, la organización de la información también sigue siendo distinta de la velocidad del modelo. Una base de conocimiento con capacidad de búsqueda aborda cómo el material queda disponible para su recuperación. No valida por sí misma un modelo subyacente ni establece las propiedades de privacidad de este servidor.
Por tanto, la evidencia respalda decisiones separadas. Evalúe la capacidad de respuesta, el ajuste operativo, el manejo de datos y la calidad de las tareas según sus propios términos. Combinarlos bajo una única etiqueta de “IA privada” ocultaría las cuestiones que más importan.
Tres resultados harían la afirmación más útil
La replicación independiente, las pruebas de servicio realistas y la evidencia de calidad de las tareas deberían determinar hasta dónde trasciende este resultado una sola oficina.
La primera señal que conviene observar es la reproducción independiente de las bandas de latencia y generación reportadas. Otro operador debería identificar los artefactos exactos del modelo, la versión del motor, la topología de hardware y los límites operativos. Igualar esos detalles haría que la coincidencia fuera más significativa.
Las pruebas con documentos nuevos y documentos en caché deberían mantenerse separadas. Informar de ambas aclararía si la replicación confirma el procesamiento inicial, la capacidad de respuesta de seguimiento o ambos. Los resultados también deberían distinguir entre código, material jurídico y prosa, en lugar de tratar la categoría más rápida como representativa.
Una reproducción satisfactoria reforzaría la confianza en que la configuración ofrece una ventaja repetible para la carga de trabajo declarada. Resultados materialmente distintos no desacreditarían automáticamente al creador. Identificarían dependencias que el relato público actual no ha aislado por completo.
La reproducción también exige atención a lo que está disponible públicamente. El repositorio describe cambios en el motor y mediciones, al tiempo que identifica componentes que no se distribuyen como un paquete completo listo para lanzar. Eso limita la facilidad con la que otro operador puede reproducir el entorno exacto.
La segunda señal es una comparación realista de servicio concurrente. La prueba útil seguiría las solicitudes desde su llegada hasta su finalización, incluido el tiempo de espera. Las tasas de generación sumadas por sí solas pueden pasar por alto retrasos introducidos antes de que comience la generación.
Un ejercicio equiparado debería incluir a un profesional trabajando solo y a un grupo pequeño compartiendo el servidor. Debería preservar requisitos equivalentes de documentos y resultados. Eso revelaría dónde la configuración personalizada sigue siendo ágil y dónde otro enfoque de servicio se vuelve preferible.
Si el trabajo de procesamiento por lotes más reciente mejora el uso compartido sin perjudicar la latencia de solicitudes individuales, el alcance práctico de la configuración se ampliaría. Si la concurrencia introduce una espera considerable, el posicionamiento original para usuarios individuales seguiría siendo la interpretación más defendible.
La tercera señal es evidencia de calidad de tareas vinculada a documentos representativos. Las mediciones de velocidad deberían acompañarse de evaluaciones de la corrección de las respuestas, la evidencia de respaldo y las omisiones. Esas evaluaciones necesitan criterios claramente establecidos, en lugar de impresiones de que un modelo parece comparable a otro producto.
Para trabajo jurídico privado, una evaluación útil comprobaría si las respuestas representan con precisión el material proporcionado e identifican los pasajes pertinentes. Principios similares se aplican a registros de ingeniería o investigación interna. Las tareas exactas deberían reflejar a los usuarios previstos, en lugar de una demostración conveniente.
Resultados sólidos de calidad respaldarían debates sobre una adopción más amplia. Resultados débiles limitarían el valor de la ventaja de velocidad, incluso si se reprodujera cada medición temporal. El rendimiento del hardware y la utilidad profesional se solapan, pero no son intercambiables.
DeepSeek V4.1 Flash en doce V100 es, por tanto, un resultado específico reportado que merece ser probado. Sugiere que hardware antiguo cuidadosamente dispuesto puede seguir siendo relevante cuando la capacidad de memoria y la capacidad de respuesta individual dominan la carga de trabajo. No resuelve la competencia más amplia entre servidores personalizados y sistemas de IA compactos.
Antes de tratar esta máquina como una plantilla de compra, pida ver la carga de trabajo que se parezca a la suya. Examine la espera con documentos en frío, las preguntas repetidas, la calidad de salida y el comportamiento cuando otra persona empieza a trabajar. Compare la carga de mantenimiento con el valor de mantener ese flujo de trabajo local. Después, examine la evidencia detrás de cada ventaja declarada, incluidas las partes que otro operador realmente puede reproducir. La siguiente pregunta útil no es simplemente si doce tarjetas antiguas pueden ejecutar el modelo. Es si una configuración reproducida de forma independiente puede ofrecer respuestas fiables, requisitos operativos aceptables y una capacidad de respuesta constante para el trabajo que necesita completar.



