Nvidia Vera en OCI lleva las CPU independientes a competir con Xeon
Nvidia Vera en OCI ofrece a los clientes de Oracle una opción de CPU independiente, mientras que pruebas separadas informan de más del doble del ancho de banda de memoria de un servidor Xeon dual. Nvidia y Oracle anunciaron la disponibilidad general el 27 de octubre, junto con planes para ampliar su infraestructura de IA a una escala de varios gigavatios. La distinción es importante: los procesadores están disponibles de forma independiente, mientras que la expansión sigue siendo un plan.
El benchmark pertenece a Tom’s Hardware, que probó un servidor Vera independiente en lugar de Oracle Cloud Infrastructure, u OCI. Aporta evidencia sobre las capacidades del procesador, sin establecer el rendimiento de una instancia de Oracle. Este artículo analiza esa evidencia publicada; no presenta pruebas de hardware originales.
La cuestión competitiva se refiere al trabajo que se ejecuta entre las respuestas de los modelos de IA. Los procesadores Intel Xeon y AMD EPYC ya gestionan esos servicios en la infraestructura empresarial. La decisión de Oracle ofrece a Nvidia otra vía de entrada a ese mercado, donde el movimiento de memoria y la ejecución de aplicaciones se convierten en criterios de compra junto con la compatibilidad de los procesadores.
Nvidia Vera en OCI separa la capacidad de CPU de las compras de GPU
Oracle ofrece Vera como capacidad informática desplegable de forma independiente, otorgando al procesador una función más allá de alojar aceleradores de Nvidia.
Una CPU, o unidad central de procesamiento, ejecuta instrucciones de aplicaciones y gestiona tareas informáticas generales. Una GPU, o unidad de procesamiento gráfico, ejecuta cargas de trabajo paralelas utilizadas habitualmente para entrenar y operar modelos de IA. Estos recursos respaldan distintas etapas de una aplicación de IA, incluso cuando los clientes los compran juntos.
El anuncio de despliegue de CPU independientes de las empresas describe explícitamente que los clientes pueden escalar los recursos de CPU y GPU de forma independiente. Esto crea una opción práctica para las organizaciones cuyo software necesita más procesamiento de aplicaciones sin un incremento correspondiente de la capacidad de los modelos.
Vera Rubin NVL72 es la configuración de rack más grande anunciada junto con las CPU. Conecta 72 GPU mediante NVLink, la interconexión de Nvidia para la comunicación entre procesadores. Los servicios Vera independientes responden a otra decisión de compra: dónde ejecutar el software que rodea a esos modelos.
Pensemos en un asistente de programación ilustrativo. Un modelo propone un cambio, un servicio de ejecución lo prueba y la aplicación devuelve resultados para otra respuesta del modelo. El servicio de pruebas consume recursos de CPU aunque el propio modelo se ejecute en otro lugar.
Un cliente podría necesitar capacidad de ejecución adicional durante los periodos de mayor actividad mientras su servicio de modelos todavía tiene margen. Comprar esos recursos por separado crea la oportunidad de ajustar la infraestructura más estrechamente a la demanda. Que esto mejore la eficiencia depende del uso real de recursos de la aplicación.
El anuncio de disponibilidad de Oracle también debe diferenciarse de la expansión física prevista. La escala de varios gigavatios describe la construcción de infraestructura prevista, en lugar de medir la capacidad Vera independiente que está funcionando actualmente. No establece cuánto equipamiento pueden reservar los clientes de inmediato.
Esta distinción cambia la forma en que los compradores deben interpretar la noticia. La disponibilidad general establece una oferta comercial, mientras que la escala de despliegue se refiere al suministro, la construcción y la adopción por parte de los clientes. Ninguna de las dos expresiones, por sí sola, establece el rendimiento de las aplicaciones.
La oferta independiente también cambia la relación de Nvidia con los clientes potenciales. Un equipo puede evaluar su CPU para un servicio sin decidir primero desplegar un sistema Rubin completo. El procesador debe entonces justificarse mediante los requisitos propios del servicio.
Esto crea una comparación más exigente que una decisión de añadir un acelerador. Los compradores pueden preguntarse si Vera gestiona su aplicación mejor que la infraestructura existente, incluidas las cargas de trabajo que nunca se comunican directamente con las GPU Rubin.
La competencia resultante se centra en una pregunta empresarial conocida: ¿qué configuración de servidor realiza el trabajo necesario con un esfuerzo operativo aceptable? El posicionamiento de Nvidia en IA atrae atención, pero el comportamiento habitual de las aplicaciones determinará dónde encaja el procesador.
La presión recae sobre los servicios entre las llamadas al modelo
Vera independiente ejerce presión competitiva sobre los servicios de CPU que determinan la rapidez con la que una aplicación de IA puede seguir funcionando.
Un agente de IA es software que utiliza las salidas de un modelo para seleccionar y ejecutar acciones. Su aplicación puede recuperar información, ejecutar programas, inspeccionar resultados y solicitar otra respuesta del modelo. Cada acción introduce dependencias que un modelo más rápido por sí solo no puede eliminar.
Supongamos que un asistente debe buscar documentos internos antes de responder a una pregunta técnica. Su respuesta depende de que se complete la recuperación, se verifiquen los permisos y los resultados lleguen al modelo. Una capacidad adicional del modelo aporta poco ante una demora dentro de ese servicio de recuperación.
El mismo razonamiento se aplica a la ejecución de código. Un modelo puede generar una prueba rápidamente mientras la aplicación espera a un entorno de ejecución ocupado. Mejorar ese entorno resulta útil cuando los retrasos de ejecución representan una parte significativa de la tarea total.
Oracle identifica estos servicios circundantes entre sus previstas cargas de trabajo de CPU para agentes. Sus ejemplos incluyen ejecución de herramientas, recuperación, analítica y aplicaciones operativas. Son propuestas de adecuación de cargas de trabajo, no garantías de que todos los despliegues se beneficien.
La presión inmediata recae sobre los equipos de infraestructura que seleccionan la próxima plataforma para esos servicios. Deben determinar si sus aplicaciones dedican tiempo a computar, mover memoria, acceder al almacenamiento o esperar a otro sistema. Cada cuello de botella apunta hacia una inversión diferente.
Intel y AMD siguen siendo relevantes porque los compradores ya cuentan con software, procedimientos de despliegue y experiencia operativa construidos alrededor de sus procesadores. Esa inversión existente tiene un valor práctico. Un procesador competidor necesita aportar un beneficio suficiente para justificar la incorporación de otro entorno compatible.
Por tanto, la comparación va más allá de una clasificación de benchmarks. Un servicio más rápido que exige amplios cambios en la aplicación plantea una decisión de adopción diferente a la de uno que ejecuta software existente con ajustes mínimos.
Oracle también tiene un incentivo para diferenciar cuidadosamente los servicios. Los clientes necesitan infraestructura que respalde su combinación de cargas de trabajo, en lugar de una recomendación de procesador única aplicada a todas las aplicaciones. Un catálogo más amplio crea más opciones y más trabajo de evaluación.
Para los desarrolladores, esto cambia el punto de partida de las conversaciones sobre optimización. Antes de elegir hardware, un equipo necesita evidencia que muestre qué parte de su aplicación retrasa los resultados útiles. De lo contrario, una CPU prometedora se convierte en una respuesta a un problema no identificado.
Para los compradores empresariales, la consecuencia es similar. Una propuesta de infraestructura de IA debe tener en cuenta la ejecución de aplicaciones junto con el servicio de modelos. Evaluar solo el modelo corre el riesgo de pasar por alto los sistemas que determinan si los usuarios reciben resultados oportunos y completos.
La presión es mayor donde esos servicios circundantes ya tienen dificultades bajo concurrencia, es decir, muchas tareas ejecutándose a la vez. Ahí es donde el comportamiento del procesador bajo carga sostenida se vuelve más relevante que una demostración aislada.
El ancho de banda de memoria de Vera CPU apunta a un cuello de botella específico
El argumento arquitectónico de Vera comienza por mantener sus núcleos de CPU abastecidos de datos, en lugar de considerar el número de núcleos como evidencia suficiente de rendimiento.
El ancho de banda de memoria mide cuántos datos puede transferir un sistema desde la memoria a lo largo del tiempo. Las aplicaciones que procesan repetidamente grandes conjuntos de datos pueden alcanzar ese límite antes de agotar su capacidad aritmética. Añadir recursos de procesamiento ofrece entonces una ayuda limitada, salvo que mejore la entrega de datos.
La descripción de arquitectura de memoria de Vera de Nvidia especifica 88 núcleos, 176 hilos y hasta 1,2 terabytes por segundo de ancho de banda de memoria. Los hilos son rutas de ejecución que permiten al software dividir el trabajo entre los recursos de procesamiento disponibles.
El chip utiliza LPDDR5X, una tecnología de memoria de bajo consumo. Nvidia también describe una arquitectura de coherencia de segunda generación, la interconexión interna que mantiene datos compartidos coherentes en todo el procesador. Su ancho de banda de bisección declarado es de 3,4 terabytes por segundo.
Estas cifras de ancho de banda describen distintas partes del sistema. El tráfico de memoria externa y la comunicación interna cumplen funciones relacionadas, pero sus valores no pueden sustituirse entre sí. Ninguna de las dos especificaciones indica directamente la rapidez con la que una aplicación termina.
El ancho de banda de memoria de Vera CPU cobra relevancia cuando el trabajo útil depende de acceder repetidamente a datos más allá de las cachés pequeñas y rápidas del procesador. Una caché mantiene la información utilizada con frecuencia cerca de los recursos de ejecución, reduciendo la necesidad de recuperarla de la memoria principal.
Un servicio analítico ilustrativo podría examinar repetidamente un conjunto de datos de trabajo mientras responde a solicitudes simultáneas. Si esos análisis saturan las transferencias de memoria, un ancho de banda adicional ofrece una vía plausible hacia un mayor rendimiento. El rendimiento mide el trabajo completado a lo largo del tiempo.
Otra aplicación podría pasar la mayor parte de su tiempo esperando almacenamiento remoto. La misma mejora de memoria abordaría una porción menor de su demora. Por eso las características de la carga de trabajo importan más que la etiqueta de categoría aplicada al software.
La compatibilidad con Arm también forma parte de esta evaluación. Arm es la arquitectura de instrucciones de procesador compatible con Vera, que define las instrucciones que puede ejecutar el software. Las aplicaciones existentes y sus dependencias necesitan compilaciones compatibles antes de que su rendimiento se convierta en una comparación útil.
Un servicio escrito en un lenguaje portable puede seguir dependiendo de componentes específicos de la arquitectura. Las extensiones de bases de datos, el software de seguridad y las bibliotecas compiladas merecen atención. Que una aplicación se inicie correctamente no establece que todas las dependencias sigan la misma ruta optimizada.
Este es el mecanismo central de la oportunidad de Nvidia: ofrecer un procesador cuyas características de entrega de datos y ejecución se ajusten a servicios valiosos. Es una propuesta más específica que sustituir todas las CPU empresariales.
El caso arquitectónico establece una razón para probar Vera. No resuelve la decisión de compra, porque el comportamiento del software, la configuración del despliegue y la utilización sostenida determinan qué proporción de esa capacidad llega a los usuarios.
Los benchmarks de Vera vs Xeon establecen una ventaja con límites claros
El resultado de Tom’s Hardware respalda una ventaja de ancho de banda de memoria en su configuración probada, mientras deja sin medir el rendimiento de las aplicaciones en OCI.
Los benchmarks de memoria para servidores de la publicación comparan Vera con un sistema dual Intel Xeon 6980P. Informa de más del doble de ancho de banda en STREAM triad, un benchmark que mide transferencias de memoria sostenidas mediante operaciones con matrices.
El sistema Vera probado utilizó memoria LPDDR5X-9600. La comparación con Xeon empleó MRDIMMs, módulos de memoria diseñados para mayores tasas de transferencia, funcionando a 8.800 megatransferencias por segundo. Estos detalles de configuración ayudan a delimitar el alcance del resultado.
Tom’s Hardware también informa que la ubicación de los hilos afectó sustancialmente el ancho de banda de Vera. Utilizó una política de dispersión de OpenMP, un ajuste que distribuye los hilos de ejecución paralela entre los recursos de procesamiento. La publicación indicó que los detalles completos de la configuración de prueba acompañarían su próxima reseña.
Estos hallazgos son relevantes porque muestran una ventaja medida que va más allá de la especificación de un fabricante. Sin embargo, la medición responde a una pregunta más acotada que si Vera hace que una aplicación completa sea dos veces más rápida.
Un servicio puede combinar procesamiento en memoria con acceso al almacenamiento, comunicación de red y ejecución serial. La ejecución serial se refiere al trabajo que debe realizarse secuencialmente. Mejorar un componente deja los demás componentes sin cambios.
Esta distinción es especialmente pertinente para los agentes. Un flujo de trabajo podría ejecutar brevemente una operación intensiva en memoria y luego esperar mucho más tiempo por una herramienta externa. Su tiempo total de finalización reflejaría ambas etapas, independientemente de la posición del procesador en el benchmark.
La comparación entre Vera y Xeon también involucra configuraciones completas. El resultado medido refleja procesadores, memoria, software y ajustes trabajando en conjunto. Los compradores deberían evitar atribuir toda la diferencia a una única característica arquitectónica.
La ubicación de los hilos añade otro motivo para examinar el entorno. Una política de ubicación favorable en un laboratorio puede requerir una configuración explícita en producción. Las máquinas virtuales, que dividen servidores físicos en entornos de software aislados, introducen otra capa de despliegue que evaluar.
Una comparación justa debería permitir ajustes razonables en cada plataforma. Dejar a un competidor con configuraciones inadecuadas mediría decisiones de configuración junto con diferencias de hardware. Por el contrario, exigir mantenimiento inusual para conservar un resultado introduce una carga operativa que conviene documentar.
El benchmark publicado no establece una clasificación de eficiencia energética. Eso requiere medir el consumo eléctrico mientras los sistemas realizan un trabajo comparable. Un resultado de ancho de banda por sí solo no puede revelar cuánta energía consume una tarea de aplicación completada.
Tampoco establece un ganador universal entre bases de datos, compilación o servidores de aplicaciones. Diferentes cargas de trabajo presionan distintos recursos, incluso cuando comparten un lenguaje o marco de despliegue.
Por tanto, el ancho de banda de memoria de la CPU Vera merece atención como una fortaleza demostrada dentro de la configuración informada. El siguiente paso probatorio es traducir esa fortaleza en resultados de aplicaciones repetibles en el servicio real que los compradores pueden desplegar.
El despliegue de Oracle deja espacio para Intel y exige comprobaciones de implementación
Oracle está incorporando Vera mientras mantiene una ruta basada en Intel para los sistemas Rubin, lo que hace más creíble la elección según la carga de trabajo que una narrativa de sustitución total.
La configuración HGX Rubin NVL8 prevista combina ocho GPU Rubin con dos procesadores Intel Xeon 6 de 64 núcleos y 4 terabytes de memoria DDR5. DDR5 es una generación ampliamente utilizada de tecnología de memoria para servidores. Esta oferta prevista conserva una ruta de aplicaciones x86 junto a Vera.
X86 es la arquitectura de instrucciones utilizada por los procesadores para servidores de Intel y AMD mencionados aquí. Mantener esa opción importa para las aplicaciones con requisitos de software existentes, incluso cuando otro procesador produce resultados más sólidos en pruebas seleccionadas.
La hoja de ruta de infraestructura más amplia de Oracle también menciona el trabajo continuo con AMD e Intel. Enumera instancias AMD EPYC E7 previstas y ofertas X14 basadas en Intel Diamond Rapids. Estos siguen siendo elementos de la hoja de ruta, no alternativas ya entregadas que establezca este anuncio.
En consecuencia, el panorama competitivo es más complejo que Nvidia entrando y las CPU establecidas saliendo. Oracle está ampliando las combinaciones disponibles de procesadores y aceleradores. Los compradores pueden separar la compatibilidad de las aplicaciones de su elección de hardware para servir modelos.
La disponibilidad en sí requiere una lectura cuidadosa. Las especificaciones detalladas de las instancias Vera de Oracle describen ofertas tanto de bare metal como de máquinas virtuales Flex. Bare metal proporciona a un cliente uso directo de un servidor físico, en lugar de una porción virtualizada.
La configuración descrita de doble procesador ofrece 176 núcleos, 352 hilos y 1 terabyte de memoria del sistema. Estos detalles de las instancias deben distinguirse de las especificaciones de un procesador individual.
La publicación de Oracle sobre CPU anuncia disponibilidad general, pero también indica que las instancias llegarán a regiones seleccionadas este trimestre. Esa redacción deja una pregunta práctica sobre cuándo un cliente concreto podrá obtener capacidad adecuada en la ubicación requerida.
Un compromiso regional importa para las organizaciones con requisitos de residencia de datos. Un procesador disponible en otro lugar no resuelve un despliegue restringido a una jurisdicción concreta. La capacidad también debe ser suficiente para el servicio previsto, en lugar de ser meramente accesible para evaluación.
Oracle además afirma que inicialmente pondrá a disposición 150.000 CPU en todas sus regiones. El anuncio no ofrece una asignación por región ni evidencia de que cada unidad listada ya esté atendiendo cargas de trabajo de clientes.
Sus afirmaciones de rendimiento requieren una separación similar. Oracle cita la afirmación de Nvidia de un rendimiento de CPU agéntico hasta un 80% más rápido, al tiempo que identifica esos resultados como benchmarks de plataforma. No son mediciones a nivel de instancia de OCI.
Esa divulgación limita la confianza con la que los compradores pueden traducir la afirmación en una previsión de servicio. La respuesta adecuada es probar conjuntamente la instancia prevista, la compilación de la aplicación y los ajustes operativos.
El trabajo de migración forma parte de esa evaluación. Un equipo necesita dependencias compatibles, imágenes de despliegue, monitorización y procedimientos de recuperación antes de trasladar un servicio importante. Estos requisitos no desacreditan el hardware; definen el trabajo necesario para utilizarlo de forma fiable.
El caso de adopción más sólido combina mejoras en la aplicación con cambios operativos manejables. Una ventaja de procesador que supera estas comprobaciones merece más peso que una visible solo en condiciones que el cliente no puede reproducir.
Tres señales mostrarán si Vera independiente logra una adopción más amplia
La próxima evidencia debería establecer capacidad accesible, rendimiento de aplicaciones reproducible y uso sostenido más allá de las evaluaciones iniciales.
La primera señal es una disponibilidad regional más clara. Durante los próximos meses, los compradores deberían buscar acceso documentado a instancias en las ubicaciones que requieran sus aplicaciones. Un despliegue que respalde implementaciones repetibles reforzaría el argumento a favor de Vera como una opción práctica de infraestructura.
La información de capacidad debería describir qué pueden obtener los clientes, en lugar de limitarse a lo que Oracle pretende desplegar. El acceso a reservas, los límites de servicio y la documentación de configuración ayudan a conectar un anuncio de lanzamiento con una decisión operativa.
La segunda señal es la prueba de aplicaciones OCI reproducible de forma independiente. Esta debería comparar servicios que realicen trabajo equivalente con compilaciones de software compatibles y ajustes claramente documentados. Los resultados más útiles mostrarían tanto el trabajo completado como los tiempos de respuesta bajo concurrencia sostenida.
El tiempo de respuesta merece especial atención cerca de la saturación. Un servidor puede informar un rendimiento promedio atractivo mientras una minoría de solicitudes espera considerablemente más. Esas demoras pueden afectar a usuarios cuyos flujos de trabajo dependen de que cada llamada a herramienta termine.
Para la cuestión Vera frente a Xeon, el trabajo equivalente importa más que categorías de marketing idénticas. Las pruebas deberían explicar la configuración de memoria, el ajuste del software y la asignación de recursos. De lo contrario, los lectores no pueden saber si un resultado se extiende más allá de la configuración probada.
La evidencia de que la ventaja de ancho de banda informada mejora los servicios intensivos en memoria reforzaría el argumento arquitectónico. Los resultados dominados por cuellos de botella no relacionados reducirían el conjunto de aplicaciones en el que se aplica ese argumento.
La tercera señal es la adopción sostenida en producción con resultados de carga de trabajo divulgados. La participación de clientes es útil, pero un despliegue identificado por nombre por sí solo aporta evidencia limitada sobre el rendimiento o el esfuerzo operativo. Las descripciones de la aplicación y de su comportamiento medido serían más informativas.
Los relatos útiles explicarían por qué se trasladó un servicio, qué cambió tras el despliegue y qué limitaciones persistieron. También deberían distinguir los efectos del procesador de cambios simultáneos en el software, el almacenamiento o el diseño de la aplicación.
Una adopción más amplia entre servicios adecuados respaldaría el argumento de Nvidia a favor de un negocio de CPU independiente dentro de la infraestructura en la nube. La concentración en un conjunto limitado de despliegues especializados indicaría un papel más acotado. Ambos resultados pueden coexistir con sólidos resultados de benchmarks de memoria.
Para los desarrolladores, la acción inmediata es medir las etapas dependientes de la CPU que ya están presentes en sus aplicaciones. Identifiquen dónde se detiene la ejecución, conserven una carga de trabajo representativa y documenten el entorno. Esto crea una línea de base útil antes de evaluar otro procesador.
Los equipos pueden organizar estos hallazgos en una base de conocimiento con búsqueda, manteniendo las notas de configuración conectadas a los resultados de las aplicaciones. El propósito es conservar el contexto cuando las comparaciones posteriores produzcan resultados diferentes.
Nvidia Vera en OCI merece evaluación allí donde el tráfico de memoria o la ejecución de CPU ya limitan el trabajo útil. Empiece con un servicio cuyo cuello de botella esté medido y luego compare despliegues completos bajo una carga representativa. Mantenga explícitas las versiones de la aplicación, las decisiones de ajuste y las asignaciones de recursos. Pregunte si cualquier mejora persiste durante los periodos de mayor actividad y si el equipo puede operar el servicio de forma fiable. Solicite evidencia de capacidad regional antes de considerar resuelta la disponibilidad. Separe las afirmaciones del fabricante de las mediciones independientes y conserve las limitaciones de cada resultado. La pregunta de compra útil es concreta: ¿mejora este procesador el trabajo que su aplicación realmente realiza, en condiciones que su equipo puede reproducir?
