Nvidia Vera no OCI coloca CPUs independentes em competição com Xeon

Nvidia Vera no OCI oferece aos clientes da Oracle uma opção de CPU independente, enquanto testes separados relatam mais que o dobro da largura de banda de memória de um servidor dual Xeon. Nvidia e Oracle anunciaram a disponibilidade geral em 27 de outubro, juntamente com planos para expandir sua infraestrutura de IA para uma escala de vários gigawatts. A distinção importa: os processadores estão disponíveis de forma independente, e a expansão continua sendo um plano.

O benchmark é da Tom’s Hardware, que testou um servidor Vera separado, e não a Oracle Cloud Infrastructure, ou OCI. Ele fornece evidências sobre as capacidades do processador, sem estabelecer como uma instância da Oracle se comporta. Este artigo analisa essas evidências publicadas; não apresenta testes originais de hardware.

A questão competitiva diz respeito ao trabalho executado entre as respostas de modelos de IA. Processadores Intel Xeon e AMD EPYC já realizam esses serviços em infraestruturas empresariais. A decisão da Oracle oferece à Nvidia outra entrada nesse mercado, com a movimentação de memória e a execução de aplicações se tornando critérios de compra ao lado da compatibilidade do processador.

Nvidia Vera no OCI separa a capacidade de CPU das compras de GPU

A Oracle está oferecendo Vera como capacidade computacional implantável de forma independente, dando ao processador uma função que vai além de hospedar aceleradores da Nvidia.

Uma CPU, ou unidade central de processamento, executa instruções de aplicações e gerencia tarefas gerais de computação. Uma GPU, ou unidade de processamento gráfico, executa cargas de trabalho paralelas comumente usadas para treinar e operar modelos de IA. Esses recursos apoiam diferentes etapas de uma aplicação de IA, mesmo quando os clientes os compram juntos.

O anúncio das empresas sobre a implantação independente de CPU descreve explicitamente clientes escalando recursos de CPU e GPU de modo independente. Isso cria uma escolha prática para organizações cujo software necessita de mais processamento de aplicações sem um aumento correspondente na capacidade de modelos.

Vera Rubin NVL72 é a maior configuração de rack anunciada junto com as CPUs. Ela conecta 72 GPUs por meio do NVLink, a interconexão da Nvidia para comunicação entre processadores. Os serviços Vera independentes atendem a outra decisão de compra: onde executar o software que envolve esses modelos.

Considere um assistente de programação ilustrativo. Um modelo propõe uma alteração, um serviço de execução a testa, e a aplicação devolve resultados para outra resposta do modelo. O serviço de testes consome recursos de CPU, embora o próprio modelo seja executado em outro lugar.

Um cliente pode precisar de capacidade adicional de execução durante períodos movimentados, enquanto seu serviço de modelos ainda tem margem disponível. Comprar esses recursos separadamente cria uma oportunidade de alinhar a infraestrutura mais estreitamente à demanda. Se isso melhora a eficiência depende do uso real de recursos pela aplicação.

O anúncio de disponibilidade da Oracle também deve ser separado da expansão física planejada. A escala de vários gigawatts descreve a expansão pretendida da infraestrutura, e não uma medição da capacidade Vera independente atualmente em operação. Ela não estabelece quanto equipamento os clientes podem reservar imediatamente.

Essa distinção muda a forma como os compradores devem interpretar a notícia. A disponibilidade geral estabelece uma oferta comercial, enquanto a escala de implantação diz respeito a fornecimento, construção e adoção pelos clientes. Nenhuma das expressões, por si só, estabelece o desempenho da aplicação.

A oferta independente também altera a relação da Nvidia com clientes em potencial. Uma equipe pode avaliar sua CPU para um serviço sem antes decidir implantar um sistema Rubin completo. O processador precisa então justificar-se pelos requisitos do próprio serviço.

Isso cria uma comparação mais exigente do que uma decisão de adicionar aceleradores. Os compradores podem perguntar se Vera executa suas aplicações melhor do que a infraestrutura existente, incluindo cargas de trabalho que nunca se comunicam diretamente com GPUs Rubin.

A competição resultante se concentra em uma questão empresarial conhecida: qual configuração de servidor executa o trabalho necessário com esforço operacional aceitável? O posicionamento da Nvidia em IA atrai atenção, mas o comportamento comum das aplicações determinará onde o processador se encaixa.

A pressão recai sobre os serviços entre as chamadas ao modelo

Vera independente coloca pressão competitiva sobre os serviços de CPU que determinam a rapidez com que uma aplicação de IA consegue continuar trabalhando.

Um agente de IA é um software que usa as saídas de modelos para selecionar e executar ações. Sua aplicação pode recuperar informações, executar programas, inspecionar resultados e solicitar outra resposta do modelo. Cada ação introduz dependências que um modelo mais rápido, por si só, não consegue eliminar.

Suponha que um assistente precise pesquisar documentos internos antes de responder a uma questão técnica. Sua resposta depende da conclusão da recuperação, da verificação de permissões e da chegada dos resultados ao modelo. Capacidade adicional de modelos pouco ajuda diante de um atraso dentro desse serviço de recuperação.

O mesmo raciocínio se aplica à execução de código. Um modelo pode gerar um teste rapidamente enquanto a aplicação espera por um ambiente de execução ocupado. Melhorar esse ambiente se torna útil quando atrasos de execução representam uma parcela significativa da tarefa total.

A Oracle identifica esses serviços ao redor do modelo entre suas pretendidas cargas de trabalho de CPU para agentes. Seus exemplos incluem execução de ferramentas, recuperação, análise e aplicações operacionais. São adequações propostas de cargas de trabalho, e não garantias de que toda implantação será beneficiada.

A pressão imediata recai sobre as equipes de infraestrutura que selecionam a próxima plataforma para esses serviços. Elas precisam determinar se suas aplicações passam tempo computando, movimentando memória, acessando armazenamento ou esperando por outro sistema. Cada gargalo aponta para um investimento diferente.

Intel e AMD continuam relevantes porque os compradores já têm software, procedimentos de implantação e experiência operacional construídos em torno de seus processadores. Esse investimento existente tem valor prático. Um processador concorrente precisa oferecer benefício suficiente para justificar a introdução de outro ambiente compatível.

A comparação, portanto, vai além de um ranking de benchmarks. Um serviço mais rápido que exige extensas mudanças na aplicação enfrenta uma decisão de adoção diferente de outro que executa software existente com ajustes mínimos.

A Oracle também tem incentivo para diferenciar cuidadosamente os serviços. Os clientes precisam de infraestrutura que suporte sua combinação de cargas de trabalho, em vez de uma única recomendação de processador aplicada a todas as aplicações. Um catálogo mais amplo cria mais escolhas e mais trabalho de avaliação.

Para desenvolvedores, isso muda o ponto de partida das discussões sobre otimização. Antes de escolher hardware, uma equipe precisa de evidências que mostrem qual parte de sua aplicação atrasa resultados úteis. Caso contrário, uma CPU promissora se torna a resposta para um problema não identificado.

Para compradores empresariais, a consequência é semelhante. Uma proposta de infraestrutura de IA deve considerar a execução de aplicações junto com a disponibilização de modelos. Avaliar apenas o modelo pode deixar de lado os sistemas que determinam se os usuários recebem resultados completos em tempo hábil.

A pressão é maior onde esses serviços ao redor do modelo já enfrentam dificuldades sob concorrência, isto é, com muitas tarefas executadas simultaneamente. É nesse ponto que o comportamento do processador sob carga sustentada se torna mais relevante do que uma demonstração isolada.

A largura de banda de memória da CPU Vera mira um gargalo específico

O argumento arquitetural de Vera começa por manter seus núcleos de CPU abastecidos com dados, em vez de tratar a contagem de núcleos como evidência suficiente de desempenho.

A largura de banda de memória mede quanto dado um sistema pode transferir da memória ao longo do tempo. Aplicações que processam repetidamente grandes conjuntos de dados podem atingir esse limite antes de esgotar sua capacidade aritmética. Adicionar recursos de processamento oferece então ajuda limitada, a menos que a entrega de dados melhore.

A descrição da arquitetura de memória Vera da Nvidia especifica 88 núcleos, 176 threads e até 1,2 terabyte por segundo de largura de banda de memória. Threads são caminhos de execução que permitem ao software dividir o trabalho entre os recursos de processamento disponíveis.

O chip usa LPDDR5X, uma tecnologia de memória de baixo consumo. A Nvidia também descreve um tecido de coerência de segunda geração, a interconexão interna que mantém dados compartilhados consistentes em todo o processador. Sua largura de banda de bisseção declarada é de 3,4 terabytes por segundo.

Esses números de largura de banda descrevem partes diferentes do sistema. O tráfego de memória externa e a comunicação interna atendem a funções relacionadas, mas suas classificações não podem ser substituídas umas pelas outras. Nenhuma especificação indica diretamente a velocidade com que uma aplicação termina.

A largura de banda de memória da CPU Vera torna-se relevante quando o trabalho útil depende de acessar repetidamente dados além dos caches pequenos e rápidos do processador. Um cache mantém informações usadas com frequência próximas aos recursos de execução, reduzindo a necessidade de buscá-las na memória principal.

Um serviço de análise ilustrativo pode examinar repetidamente um conjunto de dados de trabalho ao responder a solicitações simultâneas. Se essas análises saturarem as transferências de memória, mais largura de banda oferece uma via plausível para maior throughput. Throughput mede o trabalho concluído ao longo do tempo.

Outra aplicação pode passar a maior parte do tempo esperando pelo armazenamento remoto. A mesma melhoria de memória abordaria uma parcela menor de seu atraso. É por isso que as características da carga de trabalho importam mais do que o rótulo de categoria atribuído ao software.

A compatibilidade com Arm também faz parte dessa avaliação. Arm é a arquitetura de instruções de processador compatível com Vera, definindo as instruções que o software pode executar. As aplicações existentes e suas dependências precisam de compilações compatíveis antes que seu desempenho se torne uma comparação útil.

Um serviço escrito em uma linguagem portável ainda pode depender de componentes específicos de arquitetura. Extensões de banco de dados, software de segurança e bibliotecas compiladas merecem atenção. O lançamento bem-sucedido de uma aplicação não estabelece que todas as dependências seguem o mesmo caminho otimizado.

Esse é o mecanismo central por trás da oportunidade da Nvidia: oferecer um processador cujas características de entrega de dados e execução se encaixem em serviços valiosos. É uma proposta mais específica do que substituir todas as CPUs empresariais.

O caso arquitetural estabelece uma razão para testar Vera. Ele não decide a compra, porque o comportamento do software, a configuração de implantação e a utilização sustentada determinam quanto dessa capacidade chega aos usuários.

Benchmarks de Vera vs Xeon estabelecem uma vantagem com limites claros

O resultado da Tom’s Hardware sustenta uma vantagem de largura de banda de memória em sua configuração testada, enquanto o desempenho de aplicações no OCI permanece sem medição.

Os benchmarks de memória de servidor da publicação comparam Vera a um sistema dual Intel Xeon 6980P. Ela relata mais que o dobro da largura de banda no STREAM triad, um benchmark que mede transferências sustentadas de memória usando operações de arrays.

O sistema Vera testado utilizou memória LPDDR5X-9600. A comparação com Xeon utilizou MRDIMMs, módulos de memória projetados para taxas de transferência mais altas, operando a 8.800 megatransferências por segundo. Esses detalhes de configuração ajudam a definir o escopo do resultado.

A Tom’s Hardware também relata que o posicionamento das threads afetou substancialmente a largura de banda do Vera. Foi utilizada uma política de distribuição OpenMP, configuração que espalha threads de execução paralela pelos recursos de processamento. A publicação informou que detalhes mais completos da configuração de teste acompanharão sua próxima análise.

Essas conclusões são relevantes porque mostram uma vantagem medida que vai além de uma especificação do fabricante. No entanto, a medição responde a uma pergunta mais restrita do que saber se o Vera torna uma aplicação inteira duas vezes mais rápida.

Um serviço pode combinar processamento em memória com acesso ao armazenamento, comunicação de rede e execução serial. Execução serial é o trabalho que precisa ocorrer sequencialmente. Melhorar um componente mantém os demais componentes em cena.

Essa distinção é especialmente relevante para agentes. Um fluxo de trabalho pode executar brevemente uma operação intensiva em memória e, depois, esperar muito mais por uma ferramenta externa. Seu tempo total de conclusão refletirá ambas as etapas, independentemente da posição do processador no benchmark.

A comparação entre Vera e Xeon também envolve configurações completas. O resultado medido reflete processadores, memória, software e ajuste trabalhando em conjunto. Compradores devem evitar atribuir toda a diferença a um único recurso arquitetural.

O posicionamento de threads acrescenta outro motivo para examinar o ambiente. Uma política de posicionamento favorável em laboratório pode exigir configuração explícita em produção. Máquinas virtuais, que dividem servidores físicos em ambientes de software isolados, introduzem outra camada de implantação a avaliar.

Uma comparação justa deve permitir ajustes razoáveis em cada plataforma. Deixar um concorrente com configurações inadequadas mediria escolhas de configuração junto com diferenças de hardware. Por outro lado, exigir manutenção incomum para preservar um resultado introduz uma carga operacional que vale a pena documentar.

O benchmark publicado não estabelece uma classificação de eficiência energética. Isso exige consumo de energia medido enquanto os sistemas realizam trabalho comparável. Um resultado de largura de banda, por si só, não revela quanta energia uma tarefa concluída de aplicação consome.

Também não estabelece um vencedor universal em bancos de dados, compilação ou servidores de aplicação. Cargas de trabalho diferentes pressionam recursos diferentes, mesmo quando compartilham uma linguagem ou framework de implantação.

A largura de banda de memória da CPU Vera, portanto, merece atenção como uma força demonstrada dentro da configuração relatada. O próximo passo probatório é traduzir essa força em resultados repetíveis de aplicações nos serviços reais que os compradores podem implantar.

A implementação da Oracle deixa espaço para a Intel e exige verificações de implantação

A Oracle está adicionando o Vera enquanto mantém um caminho baseado em Intel para sistemas Rubin, tornando a escolha por carga de trabalho mais crível do que uma narrativa de substituição completa.

A configuração planejada HGX Rubin NVL8 combina oito GPUs Rubin com dois processadores Intel Xeon 6 de 64 núcleos e 4 terabytes de memória DDR5. DDR5 é uma geração amplamente utilizada de tecnologia de memória para servidores. Essa oferta planejada preserva um caminho de aplicações x86 ao lado do Vera.

X86 é a arquitetura de instruções utilizada pelos processadores de servidor Intel e AMD discutidos aqui. Manter essa opção é importante para aplicações com requisitos de software existentes, mesmo quando outro processador produz resultados mais fortes em testes selecionados.

O roadmap de infraestrutura mais amplo da Oracle também menciona o trabalho contínuo com AMD e Intel. Ele lista instâncias planejadas AMD EPYC E7 e ofertas X14 baseadas em Intel Diamond Rapids. Esses itens continuam sendo elementos do roadmap, e não alternativas entregues estabelecidas por este anúncio.

Consequentemente, o cenário competitivo é mais complexo do que a Nvidia entrando e as CPUs incumbentes saindo. A Oracle está ampliando as combinações disponíveis de processadores e aceleradores. Os compradores podem separar a compatibilidade de aplicações da escolha de hardware para servir modelos.

A disponibilidade em si exige leitura cuidadosa. As especificações detalhadas das instâncias Vera da Oracle descrevem ofertas tanto bare metal quanto de máquinas virtuais Flex. Bare metal oferece ao cliente uso direto de um servidor físico, em vez de uma parte virtualizada.

A configuração descrita com dois processadores oferece 176 núcleos, 352 threads e 1 terabyte de memória de sistema. Esses detalhes da instância devem ser distinguidos das especificações de um processador individual.

A publicação da Oracle sobre CPUs anuncia disponibilidade geral, mas também afirma que as instâncias chegarão a regiões selecionadas neste trimestre. Essa formulação deixa uma questão prática sobre quando um cliente específico poderá obter capacidade adequada em uma localização necessária.

Um compromisso regional importa para organizações com requisitos de residência de dados. Um processador disponível em outro lugar não resolve uma implantação restrita a uma jurisdição específica. A capacidade também precisa ser suficiente para o serviço pretendido, e não apenas acessível para avaliação.

A Oracle também afirma que 150.000 CPUs iniciais serão disponibilizadas em suas regiões. O anúncio não fornece uma alocação por região nem evidências de que cada unidade listada já esteja atendendo cargas de trabalho de clientes.

Suas alegações de desempenho exigem separação semelhante. A Oracle cita a alegação da Nvidia de desempenho de CPU para agentes até 80% mais rápido, ao mesmo tempo que identifica esses resultados como benchmarks de plataforma. Não são medições no nível de instância OCI.

Essa divulgação limita o grau de confiança com que os compradores podem traduzir a alegação em uma previsão para seus serviços. A resposta adequada é testar conjuntamente a instância pretendida, a compilação da aplicação e as configurações operacionais.

O trabalho de migração faz parte dessa avaliação. Uma equipe precisa de dependências compatíveis, imagens de implantação, monitoramento e procedimentos de recuperação antes de mover um serviço importante. Esses requisitos não desqualificam o hardware; eles definem o trabalho necessário para usá-lo de forma confiável.

O caso de adoção mais forte combina ganhos de aplicação com mudanças operacionais administráveis. Uma vantagem de processador que resiste a essas verificações merece mais peso do que uma visível apenas sob condições que o cliente não consegue reproduzir.

Três sinais mostrarão se o Vera independente conquista adoção mais ampla

As próximas evidências devem estabelecer capacidade acessível, desempenho de aplicações reproduzível e uso sustentado além das avaliações iniciais.

O primeiro sinal é uma disponibilidade regional mais clara. Nos próximos meses, os compradores devem procurar acesso documentado às instâncias nos locais exigidos por suas aplicações. Uma implementação que suporte implantações repetíveis fortaleceria o argumento em favor do Vera como uma opção prática de infraestrutura.

As informações de capacidade devem descrever o que os clientes podem obter, e não apenas o que a Oracle pretende implantar. Acesso a reservas, limites de serviço e documentação de configuração ajudam a conectar um anúncio de lançamento a uma decisão operacional.

O segundo sinal é o teste de aplicações OCI reproduzível de forma independente. Ele deve comparar serviços que realizam trabalho equivalente, com compilações de software compatíveis e configurações claramente documentadas. Os resultados mais úteis mostrariam tanto o trabalho concluído quanto os tempos de resposta sob concorrência sustentada.

O tempo de resposta merece atenção especial perto da saturação. Um servidor pode registrar uma vazão média atraente enquanto uma minoria das solicitações espera substancialmente mais. Esses atrasos podem afetar usuários cujos fluxos de trabalho dependem da conclusão de cada chamada de ferramenta.

Para a questão Vera versus Xeon, trabalho equivalente importa mais do que categorias de marketing idênticas. Os testes devem explicar a configuração de memória, o ajuste de software e a alocação de recursos. Caso contrário, os leitores não conseguem saber se um resultado se estende além da configuração testada.

Evidências de que a vantagem relatada de largura de banda melhora serviços intensivos em memória fortaleceriam o argumento arquitetural. Resultados dominados por gargalos não relacionados restringiriam o conjunto de aplicações em que esse argumento se aplica.

O terceiro sinal é a adoção sustentada em produção, com resultados de carga de trabalho divulgados. A participação de clientes é útil, mas uma implantação nomeada, por si só, oferece evidências limitadas sobre desempenho ou esforço operacional. Descrições da aplicação e de seu comportamento medido seriam mais informativas.

Relatos úteis explicariam por que um serviço foi migrado, o que mudou após a implantação e quais limitações permaneceram. Eles também devem distinguir os efeitos do processador de mudanças simultâneas em software, armazenamento ou design da aplicação.

Uma adoção mais ampla em serviços adequados apoiaria o argumento da Nvidia para um negócio independente de CPUs dentro da infraestrutura em nuvem. A concentração em um conjunto limitado de implantações especializadas indicaria um papel mais restrito. Ambos os resultados podem coexistir com fortes resultados de benchmark de memória.

Para desenvolvedores, a ação imediata é medir as etapas dependentes de CPU já presentes em suas aplicações. Identifique onde a execução para, preserve uma carga de trabalho representativa e documente o ambiente. Isso cria uma linha de base útil antes de avaliar outro processador.

As equipes podem organizar essas conclusões em uma base de conhecimento pesquisável, mantendo notas de configuração conectadas aos resultados das aplicações. O objetivo é preservar o contexto quando comparações posteriores produzirem resultados diferentes.

O Nvidia Vera no OCI merece avaliação onde o tráfego de memória ou a execução da CPU já restringem o trabalho útil. Comece com um serviço cujo gargalo seja medido e, então, compare implantações completas sob carga representativa. Mantenha explícitas as versões das aplicações, as escolhas de ajuste e as alocações de recursos. Pergunte se algum ganho persiste durante períodos de alta demanda e se a equipe consegue operar o serviço de forma confiável. Solicite evidências de capacidade regional antes de tratar a disponibilidade como resolvida. Separe alegações do fabricante de medições independentes e preserve as limitações de cada resultado. A pergunta útil para compra é concreta: esse processador melhora o trabalho que sua aplicação realmente realiza, sob condições que sua equipe consegue reproduzir?