Gargalos de infraestrutura de IA ganham destaque — SiliconANGLE aponta além da corrida por GPUs

A SiliconANGLE deslocou o debate sobre infraestrutura de IA para além de chips mais rápidos, poucos dias antes de um fórum do setor em 13 de outubro examinar os sistemas que os cercam. A matéria AI infrastructure bottlenecks take focus - SiliconANGLE argumenta que memória, armazenamento, redes, energia e refrigeração agora determinam quanto trabalho útil aceleradores caros conseguem realizar.

Esse é o conflito no centro deste ciclo de infraestrutura. Fabricantes de chips podem fornecer mais capacidade computacional, mas os operadores não conseguem aproveitá-la quando os dados chegam tarde, a memória continua limitada ou as instalações não conseguem alimentar racks mais densos. O gargalo está deixando de ser um único componente escasso para se tornar a coordenação de todo o sistema.

Espera-se que ScaleFlux, Dell Technologies, Cisco, Cerebras e outros fornecedores de infraestrutura discutam essas pressões durante o AI Data Pipeline Forum, em San Jose. O evento coincide com o Open Compute Project Global Summit, onde o design de sistemas, padrões abertos e limitações das instalações receberão tanta atenção quanto os processadores.

O fórum em si não comprova que os fornecedores resolveram esses problemas. Sua importância está no que a agenda revela. A competição em infraestrutura de IA está se tornando uma disputa de sistemas, com o desempenho medido em todo o caminho, dos dados armazenados ao token gerado.

O que mudou antes do AI Data Pipeline Forum

O centro das atenções do setor passou da aquisição de aceleradores para manter esses aceleradores produtivos.

A SiliconANGLE publicou sua prévia do fórum em 10 de outubro, antes do AI Data Pipeline Forum de 13 de outubro. A publicação informou que o theCUBE é parceiro de mídia pago do evento e que os patrocinadores não controlam sua cobertura editorial.

Essa relação comercial importa ao avaliar a prévia. O artigo apresenta um evento e destaca vários fornecedores participantes como exemplos da mudança na infraestrutura. Seu argumento mais amplo, porém, está alinhado a questões que surgem em todo o setor de data centers.

Clusters de IA dependem de mais do que unidades de processamento gráfico, ou GPUs. Um cluster também precisa de memória capaz de manter dados ativos do modelo, armazenamento que possa fornecer e preservar informações e redes que conectem milhares de componentes. A entrega de energia e a refrigeração então determinam se esses componentes conseguem operar continuamente.

Uma escassez ou atraso em qualquer camada pode reduzir a produção de todo o cluster. Um acelerador rápido à espera de dados continua sendo um ativo subutilizado. Uma rede de alta largura de banda não pode compensar capacidade de memória insuficiente, enquanto um rack denso não pode entrar em produção se uma instalação existente não consegue resfriá-lo.

O fórum acontece durante o OCP Global Summit de 2026, programado para ocorrer de 12 a 15 de outubro em San Jose. A agenda oficial da cúpula informa que o evento atingiu sua capacidade máxima, oferecendo um indicativo da atenção em torno da infraestrutura de grande escala.

O programa do OCP abrange chips, racks, clusters, data centers, software de gestão e instalações físicas. Essa amplitude reforça o ponto central da matéria da SiliconANGLE. Componentes individuais precisam cada vez mais ser projetados e validados como partes de um único sistema operacional.

A mudança imediata, portanto, não é o lançamento de um único produto. É uma mudança no que compradores e fornecedores de infraestrutura consideram como o limite de desempenho.

Fases anteriores da expansão da IA incentivavam uma pergunta relativamente simples: quantas GPUs avançadas um operador consegue obter? Essa pergunta continua relevante, mas já não oferece um panorama completo da capacidade de implantação.

Agora, os operadores precisam perguntar como os dados entram em um cluster, onde o estado intermediário permanece e com que rapidez os resultados podem se mover entre processadores. Eles também precisam considerar eletricidade disponível, métodos de refrigeração, peso dos racks, tempo de implantação e compatibilidade de software.

Essa mudança coloca componentes menos visíveis no caminho crítico. Controladores SSD, tecnologia de expansão de memória, conexões ópticas, switches, unidades de distribuição de refrigerante e equipamentos de energia podem influenciar o valor produzido por uma frota de aceleradores.

Ela também muda a competição entre fornecedores. Um fornecedor já não vence apenas por oferecer o componente isolado mais rápido. Os compradores precisam de evidências de que o componente funciona de forma previsível dentro de um ambiente validado de rack, rede, instalação e software.

A discussão de 13 de outubro deve tornar esse argumento de sistemas mais concreto. No entanto, a conclusão útil já vai além do evento: o desempenho da infraestrutura de IA depende cada vez mais de coordenação, não de especificações de componentes analisadas separadamente.

Por que a movimentação de dados agora limita a computação cara

Um acelerador não gera valor econômico enquanto espera que a memória, o armazenamento ou outro processador forneça a próxima parte dos dados.

Treinamento e inferência impõem pressões diferentes à infraestrutura, mas ambos envolvem movimentação repetida por uma hierarquia de memória. Essa hierarquia inclui memória ao lado do acelerador, memória do host, memória compartilhada, armazenamento flash local e armazenamento em rede.

Inferência é o processo pelo qual um modelo implantado transforma uma entrada em uma saída. Ela pode intensificar a movimentação de dados porque os sistemas de produção atendem muitas solicitações, recuperam informações externas e preservam estado reutilizável entre interações.

Aplicações baseadas em agentes adicionam outra camada. Um agente pode chamar ferramentas, pesquisar bancos de dados, consultar documentos e usar vários modelos antes de concluir uma tarefa. Cada etapa pode introduzir transferências, operações de armazenamento e latência de rede.

O resultado é um descompasso incômodo. A capacidade computacional pode crescer mais rapidamente do que a capacidade do sistema de fornecer dados a ela. Adicionar mais aceleradores não corrige automaticamente esse desequilíbrio e pode criar mais demanda sobre recursos compartilhados.

A capacidade de memória apresenta uma restrição. Modelos grandes, contextos mais longos e solicitações simultâneas competem por memória de alta velocidade limitada. Quando os dados necessários não podem permanecer próximos a um processador, os sistemas os movem por camadas mais lentas.

A largura de banda apresenta outra restrição. A largura de banda mede quanto dado uma conexão pode transportar em um determinado período. Mesmo capacidade de memória suficiente se torna menos útil quando os caminhos entre componentes não conseguem sustentar a carga de trabalho.

A latência também importa. Latência é o atraso antes de uma transferência ou operação ser concluída. Pequenos atrasos podem se acumular em camadas repetidas do modelo, etapas de recuperação ou comunicações entre muitos aceleradores.

Por isso, o armazenamento desempenha um papel mais ativo do que sua imagem tradicional sugere. Já não é apenas um destino para arquivos concluídos ou checkpoints ocasionais. Ele pode armazenar dados de treinamento, parâmetros de modelos, índices de recuperação, estado de inferência em cache e registros operacionais.

A ScaleFlux ilustra como os fornecedores estão respondendo. Seu FC6116 é um controlador SSD PCIe Gen6 NVMe, enquanto o MC600 é um controlador de memória CXL 3.2 Type 3. CXL, ou Compute Express Link, conecta processadores e dispositivos de memória por meio de uma interface coerente.

Segundo as especificações dos controladores da empresa, o FC6116 suporta até 28 gigabytes por segundo em leituras sequenciais, 25 gigabytes por segundo em gravações sequenciais e sete milhões de operações de entrada/saída por segundo em leituras aleatórias. A ScaleFlux afirma que o controlador ativo consome menos de nove watts.

O MC600 suporta até dois terabytes de memória DDR5, segundo a ScaleFlux. Ele também oferece suporte a DDR4, o que dá aos fabricantes de equipamentos uma rota de migração entre configurações de memória existentes e mais novas.

Esses números são alegações do fornecedor, não prova independente de desempenho em nível de aplicação. Os resultados reais dependerão de unidades, firmware, sistemas host, cargas de trabalho e condições de rede. A ScaleFlux também afirmou que o FC6116 começaria a ser distribuído para testes com clientes selecionados no quarto trimestre de 2026, de modo que as evidências de produção em ampla escala continuam limitadas.

Ainda assim, a direção dos produtos é informativa. Os fornecedores tentam aumentar a largura de banda e a capacidade de memória sem permitir que o consumo de energia cresça no mesmo ritmo. Eles também combinam hardware com firmware, designs de referência e suporte à qualificação.

Isso importa porque uma velocidade teórica de interface não garante throughput útil. O dispositivo precisa permanecer estável sob carga sustentada, integrar-se ao software host, recuperar-se de erros e comportar-se de modo consistente em operações mistas.

As redes enfrentam um problema comparável. Grandes clusters de IA distribuem trabalho entre processadores, de modo que os padrões de tráfego podem afetar a velocidade com que todo o trabalho avança. Uma transferência atrasada pode deixar vários componentes caros à espera de uma dependência.

O workshop óptico realizado em paralelo ao OCP Summit lista canais elétricos de 224 gigabits e 448 gigabits, conexões ópticas de próxima geração e interfaces de gestão entre seus tópicos. Seu programa de interconexão também destaca energia, limites térmicos, latência e riscos de fragmentação.

Essa agenda mostra por que “movimentação de dados” não pode ser reduzida a um único benchmark de armazenamento. Ela abrange controladores de memória, interfaces periféricas, malhas de switches, links ópticos, agendamento de software e posicionamento de dados.

O mecanismo emergente é direto. Computação mais rápida cria maior demanda por dados entregues no momento certo. Essa demanda pressiona cada camada ao redor do processador, tornando o equilíbrio do sistema mais valioso do que um número de pico isolado.

Gargalos de infraestrutura de IA ganham destaque à medida que as instalações reagem

O data center físico está se tornando uma restrição ativa para o design de computação, em vez de um prédio neutro que aceita qualquer hardware enviado pelos fornecedores.

Racks de IA podem concentrar muito mais equipamentos computacionais do que racks empresariais convencionais. Essa densidade aumenta a demanda por eletricidade e produz calor em uma área física menor. Os operadores precisam fornecer energia e remover calor sem comprometer a confiabilidade.

A refrigeração a ar continua adequada para muitas cargas de trabalho. As configurações mais densas usam cada vez mais refrigeração líquida direta, que transfere calor por meio de refrigerante fornecido mais perto dos processadores e de outros componentes.

Essa mudança afeta muito mais do que o servidor. Uma instalação pode precisar de novas tubulações, trocadores de calor, bombas, sistemas de monitoramento e procedimentos de manutenção. Também pode exigir mudanças na distribuição de energia, no layout do piso, nas dimensões dos racks e no planejamento de emergências.

Instalações brownfield criam um desafio particular. Um data center brownfield é um edifício existente adaptado para novos equipamentos. Seus sistemas elétricos e de refrigeração geralmente foram projetados antes de as atuais densidades de racks de IA se tornarem comuns.

Reconstruir tudo raramente é uma primeira opção atraente. Os operadores precisam decidir se modernizam o espaço existente, instalam capacidade modular, alugam espaço especializado de colocation ou constroem uma nova instalação.

A resposta da Dell se concentra em sistemas integrados em escala de rack. Seu portfólio em escala de rack combina componentes de computação, rede, armazenamento, refrigeração e gestão que, segundo a Dell, são validados antes da entrega.

Essa abordagem resolve um problema prático de implantação. Falhas de compatibilidade descobertas nas instalações de um cliente podem deixar o hardware ocioso enquanto vários fornecedores determinam responsabilidades. A integração na fábrica antecipa parte desses testes no processo.

A Dell afirma que seus sistemas PowerRack oferecem suporte a resfriamento líquido direto e a várias gerações de aceleradores. A empresa também diz que racks pré-configurados podem passar da entrega à execução de cargas de trabalho em pouco mais de seis horas, nas condições de um estudo terceirizado encomendado.

Os compradores devem tratar esse resultado de implantação como um teste específico, não como um cronograma universal. A preparação do local, as conexões de rede, a configuração de software e a disponibilidade de energia podem alterar o tempo necessário. Um rack pré-validado não pode corrigir uma capacidade inadequada da rede elétrica.

O gargalo físico vai além de edifícios individuais. A análise energética de 2026 da Agência Internacional de Energia examina o aumento da demanda dos data centers ao lado da preparação das redes elétricas, das cadeias de suprimentos, da acessibilidade e da segurança energética.

A agência espera que os data centers respondam por cerca de metade do crescimento da demanda de eletricidade dos Estados Unidos até 2030. Essa projeção abrange os data centers em geral, não apenas os sistemas de IA, mas a expansão da IA é um dos principais fatores.

Isso cria um cronograma diferente do desenvolvimento de semicondutores. Um fornecedor de chips pode introduzir uma nova geração em seu próprio ritmo de produto, enquanto linhas de transmissão, subestações e projetos de geração podem exigir processos mais longos de planejamento e aprovação.

A disponibilidade de energia pode, portanto, influenciar onde a capacidade é construída. Também pode moldar contratos, cronogramas de implantação e a quantidade de capacidade de reserva que um operador precisa garantir.

O resfriamento introduz compromissos regionais e operacionais. Clima, disponibilidade de água, preços de eletricidade e regulamentações locais afetam qual projeto faz sentido. Não há uma configuração universal que funcione para todos os locais.

A densidade também altera as consequências de falhas. Quando mais capacidade de computação fica concentrada em um rack, um evento de resfriamento ou energia pode afetar uma parcela maior do cluster. Monitoramento, redundância e procedimentos de reparo precisam evoluir junto com o hardware de maior densidade.

A modularidade oferece uma resposta. Interfaces de rack padronizadas e componentes de infraestrutura repetíveis podem reduzir parte do trabalho de integração. Também podem facilitar a substituição de camadas individuais à medida que os requisitos de processadores, memória e resfriamento mudam.

Ainda assim, a modularidade não elimina a engenharia de sistemas. Um padrão pode definir interfaces, mas os operadores ainda precisam validar o desempenho em cargas de trabalho reais e condições ambientais. Novas combinações podem expor comportamentos que os testes de componentes não detectam.

É por isso que a expressão AI infrastructure bottlenecks take focus - SiliconANGLE captura mais do que uma mudança na programação de conferências. Os limites físicos das instalações agora influenciam diretamente as decisões de hardware e software.

Uma equipe de modelos pode querer mais aceleradores, mas a equipe de infraestrutura precisa determinar se o próximo rack tem energia, resfriamento, capacidade de rede e suporte operacional suficientes. Essa negociação define cada vez mais o ritmo da implantação de IA.

Padrões abertos competem com sistemas fortemente integrados

A principal disputa é entre infraestrutura aberta e modular e stacks estreitamente coordenadas, sem que nenhuma das abordagens elimine a necessidade de validação extensiva.

Os padrões abertos prometem flexibilidade. Eles podem permitir que compradores combinem componentes de vários fornecedores, reduzam a dependência de um único fornecedor e preservem opções de atualização à medida que a tecnologia muda.

O Open Compute Project aplica essa lógica dos chips às instalações. Seu tema de 2026 propõe repensar o data center do chip à rede elétrica, incluindo cadeias de suprimentos de silício, gerenciamento de sistemas, equipamentos de TI e infraestrutura física.

Esse escopo reflete o problema de sistemas. Uma especificação aberta de servidor oferece valor limitado se o rack, o circuito de resfriamento, o software de gerenciamento ou a rede não puderem suportá-la. A interoperabilidade precisa se estender por vários limites.

Sistemas fortemente integrados oferecem uma vantagem diferente. Um fornecedor ou parceria coordena os componentes, valida as configurações e fornece um caminho de suporte mais claro. Isso pode reduzir o risco de implantação e encurtar o diagnóstico quando ocorrem falhas.

O custo é a redução da liberdade. Os compradores podem ter menos opções para componentes individuais ou depender do cronograma de lançamentos de um fornecedor. Substituir uma camada pode se tornar difícil quando seu comportamento está estreitamente ligado ao restante da stack.

Nenhum dos lados oferece uma resposta simples. Componentes abertos podem expor custos de integração que estavam ocultos na decisão de compra. Sistemas proprietários podem ter bom desempenho inicialmente, mas restringir substituições futuras.

As cargas de trabalho de IA tornam a escolha mais difícil porque mudam rapidamente. Treinamento, recuperação, ajuste fino, inferência em lote e agentes interativos produzem padrões distintos em memória, armazenamento e rede.

Uma arquitetura otimizada para grandes execuções de treinamento pode não oferecer a melhor economia para muitas solicitações pequenas de inferência. Um projeto voltado para baixa latência também pode sacrificar a utilização quando a demanda varia.

Por isso, os compradores precisam de evidências no nível da carga de trabalho. O throughput de pico é útil, mas a utilização sustentada, a latência de cauda, o consumo de energia, o comportamento de recuperação e a compatibilidade de software frequentemente determinam o valor em produção.

A latência de cauda mede a parcela mais lenta das solicitações, em vez da média. Ela importa porque um pequeno número de operações atrasadas pode afetar a experiência do usuário ou atrasar um trabalho distribuído.

A utilização é igualmente importante. Ela descreve quanto da capacidade computacional disponível realiza trabalho útil. Um componente mais barato pode se tornar caro se deixar aceleradores ociosos ou exigir esforço excessivo de engenharia.

Isso pressiona provedores de nuvem, fabricantes de equipamentos, empresas de chips e compradores empresariais. Os provedores de nuvem precisam mostrar que suas plataformas transformam a escala de hardware em serviço confiável. Os fabricantes de equipamentos precisam validar configurações completas em vez de apresentar especificações isoladas.

As empresas de chips enfrentam pressão para trabalhar com um conjunto mais amplo de interfaces. Os compradores empresariais precisam desenvolver entendimento técnico suficiente para questionar alegações de cada camada da cadeia de suprimentos.

O ceticismo aqui deve permanecer específico. Os fornecedores têm fortes incentivos para definir o gargalo em termos que seus produtos resolvem. Um fornecedor de armazenamento enfatizará o acesso aos dados, enquanto uma empresa de redes destacará o desempenho da malha de rede.

Um fornecedor de energia pode apontar legitimamente para restrições da rede elétrica, e um fornecedor de servidores pode defender racks pré-integrados. Cada alegação pode ser verdadeira em um ambiente específico sem identificar a restrição dominante em todos os lugares.

A lista de patrocinadores do fórum reforça a necessidade dessa cautela. A divulgação da SiliconANGLE oferece contexto útil, mas os leitores ainda devem separar o argumento comercial de um participante do evento dos resultados operacionais observados de forma independente.

As evidências mais confiáveis virão de sistemas implantados executando cargas de trabalho representativas. Os compradores devem procurar condições completas de teste, incluindo tamanho do modelo, tamanho do lote, posicionamento dos dados, topologia de rede, limites de energia e versões de software.

Também devem perguntar qual componente se torna a próxima restrição depois que um gargalo melhora. Armazenamento mais rápido pode expor uma limitação de rede. Mais memória pode aumentar a demanda de energia. Racks mais densos podem deslocar o problema para o sistema de resfriamento.

Esse padrão recorrente explica por que a abordagem de sistemas está ganhando atenção. A otimização de infraestrutura não elimina permanentemente os gargalos. Ela muda sua localização e obriga a próxima camada a responder.

Padrões abertos podem facilitar essas respostas ao criar interfaces intercambiáveis. Sistemas integrados podem reduzir o trabalho necessário para coordená-las. A abordagem vencedora dependerá de a flexibilidade ou a certeza de implantação ter mais valor para um operador específico.

As próximas evidências virão das implantações, não dos painéis

Três sinais mostrarão se a mudança para uma abordagem em nível de sistemas produz ganhos mensuráveis: qualificação de produtos, utilização real de clusters e preparação das instalações.

O primeiro sinal é a qualificação, pelos clientes, de novos componentes de memória e armazenamento. A ScaleFlux planeja fornecer amostras do FC6116 a clientes selecionados durante o quarto trimestre de 2026. A amostragem inicia a avaliação, mas não equivale a uma adoção ampla.

Observe se os fabricantes de equipamentos anunciam projetos validados, cronogramas de produção e resultados de interoperabilidade. Evidências em cargas de trabalho mistas fortaleceriam a alegação de que controladores de armazenamento e memória podem aliviar a pressão no caminho de dados.

Atrasos, compatibilidade limitada ou grandes diferenças entre especificações e resultados de aplicações enfraqueceriam esse argumento. Eles mostrariam que a velocidade da interface, por si só, não pode resolver o problema de integração.

O segundo sinal é a eficiência no nível do cluster. Operadores discutem cada vez mais tokens por watt, utilização de aceleradores e o custo de atender solicitações de modelos. Essas medidas conectam o projeto técnico à produção útil.

Observe divulgações que expliquem tanto a carga de trabalho quanto as condições de medição. Um indicador de tokens por watt significa pouco sem o modelo, a precisão, o tamanho do lote, a meta de latência e o limite completo de energia do sistema.

Uma utilização melhorada em cargas de trabalho de produção sustentaria a tese de sistemas. Indicaria que melhor posicionamento de memória, redes, armazenamento e agendamento mantêm os aceleradores produtivos durante uma parcela maior de seu tempo de operação.

Uma utilização estável, apesar de componentes mais novos, sugeriria que a coordenação de software ou a variabilidade das cargas de trabalho continua sendo o problema dominante. Também poderia revelar que melhorias em uma camada apenas deslocaram o congestionamento para outro lugar.

O terceiro sinal é a velocidade de implantação das instalações. Sistemas integrados e modulares prometem reduzir o tempo entre a entrega do hardware e a operação produtiva. Seu valor dependerá de os locais reais conseguirem fornecer a energia e o resfriamento necessários.

Observe implantações de clientes que identifiquem densidade de rack, método de resfriamento, tempo de comissionamento e modificações nas instalações. Observe também os cronogramas de interconexão com concessionárias e a nova capacidade de data centers em mercados com restrições de energia.

Cronogramas de implantação mais curtos fortaleceriam o argumento a favor da integração de fábrica e de projetos de rack repetíveis. Atrasos persistentes causados por subestações, licenças, adaptações de resfriamento ou oposição local mostrariam que as restrições das instalações ainda predominam.

O fórum de 13 de outubro pode esclarecer o que os fornecedores estão construindo e onde enxergam demanda. Também pode expor diferenças entre suas arquiteturas preferidas. Por si só, não pode estabelecer qual abordagem produz a melhor economia em produção.

Os leitores devem prestar atenção a alegações precisas. Um palestrante identifica a carga de trabalho, o limite de medição e o ponto de comparação? O fornecedor explica o que permanece fora de seu controle?

Alegações sobre abertura merecem escrutínio semelhante. Dar suporte a uma interface padrão é útil, mas a interoperabilidade significativa exige que produtos de diferentes fornecedores operem juntos em condições realistas.

A mesma regra se aplica à modularidade. Um rack montado com blocos substituíveis não é automaticamente fácil de atualizar. Energia, firmware, resfriamento, topologia de rede e software de gerenciamento podem preservar dependências ocultas.

Para compradores empresariais, a resposta prática é avaliar a infraestrutura como uma cadeia. Uma decisão de aquisição deve incluir o caminho de dados, os requisitos das instalações, as dependências de software e o modelo de suporte, além da disponibilidade de aceleradores.

Os desenvolvedores também têm um papel. Padrões de recuperação, tamanho de contexto, cache, processamento em lote e roteamento de modelos influenciam a demanda de infraestrutura. O projeto da aplicação pode reduzir o movimento de dados ou amplificá-lo.

Os profissionais do conhecimento sentem o resultado indiretamente, por meio do tempo de resposta, da confiabilidade e dos limites de serviço. Quando a infraestrutura opera de forma ineficiente, os provedores acabam refletindo essas restrições na disponibilidade dos produtos, nas políticas de uso ou no atraso de recursos.

Isso torna AI infrastructure bottlenecks take focus - SiliconANGLE relevante para além da engenharia de data centers. A questão deixou de ser se o setor consegue construir processadores mais rápidos. Agora, é saber se sistemas completos podem transformar sua capacidade em serviços de IA confiáveis e acessíveis.

Os próximos três meses devem trazer respostas iniciais. Novos controladores entrarão em avaliação pelos clientes, as sessões da OCP publicarão material técnico e os fornecedores apresentarão mais evidências de implantação.

Trate cada anúncio como uma parte de um sistema, não como um veredito final. Pergunte se ele melhora a produção útil sob restrições reais e se a infraestrutura ao redor consegue absorver a mudança.

A corrida pelas GPUs não acabou. Ela se expandiu para uma disputa por tudo o que é necessário para mantê-las em funcionamento. Acompanhe os resultados de qualificação, os dados de utilização e os cronogramas das instalações e, então, avalie quais sistemas entregam mais do que especificações impressionantes de componentes.