SK hynix Define o Primeiro Padrão HBF, e a Ligação Google Hynix Eleva a Aposta

A SK hynix lançou a primeira especificação High Bandwidth Flash, apenas seis meses após iniciar seu consórcio de padronização com a Sandisk. A conexão google hynix acrescenta uma importante voz do lado do cliente, pois o Google agora participa ao lado da desenvolvedora de processadores de IA Tenstorrent.

A especificação define capacidades de HBF de até 512GB e faixas de largura de banda de cerca de 0.4TB/s a 3.0TB/s. HBF é memória flash encapsulada para acesso do processador muito mais rápido do que um drive de estado sólido convencional. Ela foi concebida para complementar a memória de alta largura de banda, não para substituí-la em todas as cargas de trabalho.

Essa distinção cria a verdadeira tensão. A HBM oferece a velocidade necessária para os aceleradores modernos, mas suas limitações de capacidade, energia, encapsulamento e fornecimento moldam sistemas inteiros de IA. SK hynix e Sandisk propõem outra camada para dados que exigem alta largura de banda sem ocupar a escassa capacidade de HBM.

A presença do Google dá mais credibilidade à proposta, mas participação não é implantação. O consórcio ainda precisa de silício funcional, software confiável e evidências de que a latência e a resistência da NAND se adequam à inferência em produção. Esses testes determinarão se a HBF se torna infraestrutura ou continua sendo uma especificação atraente.

SK hynix Transforma a HBF de uma Proposta em uma Especificação Aberta

A primeira especificação oferece aos projetistas de processadores um alvo técnico compartilhado, mas ainda não estabelece um produto comercial.

A SK hynix anunciou a especificação em 4 de agosto, durante a abertura da FMS 2026 em Santa Clara, Califórnia. A conferência segue até 6 de agosto e reúne empresas de memória, armazenamento, processadores e data centers.

O lançamento segue um esforço de padronização iniciado com a Sandisk em fevereiro de 2026. Essa iniciativa, por sua vez, sucedeu uma parceria inicial entre as empresas em agosto de 2025. Passar de uma parceria a uma especificação publicada em seis meses é incomumente rápido para uma nova categoria de memória.

De acordo com as especificações de HBF, o design suporta pilhas de dies NAND de 8 e 16 camadas. Seu limite de capacidade chega a 512GB, enquanto três classes de desempenho abrangem aproximadamente 0.4TB/s a 3.0TB/s.

Essas faixas importam porque a HBF não é apresentada como um único produto fixo. As classes permitem que os projetistas equilibrem largura de banda, capacidade, complexidade de encapsulamento e requisitos do sistema. Uma implantação otimizada para pesos de modelos pode exigir uma configuração diferente daquela voltada a dados de recuperação.

O padrão também adota UCIe, ou Universal Chiplet Interconnect Express. UCIe é uma interface aberta para conectar diferentes chiplets semicondutores dentro de um mesmo encapsulamento ou sistema.

O uso de UCIe deve reduzir a dependência de uma ligação proprietária de processador. Em princípio, a HBF poderia se conectar a diferentes CPUs, GPUs e aceleradores de IA que suportem implementações compatíveis. Essa flexibilidade é essencial se a HBF pretende se tornar uma camada para toda a indústria.

O documento também aborda características elétricas, confiabilidade das pilhas de dies, encapsulamento e orientações de entrada e saída de software. Esses detalhes levam o projeto além de um diagrama conceitual. Eles fornecem a fornecedores de memória, empresas de processadores e desenvolvedores de software limites de engenharia comuns.

SK hynix e Sandisk divulgaram a especificação por meio do Open Compute Project. O lançamento da padronização criou uma frente de trabalho dedicada no OCP, em vez de um formato bilateral fechado.

Essa escolha importa para a adoção. Uma empresa de processadores resistirá a projetar em torno de uma camada de memória controlada por um único fornecedor. Uma especificação aberta oferece um caminho mais claro para múltiplas implementações, ferramentas mais amplas e suporte compartilhado de software.

No entanto, abertura não garante interoperabilidade. Os fornecedores ainda precisam transformar especificações em controladores, encapsulamentos, firmware e comportamento de runtime compatíveis. Certificação e implementações de referência importarão tanto quanto o próprio documento.

O primeiro padrão HBF, portanto, muda a discussão sem encerrá-la. A indústria agora tem uma arquitetura definida para avaliar. Ainda não tem evidências de produção que mostrem que essa arquitetura entrega a economia prometida.

Por Que a Ligação Google Hynix Importa para a Inferência de IA

A participação do Google sinaliza que a HBF está sendo moldada tendo em vista cargas de trabalho de hyperscalers, não apenas por empresas em busca de outro mercado para NAND.

A SK hynix afirma que Google e Tenstorrent participam do consórcio. O Google DeepMind Senior Staff Engineer Xiaoyu Ma também está programado para participar de um painel em 6 de agosto com executivos da SK hynix e da Sandisk.

O título do painel, “Breaking the Memory Wall with High Bandwidth Flash”, identifica o problema-alvo. Processadores de IA podem realizar cálculos rapidamente, mas o desempenho sofre quando dados úteis não conseguem chegar até eles em uma taxa compatível.

A inferência torna esse problema mais difícil. O treinamento constrói um modelo, enquanto a inferência executa o modelo para responder a solicitações. Sistemas de produção movimentam repetidamente pesos de modelos, dados de atenção, embeddings e contexto em cache através de hierarquias de memória restritas.

Janelas de contexto mais longas aumentam a pressão por meio do cache de chave-valor. Um cache KV armazena dados intermediários de atenção para que um modelo não recalcule tokens anteriores durante a geração. Seu tamanho cresce à medida que as solicitações se tornam mais longas ou numerosas.

Sistemas agênticos podem agravar a questão. Um agente de IA pode planejar, chamar ferramentas, inspecionar arquivos, recuperar registros e preservar estado ao longo de várias etapas. Cada atividade adiciona movimentação de dados e pode manter uma solicitação ativa por mais tempo.

O Vice-Presidente Executivo da SK hynix Kim Chun-sung e o Vice-Presidente Kang Uk-song apresentam a memória em camadas como resposta. A memória em camadas posiciona dados em vários tipos de memória de acordo com velocidade, capacidade, custo e padrões de acesso.

Nesse modelo, a HBM permanece mais próxima do acelerador para os dados mais ativos. A HBF contém conjuntos de dados maiores e predominantemente orientados à leitura, que ainda exigem largura de banda substancial. SSDs convencionais oferecem outro nível, mais lento, com maior distância e capacidade.

A relação google hynix importa porque o Google opera serviços de IA e desenvolve suas próprias tensor processing units. Seus engenheiros podem avaliar a proposta diante de requisitos reais de aceleradores, compiladores, modelos e data centers.

Isso não significa que o Google tenha se comprometido a comprar HBF da SK hynix. O anúncio oficial identifica participação no consórcio, não um contrato de fornecimento ou cronograma de implantação. Tampouco identifica quais sistemas do Google poderiam usar a tecnologia.

Ainda assim, o envolvimento do lado do cliente pode impedir que um padrão reflita apenas as prioridades de um fornecedor de memória. Hyperscalers se preocupam com tratamento de falhas, gestão de frota, portabilidade de software, capacidade de reparo e utilização total do sistema.

A Tenstorrent acrescenta uma perspectiva diferente. Ela desenvolve processadores de IA e tecnologia RISC-V fora da arquitetura dominante de GPUs. Sua participação apoia a alegação do consórcio de que a HBF deve funcionar em diferentes tipos de processadores.

Juntos, Google e Tenstorrent ampliam o projeto para além de SK hynix e Sandisk. Um representa operações de IA em escala hyperscale, enquanto o outro representa design alternativo de aceleradores. Ambos podem expor pressupostos que fornecedores de memória poderiam deixar passar.

O sinal importante é interesse arquitetural, não endosso de hardware concluído. A HBF agora conta com participantes capazes de testar se sua interface corresponde a sistemas de inferência reais. Seu envolvimento contínuo será mais significativo do que seus nomes no anúncio de lançamento.

HBF Cria uma Nova Camada em Vez de Substituir a HBM

O mecanismo central é o posicionamento de dados: a HBF só funciona se os sistemas mantiverem dados sensíveis à latência na HBM e moverem dados adequados para a flash.

A HBM usa dies de DRAM empilhados e interfaces largas para fornecer largura de banda muito alta próxima a um processador. A HBF toma emprestada a ideia de empilhamento e interface larga, mas usa flash NAND para obter maior capacidade e armazenamento persistente.

A NAND retém dados sem energia e oferece densidade muito maior do que a DRAM. Ela também apresenta maior latência de leitura, gravações mais lentas e resistência limitada a ciclos de programação e apagamento. Essas diferenças impedem que a HBF atue como um simples substituto da HBM.

A classe superior de 3.0TB/s é, portanto, apenas uma parte da história de desempenho. A largura de banda de pico descreve quanto dado pode ser movimentado em condições favoráveis. Ela não captura o atraso antes que leituras pequenas ou irregulares retornem.

Essa lacuna é importante para cargas de trabalho de IA. Em geral, pesos de modelos são lidos repetidamente e mudam com pouca frequência durante a inferência, o que se adequa melhor à flash. Caches KV recebem gravações contínuas, tornando-os uma adaptação mais difícil.

Um artigo de pesquisa de junho de 2026 questionou se a flash de alta largura de banda era suficiente como segunda camada de memória. A análise de camadas de memória dos autores modelou a HBF em comparação com LPDDR no encapsulamento e memória conectada de forma coerente.

O modelo constatou que propriedades diferentes dominavam cargas de trabalho distintas. A capacidade reduzia o número de réplicas de modelos, a largura de banda afetava a entrega de dados e o suporte a gravação determinava se uma camada poderia absorver o tráfego de cache KV.

O artigo também modelou cerca de 20 microssegundos de latência de leitura NAND. Esse atraso reduziu a largura de banda efetiva para acessos dispersos e pequenos, mesmo quando a largura de banda nominal da HBF era alta.

A pesquisa foi analítica, e não uma medição de silício comercial de HBF. Suas premissas não devem ser tratadas como um veredito sobre o hardware da SK hynix. Ainda assim, ela identifica um teste de estresse crível para a arquitetura.

Outro artigo, de julho, propôs FlashAccel, uma arquitetura para usar HBF durante a inferência de modelos grandes. O estudo FlashAccel concentrou-se em flash de maior capacidade, ao mesmo tempo em que abordava baixa utilização de largura de banda e limitações de gravação.

Esses estudos apontam para o software como o requisito oculto. Um runtime precisa identificar dados quentes e frios, prever padrões de acesso e mover informações sem paralisar o acelerador.

Esse processo não pode adicionar cópias excessivas. Mover repetidamente os mesmos dados entre SSD, HBF e HBM consumiria largura de banda e energia. Um posicionamento inadequado poderia eliminar a vantagem de capacidade.

A ligação do processador também precisa preservar throughput útil sob padrões de acesso realistas. UCIe fornece uma base comum de interconexão, mas controladores e software determinam como as aplicações experimentam a camada.

O uso inicial mais forte da HBF pode envolver pesos de modelos, índices de recuperação ou parâmetros de especialistas relativamente estáveis. Esses conjuntos de dados podem ser grandes, muito lidos e menos intensivos em gravações do que caches KV ativos.

Modelos mixture-of-experts oferecem um exemplo claro. Esses modelos ativam componentes especializados selecionados para cada token, em vez de usar todos os parâmetros. Especialistas usados com menos frequência podem permanecer na HBF até que o runtime precise deles.

Esse arranjo poderia permitir que um sistema mantenha um modelo maior próximo a cada acelerador. Ele poderia reduzir transferências de armazenamento remoto ou diminuir o número de dispositivos necessários para armazenar pesos de modelos.

No entanto, um especialista selecionado em momentos imprevisíveis cria leituras irregulares. A latência NAND então se torna importante, mesmo quando a largura de banda agregada parece adequada. A pré-busca só pode ajudar quando o software prevê a demanda com precisão.

A HBF também cria questões de encapsulamento e térmicas. NAND empilhada, lógica de controlador, links e aceleradores próximos geram calor. O padrão inclui orientações sobre encapsulamento e confiabilidade, mas as implementações precisam validar esses limites.

A SK hynix descreve a HBF como uma ponte entre HBM e SSDs. Esse é o enquadramento conceitual correto. Seu valor depende de preencher essa lacuna sem herdar fraquezas demais de nenhum dos dois lados.

O Primeiro Padrão Ainda Enfrenta um Teste de Realidade do Silício

A maior incerteza da HBF é se sistemas reais conseguem transformar especificações impressionantes de capacidade e largura de banda em desempenho previsível para aplicações.

O anúncio na FMS não contém nenhum benchmark de HBF medido de forma independente. Ele não informa latência, durabilidade, throughput de aplicações, taxas de erro, limites térmicos ou consumo de energia de hardware comercial.

Também não indica uma data de produção para a HBF da SK hynix. A Sandisk havia informado anteriormente que as primeiras amostras de HBF estavam planejadas para 2026, seguidas por dispositivos que integram HBF para inferência de IA no início de 2027.

Roadmaps podem mudar. Fabricar NAND empilhada com uma interface lógica de alta velocidade exige trabalho em rendimento, encapsulamento, controladores e aspectos térmicos. Um padrão pode alinhar interfaces sem resolver esses desafios de produção.

A adequação às cargas de trabalho apresenta outro risco. A flash favorece leituras e dados persistentes, enquanto sistemas de inferência criam cada vez mais caches dinâmicos de grande porte. Se a HBF não puder suportar gravações suficientes, os arquitetos precisarão de outra camada para esse tráfego.

Isso não torna a HBF irrelevante. Apenas restringe as tarefas que ela pode executar com eficiência. O design pode se destacar com pesos e índices, enquanto apresenta desempenho fraco com estados que mudam rapidamente.

A maturidade do software é outra limitação. Os aceleradores já dependem de runtimes complexos para alocação de memória, batching, caching, quantização e agendamento. Adicionar HBF introduz mais uma decisão de posicionamento nessa pilha.

Os desenvolvedores precisarão ter visibilidade sobre onde os dados residem e por que se movem. Caso contrário, um modelo pode atingir metas de throughput em laboratório e ainda produzir latência de cauda instável em produção.

A latência de cauda mede a parcela mais lenta das requisições, e não a média. Ela importa porque algumas poucas buscas de memória atrasadas podem violar a meta de resposta de um serviço interativo.

As três classes de largura de banda do padrão também podem fragmentar as expectativas de desempenho. Um sistema projetado em torno do comportamento da Classe 3 talvez não se traduza bem para uma classe inferior. O software precisa de descoberta confiável de capacidades e comportamento de fallback.

A interoperabilidade também continua não comprovada. Uma interface aberta deveria permitir várias combinações de processadores e memória. A compatibilidade real dependerá de comportamento elétrico, firmware, encapsulamento e detalhes de gerenciamento de erros.

O envolvimento do Google não elimina esses riscos. O vínculo google hynix aumenta a confiança de que questões relevantes estão entrando no processo de design. Ele não fornece um benchmark público nem um compromisso de implantação.

A concorrência pressionará a abordagem HBF de várias direções. Samsung, Micron e outros fabricantes de memória podem ampliar a capacidade de HBM ou desenvolver projetos alternativos de flash empilhada. A memória conectada por CXL pode fornecer outra camada de capacidade.

LPDDR posicionada perto de um acelerador oferece menor latência e total capacidade de gravação, embora com diferentes trade-offs de densidade e energia. Tecnologias diretas de GPU para armazenamento também podem melhorar o acesso a SSDs convencionais sem criar HBF.

Essas abordagens não são mutuamente exclusivas. Um futuro servidor pode usar HBM, LPDDR, HBF, memória CXL e SSDs em conjunto. Essa flexibilidade também aumenta a complexidade e faz com que cada camada adicional precise justificar seu custo.

O caso mais convincente para a HBF não virá apenas de uma especificação de pico. Virá de menor custo de sistema, melhor eficiência energética ou maior throughput sob uma carga de trabalho de produção definida.

Resultados independentes devem comparar sistemas completos, não dispositivos de memória isolados. Medições úteis incluem tokens por segundo, tempo até o primeiro token, latência de cauda, energia por token e utilização do acelerador.

Os resultados de confiabilidade também serão importantes. Data centers precisam de correção de erros previsível, vida útil dos componentes, procedimentos de manutenção e isolamento de falhas. Uma camada de memória persistente próxima a processadores caros não pode se tornar um ponto fraco operacional.

A SK hynix afirma que a HBF ampliará a fronteira entre memória e armazenamento. Esse enquadramento é razoável, mas a fronteira existe porque as tecnologias se comportam de forma diferente. A engenharia não pode eliminar essas diferenças por meio de nomenclatura.

SK hynix Combina HBF Com NAND de 375 Camadas

A apresentação na FMS conecta o padrão HBF a um esforço mais amplo para tornar a NAND mais útil em infraestrutura de IA limitada por energia.

A SK hynix também está mostrando pela primeira vez seu wafer 4D NAND de décima geração, com 375 camadas, e produtos relacionados. A tecnologia continua em desenvolvimento.

A empresa afirma que a nova NAND melhora o desempenho por watt em 2,5 vezes em comparação com sua geração anterior. Esse número é uma alegação da empresa e não recebeu validação independente no anúncio.

A SK hynix planeja iniciar a produção em massa de SSDs corporativos que usam a NAND no início de 2027. A empresa está posicionando essas unidades para cargas de trabalho de data center de alto desempenho e alta capacidade.

O anúncio da NAND sustenta a narrativa da HBF sem provar o desempenho da HBF. Ambos os produtos respondem à mesma pressão de infraestrutura: sistemas de IA precisam de dados mais acessíveis sem eletricidade ilimitada.

NAND de maior densidade pode ampliar a capacidade dentro de uma área física fixa. Um melhor desempenho por watt também pode reduzir a energia gasta na movimentação de dados pelos sistemas de armazenamento.

Essas melhorias importam porque a infraestrutura de IA está cada vez mais limitada no nível do sistema. Um acelerador mais rápido oferece pouco valor quando memória, armazenamento, rede, refrigeração ou fornecimento de energia impedem a utilização total.

A SK hynix está, portanto, apresentando um portfólio, e não uma memória universal. Sua mensagem de memória em camadas abrange DRAM rápida, HBM empilhada, HBF e SSDs corporativos.

Essa estratégia reflete uma verdade prática. Nenhum meio oferece simultaneamente a menor latência, a maior capacidade, a melhor durabilidade, o menor consumo de energia e o menor custo.

A tarefa de engenharia é posicionar cada conjunto de dados na camada menos cara que ainda atenda à sua meta de desempenho. Esse princípio parece simples, mas as cargas de trabalho mudam a cada requisição.

Por exemplo, um sistema de recuperação pode armazenar bilhões de vetores que representam documentos ou imagens. Segmentos de índice acessados com frequência podem permanecer em memória mais rápida, enquanto segmentos menos acessados migram para HBF ou SSDs.

Um grande serviço de inferência pode manter camadas ativas do modelo em HBM. Pesos de especialistas selecionados com menos frequência podem residir na HBF, enquanto o armazenamento convencional mantém checkpoints completos e versões históricas.

Um agente que trabalha com documentos corporativos cria outra possível carga de trabalho. O sistema precisa de pesos do modelo, índices de recuperação, estado de ferramentas e contexto do usuário, mas esses conjuntos de dados têm padrões de acesso diferentes.

Trabalhadores do conhecimento não interagirão diretamente com a HBF. Eles perceberão seu efeito apenas se os serviços suportarem contextos mais longos, índices locais maiores, tempos de resposta mais estáveis ou menor uso de recursos.

As equipes de engenharia enfrentarão a carga de integração. Elas precisam rastrear o comportamento da memória, ajustar políticas de posicionamento e preservar a documentação diante de mudanças de hardware e software. Uma base de conhecimento de engenharia pesquisável pode ajudar as equipes a reter essas decisões.

O portfólio mais amplo também protege a SK hynix de um resultado binário para a HBF. Se a adoção da HBF levar mais tempo, a demanda por HBM e SSDs corporativos ainda poderá crescer com a infraestrutura de IA.

No entanto, esse portfólio cria um equilíbrio estratégico delicado. A HBF precisa oferecer valor suficiente para atrair clientes sem simplesmente deslocar receita de produtos de memória existentes.

A Sandisk enfrenta um desafio relacionado pelo lado da NAND. A HBF pode criar um uso de maior valor para a flash, mas o sucesso exige parceiros de processadores e software que os fornecedores de armazenamento não conseguem comandar sozinhos.

É por isso que o padrão aberto e a participação no consórcio importam em conjunto. Os fornecedores de memória definem dispositivos que podem ser fabricados, enquanto participantes de processadores e nuvem moldam um sistema capaz de utilizá-los.

Três Sinais Mostrarão se a HBF Está se Tornando Infraestrutura Real

A próxima fase precisa substituir o impulso do consórcio por evidências de hardware, suporte de software e implantações reproduzíveis.

O primeiro sinal é silício HBF funcional medido sob cargas de trabalho de inferência semelhantes às de produção. As amostras devem revelar mais do que largura de banda de pico. Latência, durabilidade, energia, aspectos térmicos e throughput efetivo exigem igual atenção.

Uma amostra que sustente desempenho útil para pesos de modelos com muitas leituras reforçaria o caso. Grandes diferenças entre a largura de banda nominal e a efetiva o enfraqueceriam, especialmente sob acesso irregular.

O segundo sinal é a integração de software. Os principais runtimes de inferência precisam de políticas para posicionar pesos, caches, índices e dados intermediários entre HBM, HBF e armazenamento.

Uma integração útil deve expor métricas e controles, em vez de ocultar todas as decisões de posicionamento. Operadores precisam diagnosticar movimentação de páginas, interrupções, pressão de gravação e uso de capacidade.

O suporte de software do Google ou da Tenstorrent tornaria a relação google hynix mais concreta. Código público, designs de referência, resultados em conferências ou compatibilidade documentada teriam mais peso do que a participação no consórcio por si só.

O terceiro sinal é uma implementação mais ampla do padrão aberto. Fornecedores adicionais de memória, fabricantes de processadores ou operadores de nuvem reduziriam a dependência das duas empresas fundadoras.

Vários produtos interoperáveis mostrariam que a divulgação pela OCP criou uma interface genuína para o setor. Variantes incompatíveis entre fornecedores sugeririam, em vez disso, que o padrão não tem precisão ou alinhamento comercial suficientes.

A FMS 2026 marca o início desse período de validação, não sua conclusão. SK hynix e Sandisk definiram uma nova camada de memória plausível e atraíram participantes relevantes.

Elas ainda não demonstraram que a HBF lida com tráfego real de inferência melhor do que combinações concorrentes de HBM, LPDDR, memória CXL e SSDs. Esse resultado precisa vir de sistemas, não de especificações.

Para desenvolvedores e compradores corporativos, a ação imediata é acompanhar atentamente as evidências das cargas de trabalho. Pergunte onde os pesos do modelo, caches KV e índices de recuperação residem durante cada benchmark.

Também pergunte se os ganhos relatados incluem os custos de energia, software e hardware de todo o sistema. Um componente de memória mais rápido não garante um serviço mais eficiente.

O primeiro padrão HBF torna esses testes possíveis. As próximas amostras decidirão se o esforço de Google, Sandisk e SK hynix se torna uma nova camada de infraestrutura ou uma especificação ambiciosa.