Samsung presenta una estrategia integral de memoria para centros de datos de IA

Samsung aprovechó su más reciente exhibición de memoria y almacenamiento para plantear una afirmación más amplia: los futuros centros de datos de IA necesitan hardware coordinado, no un solo chip más rápido. El evento apareció en Google News, pero el conflicto importante se encuentra más profundamente en el rack del servidor. Samsung quiere que los clientes compren una jerarquía integrada que abarque memoria para aceleradores, memoria de servidor ampliable y almacenamiento empresarial.

Esta propuesta enfrenta a Samsung con SK hynix, el proveedor que logró una ventaja temprana en memoria de alto ancho de banda para aceleradores de IA. Samsung no responde a esa presión solo con HBM. Presenta HBM4, módulos de servidor de bajo consumo, productos Compute Express Link y unidades de estado sólido PCIe 6.0 como partes de una misma arquitectura.

El enfoque tiene sentido técnico porque un acelerador de IA rara vez funciona de forma aislada. Los sistemas de entrenamiento e inferencia trasladan constantemente pesos de modelos, prompts, contexto en caché y resultados intermedios entre varios niveles de hardware. Sin embargo, Samsung todavía debe demostrar que agrupar esos niveles en un solo portafolio produce sistemas implementados mejores, y no solo una exhibición más completa en una feria.

El titular de Google News oculta una estrategia más amplia de Samsung

Samsung vende una jerarquía de centros de datos de IA, no una colección de chips de memoria sin relación entre sí.

La nota original de Google News describe cómo Samsung exhibe productos avanzados de memoria y almacenamiento para futuros centros de datos de IA. Ese resumen es correcto, pero minimiza el argumento estratégico. Samsung quiere suministrar varios puntos a lo largo de la ruta que siguen los datos antes, durante y después del procesamiento del acelerador.

En el nivel más cercano se encuentra la memoria de alto ancho de banda, o HBM, que coloca DRAM apilada junto a un acelerador para proporcionar un rendimiento de datos muy elevado. Samsung inició los envíos comerciales de HBM4 en febrero de 2026. La empresa afirma que su implementación alcanza 11.7 gigabits por segundo por pin y 3.3 terabytes por segundo de ancho de banda total.

Samsung diseñó HBM4 con su DRAM de sexta generación de clase 10 nanómetros y un die base lógico de 4 nanómetros. El die base gestiona la comunicación entre la memoria apilada y el paquete del procesador. Le da a Samsung margen para adaptar las interfaces y el comportamiento energético a clientes específicos de aceleradores.

La empresa ofrece pilas HBM4 con capacidades de entre 24GB y 36GB. También planea una versión de 16 capas que alcanzará 48GB. Estas cifras importan porque los operadores de aceleradores necesitan tanto ancho de banda como capacidad a medida que crecen los modelos.

Samsung ya pasó al siguiente paso. En GTC 2026, mostró HBM4E, una generación mejorada destinada a aumentar el ancho de banda antes de que la industria llegue a HBM5. Según la hoja de ruta de HBM4E de Samsung, el producto apunta a hasta 16 gigabits por segundo por pin y 4 terabytes por segundo de ancho de banda.

Más lejos del procesador, Samsung posiciona SOCAMM2 como un nivel de memoria de servidor de menor consumo. SOCAMM2 utiliza tecnología LPDDR, más conocida por los dispositivos móviles, en un módulo de servidor compacto. Su objetivo es ofrecer más capacidad que HBM sin adoptar el perfil energético de los módulos convencionales de DRAM para servidores.

Samsung también cuenta con productos de memoria CXL. Compute Express Link, o CXL, es una interconexión que permite a los procesadores compartir y ampliar memoria mediante una conexión coherente. Puede dar a los servidores acceso a capacidad agrupada más allá de la memoria conectada directamente a cada procesador.

En la capa de almacenamiento se encuentra el SSD empresarial PM1763. Utiliza PCIe 6.0, la generación más reciente de la interfaz que conecta dispositivos de almacenamiento con procesadores de servidor. Samsung inició la producción en masa en julio, después de mostrar previamente la unidad en eventos del sector.

Esta línea explica por qué la exhibición merece más atención que un resumen rutinario de productos. Samsung sostiene que la próxima competencia de infraestructura abarcará toda la ruta que recorren los datos de IA. Esa ruta comienza con almacenamiento persistente y termina junto al acelerador.

El hardware sigue dividido en productos con distintas velocidades, capacidades, límites de resistencia y costes. La oportunidad de Samsung es coordinar esos productos. Su desafío es demostrar que los clientes obtienen suficiente de esa coordinación como para preferir un solo proveedor en varios niveles.

Por qué los sistemas de IA necesitan más que HBM más rápido

HBM puede alimentar rápidamente a un acelerador, pero no puede almacenar de forma rentable todos los modelos, prompts y respuestas en caché que necesita un servicio de IA.

HBM recibe gran parte de la atención en el hardware de IA porque el rendimiento de los aceleradores depende del ancho de banda de memoria. Un procesador puede contener miles de unidades de cómputo, pero esas unidades logran poco mientras esperan datos. Colocar memoria apilada cerca del procesador reduce esa espera.

Sin embargo, la capacidad de HBM está limitada por el área del paquete, los límites térmicos, la complejidad de fabricación y el coste. Por ello, los operadores conservan solo la información más activa en ese nivel. Los datos menos activos se mueven por la memoria del sistema, capacidad conectada mediante CXL o SSD.

La inferencia hace que esta jerarquía sea especialmente importante. Un servidor de inferencia genera respuestas a partir de un modelo ya entrenado. Debe mantener los pesos del modelo y, al mismo tiempo, seguir el contexto de trabajo asociado con las solicitudes activas.

Ese contexto de trabajo suele almacenarse en una caché clave-valor. Una caché KV conserva datos intermedios de atención para que el modelo no recalcule cada token anterior para cada respuesta nueva. Las conversaciones más largas y un mayor número de usuarios simultáneos amplían considerablemente esta caché.

Un servidor puede reservar HBM costosa para los cálculos activos mientras mueve entradas de caché menos activas a otros lugares. La DRAM del sistema ofrece mayor capacidad, mientras que CXL puede conectar grupos adicionales de memoria. Los SSD proporcionan una capacidad persistente mucho mayor, aunque operan con mayor latencia.

La cuestión práctica no es si un nivel puede sustituir a otro. Es si el hardware y el software pueden mover datos entre ellos sin dejar inactivos a los aceleradores. La propuesta integrada de Samsung depende de que ese movimiento se convierta en un problema de diseño primordial.

Su PM1763 ofrece un ejemplo concreto. La unidad viene en configuraciones de 4TB, 8TB y 16TB. La versión de 16TB alcanza velocidades de lectura secuencial de 28,400 megabytes por segundo y de escritura de 21,900 megabytes por segundo, según las especificaciones del PM1763 de Samsung.

Samsung afirma que ese rendimiento supera en más del doble al del PM1753 anterior. También dice que la unidad puede transferir un modelo de lenguaje grande de 40GB en unos 1.4 segundos. Esa comparación ilustra la carga de trabajo prevista, aunque una implementación real implica más que una transferencia secuencial de archivos.

La unidad combina V-NAND de novena generación con un controlador de 4 nanómetros desarrollado recientemente. V-NAND apila verticalmente celdas de flash para aumentar la densidad. El controlador gestiona la colocación de datos, la corrección de errores, la comunicación y otras operaciones dentro del SSD.

Samsung afirma que el PM1763 mejora la eficiencia energética en más de 1.8 veces frente a su predecesor. También admite refrigeración líquida directa al chip, que acerca el refrigerante a los componentes que generan calor. Esta característica importa porque un dispositivo de almacenamiento no puede mantener su máxima velocidad si los límites térmicos lo obligan a reducirla.

Estas especificaciones no convierten un SSD en HBM. La diferencia de latencia sigue siendo considerable, y el software debe anticipar qué datos deben desplazarse hacia niveles superiores. Sin embargo, un almacenamiento más rápido amplía el abanico de cargas de trabajo que pueden tolerar la descarga de datos.

Esto puede afectar a los sistemas de recuperación, la carga de modelos, la recuperación de puntos de control y la gestión de caché KV. Un servicio de generación aumentada por recuperación, por ejemplo, busca información almacenada antes de pedir a un modelo que redacte una respuesta. El rendimiento del almacenamiento puede influir en la rapidez con que el sistema recupera documentos, vectores o contexto en caché.

Por tanto, Samsung conecta varios productos en torno a un problema reconocible de sistemas. Los aceleradores necesitan datos suministrados a la velocidad y temperatura adecuadas. Aumentar solo el cómputo máximo deja ese problema sin resolver.

El verdadero rival de Samsung es la ventaja de SK hynix en HBM

Samsung debe convertir su amplitud de fabricación en victorias con clientes antes de que SK hynix transforme su posición en HBM en una arquitectura de memoria más amplia.

SK hynix se convirtió en un proveedor central durante la primera ola de infraestructura de IA generativa. Su posición en HBM le dio visibilidad ante empresas de aceleradores y operadores de hiperescala. Samsung, pese a su escala en memoria convencional, tuvo que recuperarse de una posición más débil en HBM3E.

HBM4 ofrece a Samsung otro punto de entrada. El estándar incorpora un die base lógico más sofisticado y amplía las oportunidades de personalización. Estos cambios favorecen a las empresas que pueden combinar fabricación de DRAM, fabricación lógica, empaquetado y diseño específico para cada cliente.

Samsung opera todos esos negocios. Esa integración vertical la distingue de proveedores de memoria que dependen en mayor medida de fundiciones externas para los componentes lógicos. También genera riesgo de ejecución, porque cada operación interna debe alcanzar un rendimiento de producción, unas prestaciones y un calendario aceptables.

La colaboración de Samsung con AMD muestra cómo quiere utilizar esa amplitud. Las empresas dijeron que Samsung actuaría como proveedor principal de HBM4 para el acelerador Instinct MI455X de AMD. Samsung también proporcionará memoria DDR5 para los procesadores de servidor Venice de AMD y los sistemas Helios a escala de rack mediante su alianza de memoria para IA.

Esto es más que una victoria de diseño para HBM. Permite a Samsung participar en varias capas de una misma plataforma. Una implementación exitosa respaldaría su argumento de que los clientes se benefician de productos de memoria coordinados.

Samsung aplica una estrategia similar en torno a los sistemas Nvidia. Su exhibición en GTC incluyó HBM4, HBM4E, SOCAMM2, PM1763 y otros productos SSD. La línea vinculó el portafolio de Samsung con el cambio de Nvidia desde aceleradores individuales hacia sistemas de IA a escala de rack.

SK hynix no se queda quieta. Está desarrollando productos CXL, HBM avanzada y nuevos conceptos de memoria basados en flash. Su trabajo con Sandisk en flash de alto ancho de banda aborda la misma brecha entre HBM costosa y almacenamiento más lento.

La flash de alto ancho de banda, o HBF, empaqueta memoria flash para ofrecer mucha más capacidad que HBM con mayor ancho de banda que los SSD convencionales. No iguala la latencia de HBM, pero podría crear otro nivel para datos de inferencia. Eso hace que la cuestión competitiva sea más amplia que Samsung frente a SK hynix en una sola categoría de productos.

Las dos empresas persiguen ventajas de partida distintas. SK hynix parte de sólidas relaciones en HBM y se expande hacia fuera. Samsung parte de un amplio portafolio de semiconductores e intenta que esa amplitud tenga valor por sí misma.

Micron añade una tercera fuente de presión. Compite en DRAM avanzada, HBM y almacenamiento empresarial, lo que ofrece a los clientes otra opción para diversificar el suministro. Los hiperescalares rara vez quieren que un componente crítico dependa de un solo fabricante cuando la homologación permite varios proveedores.

La estrategia de Samsung puede ayudar a los clientes a reducir la complejidad de integración, pero esos clientes se resistirán a una mayor concentración de proveedores. Comprar HBM, memoria del sistema y almacenamiento a una sola empresa podría simplificar la validación. También podría aumentar la exposición a los precios, la asignación de capacidad y las interrupciones de fabricación de esa empresa.

Por eso la exhibición no demuestra que Samsung haya ganado el concurso de arquitectura. Muestra dónde quiere competir Samsung. Las cualificaciones de clientes, los volúmenes de envío y el rendimiento de las implementaciones determinarán si su cartera integrada modifica el comportamiento de compra.

El mecanismo es la colocación de datos, no la velocidad máxima

Los productos de Samsung solo adquieren valor estratégico cuando el software coloca cada dato de IA en el nivel de hardware correcto.

Un benchmark puede presentar el ancho de banda máximo de HBM o la velocidad secuencial de un SSD. Un servicio de IA en producción se enfrenta a un problema más difícil. Debe decidir qué información merece la capacidad más rápida en cada momento.

Los pesos de modelos que se utilizan con frecuencia deben estar cerca del acelerador. Las entradas activas de la caché KV también se benefician de una baja latencia. El contexto menos activo, los índices de recuperación, los puntos de control de modelos y los archivos secundarios de modelos pueden ubicarse en niveles más lentos y de mayor capacidad.

CXL introduce otra opción entre la memoria conectada directamente y el almacenamiento. Permite a los sistemas ampliar la capacidad de memoria o agruparla entre procesadores. Samsung ha explorado módulos basados en CXL que combinan DRAM con software y hardware para mover datos entre niveles.

La idea se parece a mantener los documentos activos sobre un escritorio y colocar el material de consulta en un archivador cercano. Un SSD actúa más como un archivo de mayor tamaño. La analogía deja de ser perfecta porque un sistema de IA debe tomar millones de decisiones de colocación sin interrumpir el cálculo.

El software determina si la jerarquía funciona. Los sistemas operativos, los entornos de ejecución de aceleradores, las bases de datos, los marcos de servicio de modelos y los controladores de almacenamiento deben coordinar el movimiento. Un dispositivo rápido puede quedar infrautilizado cuando el software no puede predecir la demanda ni ocultar la latencia de transferencia.

El comportamiento de la carga de trabajo también cambia el resultado. El entrenamiento de modelos transmite grandes conjuntos de datos y escribe puntos de control. La inferencia interactiva responde a solicitudes irregulares y mantiene contexto para muchos usuarios. Los sistemas de recuperación realizan búsquedas antes de generar, mientras que las aplicaciones multimodales manejan grandes entradas de imagen, audio o vídeo.

Una unidad optimizada para el rendimiento secuencial puede destacar durante la carga de modelos, pero ofrecer ventajas distintas ante solicitudes pequeñas y aleatorias. La capacidad, la latencia, las operaciones de entrada/salida por segundo, la resistencia y el consumo energético importan. Una sola cifra destacada no puede describir toda la carga de trabajo.

La misma cautela se aplica a la afirmación de Samsung de que PM1763 puede transferir un modelo de 40 GB en aproximadamente 1,4 segundos. La cifra ofrece una ilustración útil del rendimiento de la interfaz. No incluye cada paso de inicialización, asignación, verificación y ejecución necesarios para poner ese modelo a disposición de la inferencia.

El soporte de refrigeración líquida de Samsung también refleja una limitación a nivel de sistema. Los racks de IA concentran cada vez más procesadores, memoria, redes y almacenamiento en un espacio limitado. La eliminación del calor se convierte en parte de la ingeniería de rendimiento porque los componentes reducen su velocidad cuando aumenta la temperatura.

El anuncio de PM1763 indica que la unidad está optimizada para refrigeración directa al chip. Ese diseño puede respaldar un funcionamiento sostenido dentro de servidores refrigerados por líquido. Los operadores siguen necesitando racks compatibles, placas frías, tuberías, supervisión y procedimientos de mantenimiento.

La hoja de ruta de HBM de Samsung afronta un desafío térmico relacionado. Apilar más capas de DRAM aumenta la capacidad, pero también complica la transferencia de calor. Una señalización más rápida y dies base lógicos más complejos añaden presión adicional.

En Computex 2026, Samsung mostró un concepto térmico de HBM4E llamado Heat Path Block. La arquitectura busca mejorar la ruta que sigue el calor al alejarse de futuros productos HBM. La exhibición de sistemas de IA de Samsung situó este trabajo térmico junto a obleas HBM4E y una jerarquía de memoria más amplia.

El mecanismo que conecta estos anuncios es el movimiento coordinado de datos dentro de límites de potencia y térmicos. Samsung no necesita que cada nivel iguale la velocidad de HBM. Necesita que la jerarquía mantenga ocupados a los costosos aceleradores, al tiempo que limita la cantidad de memoria cara instalada junto a ellos.

Es una propuesta atractiva para los operadores de nube. También es difícil de validar mediante demostraciones de componentes. Los compradores necesitarán mediciones a nivel de aplicación que cubran tokens por segundo, latencia de respuesta, consumo energético, densidad de rack y utilización total.

Lo que la exhibición de Samsung no demuestra

Una cartera completa no produce automáticamente una plataforma de IA completa y económica.

Samsung suministra suficientes componentes para describir una arquitectura coherente. No ha proporcionado públicamente datos amplios e independientes de implementaciones que muestren que los clientes logran una mejor economía al adoptar toda la pila en conjunto.

La mayoría de las cifras de rendimiento publicadas proceden de evaluaciones internas de Samsung. La empresa señala que los resultados pueden variar según la configuración y el entorno. Esa salvedad es importante porque la arquitectura del servidor, el firmware, la refrigeración, el software y la carga de trabajo determinan el rendimiento real.

La producción de HBM4 es otra área que debe seguirse con atención. Samsung afirma que inició los envíos comerciales y espera que las ventas de HBM se tripliquen con creces durante 2026. Sin embargo, el crecimiento de los envíos no revela su participación en las plataformas de aceleradores de mayor volumen ni su rendimiento de fabricación.

El rendimiento mide cuántos chips utilizables salen de un proceso de producción. Afecta de forma importante al coste y a la oferta disponible. Esto se vuelve especialmente relevante cuando un producto combina DRAM avanzada, un die base lógico, apilamiento y encapsulado.

El modelo de dispositivos integrados de Samsung puede acelerar la coordinación entre estas operaciones. También puede crear múltiples puntos en los que se retrasa un calendario. Un retraso en el die base, las capas de DRAM, el proceso de unión o la cualificación del encapsulado puede frenar el producto HBM terminado.

La adopción de SSD empresariales tiene su propio ciclo de cualificación. Los operadores de centros de datos evalúan el comportamiento del firmware, la resistencia, la recuperación ante fallos, la seguridad, la refrigeración y la consistencia del rendimiento. Una unidad que entra en producción masiva todavía necesita validación de plataforma antes de llegar a grandes implementaciones.

PM1763 utiliza PCIe 6.0, que duplica la tasa bruta de datos de PCIe 5.0. Los servidores deben admitir la interfaz más reciente para aprovechar sus ventajas. Los operadores también necesitan suficiente capacidad de procesador y red para evitar que los cuellos de botella simplemente se trasladen a otro punto.

Samsung afirma que la unidad completó la validación para plataformas de IA de próxima generación. La empresa no ha revelado todos los clientes, cantidades enviadas ni resultados de cargas de trabajo. Por tanto, los lectores deben distinguir entre disponibilidad del producto y adopción generalizada.

Las condiciones de demanda crean otra incertidumbre. La inversión en infraestructura de IA ha generado una demanda excepcional de memoria, pero la memoria sigue siendo un negocio cíclico. Los proveedores añaden capacidad cuando suben los precios y los pedidos, mientras que los clientes ajustan las compras cuando cambian la utilización o la financiación.

Los últimos resultados de Samsung ilustran ambas caras. Su negocio de semiconductores se benefició de la demanda de servidores de IA y de la subida de los precios de la memoria. Al mismo tiempo, el aumento de los costes de los componentes presionó a los negocios de dispositivos que compran memoria.

Associated Press informó de resultados récord del segundo trimestre para Samsung y SK hynix, al tiempo que señaló la preocupación de los inversores por la inversión en fabricación y la creciente competencia china. Esa tensión en el mercado de memoria complica la idea de que cada nuevo producto disfrutará de una economía favorable de forma permanente.

Los compradores de centros de datos de IA también tienen poder de negociación. Las mayores empresas de nube pueden cualificar a varios proveedores, diseñar aceleradores personalizados e influir en las especificaciones de memoria. Pueden dar la bienvenida a la amplia cartera de Samsung y, al mismo tiempo, seguir adquiriendo niveles individuales de distintos proveedores.

Por tanto, una exhibición integrada demuestra intención estratégica, no control del mercado. Samsung ha reunido los productos necesarios para competir en toda la jerarquía. Su siguiente carga es demostrar que estas piezas funcionan juntas a escala y ofrecen ahorros medibles.

Tres señales que pondrán a prueba la afirmación de Samsung sobre los centros de datos de IA

La siguiente etapa se medirá por la adopción de plataformas, la validación de software y la producción sostenida, no por otra exhibición.

La primera señal es la implementación de Samsung HBM4 y PM1763 en plataformas de aceleradores identificadas. Las alianzas anunciadas ofrecen orientación, pero los sistemas enviados constituyen una evidencia más sólida. Los compradores deberían observar si los diseños de rack AMD Helios y de la era Nvidia utilizan varios componentes de Samsung en conjunto.

Una plataforma que combine HBM de Samsung, memoria de servidor y almacenamiento respaldaría la tesis del proveedor integrado. Las victorias de componentes por separado seguirían siendo importantes, pero mostrarían un abastecimiento convencional en lugar de una jerarquía coordinada.

La segunda señal son las pruebas a nivel de aplicación. Los resultados útiles deberían cubrir carga de modelos, recuperación, descarga de caché KV, latencia de inferencia, rendimiento, potencia y estabilidad térmica. Las pruebas deberían comparar configuraciones en lugar de presentar la especificación máxima de un componente.

Los resultados independientes reforzarían considerablemente el caso de Samsung. Podrían mostrar si el almacenamiento PCIe 6.0 mantiene más ocupados a los aceleradores, si la expansión CXL reduce los requisitos de HBM y si la refrigeración líquida sostiene el rendimiento bajo cargas de trabajo prolongadas.

La ausencia de tales resultados no significaría que los productos hayan fracasado. Dejaría sin verificar la afirmación central sobre sistemas. Las especificaciones de componentes por sí solas no pueden establecer un menor coste por token generado ni una mejor utilización del rack.

La tercera señal es la respuesta competitiva. SK hynix, Micron, Sandisk y otros proveedores de almacenamiento están desarrollando sus propias respuestas a la brecha de capacidad de memoria de la IA. HBF, HBM personalizado, memoria CXL y SSD empresariales de alta capacidad determinarán si la jerarquía de Samsung se vuelve distintiva o simplemente esperada.

La estandarización será importante en este ámbito. Por lo general, los clientes prefieren interfaces compatibles con varios proveedores porque la interoperabilidad limita la dependencia. Samsung puede influir en los diseños emergentes, pero también debe participar en estándares compartidos que permitan a los clientes combinar productos.

Los lectores de Google News deberían considerar esta exhibición como la apertura de un concurso de sistemas, no como una victoria de producto ya resuelta. Samsung ha conectado HBM4, memoria ampliable y almacenamiento PCIe 6.0 en torno a un cuello de botella real: mover suficientes datos hacia aceleradores cada vez más costosos.

La amplitud de la empresa le da una vía creíble. La posición de SK hynix en HBM, la cartera competidora de Micron y las nuevas arquitecturas de flash impiden una victoria fácil. La pregunta para los equipos de infraestructura es ahora práctica: ¿qué proveedor puede convertir componentes prometedores en menor latencia, rendimiento estable y mejor utilización dentro de un rack implementado?

Observe las primeras implementaciones identificadas de varios productos y luego busque mediciones independientes de cargas de trabajo. Esas dos formas de evidencia dirán mucho más que otro titular de Google News sobre el ancho de banda máximo.