La infraestructura de IA de SK hynix alcanza un límite físico: energía y refrigeración
SK hynix ha orientado su análisis de infraestructura de IA hacia una limitación que los procesadores más rápidos no pueden resolver por sí solos: los sistemas de computación densos necesitan suficiente electricidad y capacidad de refrigeración para funcionar.
El último análisis de la compañía sobre los centros de datos de IA sostiene que el rendimiento depende ahora de un sistema integrado. La computación, la memoria, el almacenamiento, las redes, el suministro eléctrico y la gestión térmica deben funcionar de forma conjunta. Una sola capa débil puede dejar aceleradores costosos esperando, limitados o fuera de servicio.
Este argumento desplaza el centro de la carrera por la infraestructura de IA. Nvidia, los proveedores de nube a hiperescala, los fabricantes de memoria, las empresas de servicios públicos y los proveedores de refrigeración ya no resuelven problemas por separado. Están construyendo en torno a un límite físico: cada vatio que entra en un servidor termina convirtiéndose en calor que la instalación debe eliminar.
El cambio no hace que los procesadores ni la memoria de alto ancho de banda sean menos importantes. Hace que su rendimiento utilizable dependa de infraestructura situada fuera del encapsulado del chip. Un acelerador más rápido tiene un valor limitado si una instalación no puede alimentar el rack, hacer circular refrigerante a través de él o conectar el centro a la red eléctrica.
El análisis de infraestructura de IA de SK hynix va más allá del chip
SK hynix considera la energía y la refrigeración como componentes del rendimiento, no como servicios auxiliares de las instalaciones.
El análisis de infraestructura de la compañía amplía un argumento más amplio sobre el diseño de sistemas de IA. Los componentes individuales importan, pero sus especificaciones no garantizan el rendimiento a nivel de aplicación.
Un clúster de entrenamiento de IA transfiere repetidamente parámetros del modelo, activaciones, puntos de control y datos de entrenamiento. Los sistemas de inferencia deben recuperar contexto, moverlo a través de la memoria, coordinar aceleradores y devolver respuestas dentro de límites de latencia aceptables.
Cada etapa consume energía. Cada transferencia también genera calor, incluidas aquellas que no contribuyen directamente al cálculo solicitado por el usuario.
Esto crea una cadena de dependencias. Los aceleradores necesitan datos de la memoria. La memoria y el almacenamiento necesitan conexiones de alto rendimiento. Los conmutadores de red deben coordinar miles de dispositivos. Los sistemas eléctricos deben alimentar a todos ellos sin interrupciones.
Después, los equipos de refrigeración tienen que eliminar el calor resultante. Si no pueden hacerlo, el hardware reduce su frecuencia operativa para mantenerse dentro de temperaturas seguras. Este proceso, denominado limitación térmica, protege los componentes mientras reduce el rendimiento disponible.
El mismo problema se aplica a escala de instalación. Un operador de centros de datos puede comprar procesadores sin disponer de la capacidad eléctrica necesaria para desplegarlos. También puede reservar energía de la red, pero carecer del equipo de distribución interna requerido para llevar esa energía a racks densos.
Los transformadores, cuadros eléctricos, sistemas de alimentación ininterrumpida, canalizaciones eléctricas y sistemas de respaldo pasan a formar parte del calendario de despliegue. Sus especificaciones afectan a la cantidad de capacidad informática que puede soportar un edificio.
La ruta térmica importa tanto como la eléctrica. El calor debe viajar desde el silicio a través de materiales de encapsulado, placas frías o disipadores de calor, circuitos de refrigerante, intercambiadores de calor y el sistema final de rechazo de calor de la instalación.
Cualquier eslabón débil eleva las temperaturas o limita la densidad de los racks. Los operadores podrían tener que distribuir los equipos en más superficie, reducir la potencia de los procesadores o retrasar el despliegue mientras modernizan el edificio.
SK hynix tiene un interés directo en esta transición. Sus productos de memoria de alto ancho de banda se sitúan junto a los aceleradores en encapsulados de computación densos. HBM incrementa el ancho de banda de memoria apilando matrices de memoria y conectándolas mediante rutas verticales cortas.
Esta arquitectura ayuda a suministrar datos más rápido a los procesadores. Sin embargo, también concentra componentes y calor en un área más pequeña.
En mayo de 2026, SK hynix anunció un enfoque de refrigeración integrado para futuros productos HBM. La compañía afirmó que su diseño térmico iHBM redujo la resistencia térmica del encapsulado en un 30% en sus pruebas.
Esta cifra sigue siendo una afirmación de la empresa, y los resultados comerciales dependerán de los productos finales y de los diseños de sistemas. Aun así, el anuncio muestra por qué los proveedores de memoria ahora hablan de refrigeración junto con el ancho de banda y la capacidad.
El rendimiento térmico se está convirtiendo en parte de la arquitectura del producto. Ya no puede dejarse por completo en manos del fabricante del servidor o del operador de la instalación.
La demanda eléctrica de los centros de datos de IA crece más rápido que la red
El problema energético central no es simplemente el consumo total de energía. Es suministrar grandes cantidades de electricidad en el lugar y el momento requeridos.
La Agencia Internacional de la Energía estimó que los centros de datos consumieron alrededor de 415 teravatios-hora de electricidad en 2024. Esto representó aproximadamente el 1,5% del consumo mundial de electricidad.
Su escenario base proyecta que el consumo de los centros de datos alcanzará alrededor de 945 teravatios-hora en 2030. Eso situaría al sector justo por debajo del 3% del uso mundial de electricidad.
La IEA prevé que el consumo de los servidores acelerados, asociados principalmente con la adopción de IA, aumente cerca de un 30% anual hasta 2030. Estos servidores representan casi la mitad del aumento neto proyectado en el consumo mundial de electricidad de los centros de datos.
Las cifras son significativas, pero su ubicación plantea el desafío operativo más acuciante. Los centros de datos concentran las cargas dentro de determinados territorios de empresas eléctricas, subestaciones y regiones de transmisión.
Una flota de vehículos eléctricos distribuye la demanda entre muchas viviendas y puntos de carga. Un campus de IA puede solicitar cientos de megavatios a través de un pequeño número de conexiones a la red.
La previsión de demanda energética de la IEA señala que un centro de datos puede entrar en funcionamiento en dos o tres años. La infraestructura energética principal suele requerir ciclos de planificación y construcción más largos.
Este desfase temporal presiona a las empresas eléctricas y a los desarrolladores. Las compañías tecnológicas quieren capacidad de computación mientras la demanda sigue siendo elevada. Las empresas eléctricas deben estudiar los efectos sobre la red, adquirir transformadores, construir subestaciones y, en ocasiones, ampliar la generación o la transmisión.
Un campus planificado no es capacidad de IA utilizable hasta que la energía llega a los servidores. La capacidad anunciada, la capacidad contratada y la capacidad energizada son medidas distintas.
Estados Unidos ilustra la magnitud de la incertidumbre. Un informe del Departamento de Energía de 2024 estimó que los centros de datos utilizaron alrededor del 4,4% de la electricidad nacional en 2023.
El informe proyectó que su participación podría alcanzar entre el 6,7% y el 12% en 2028. Este rango es inusualmente amplio porque la adopción de IA, la eficiencia del hardware, la utilización y los calendarios de construcción siguen siendo difíciles de predecir.
La estimación energética de Estados Unidos no significa que todas las instalaciones propuestas recibirán una conexión. Muestra cómo distintos escenarios de despliegue pueden generar resultados muy diferentes para la red.
Por lo tanto, la disponibilidad de energía afecta al lugar donde se construyen los sistemas de IA. Las cargas de trabajo de entrenamiento a veces pueden trasladarse a regiones con electricidad disponible porque no siempre requieren proximidad inmediata a los usuarios finales.
La inferencia en producción es menos flexible. Un servicio que respalda fábricas, hospitales, sistemas financieros o aplicaciones interactivas puede tener requisitos de latencia, resiliencia y residencia de datos.
Las empresas deben equilibrar esos requisitos con la capacidad de la red local. Una región con usuarios, conectividad de fibra y terrenos adecuados puede seguir siendo una mala ubicación para el despliegue si la electricidad no llegará a tiempo.
Esta presión está cambiando las compras. Las empresas tecnológicas están firmando contratos renovables a largo plazo, respaldando reinicios de plantas nucleares, invirtiendo en proyectos geotérmicos avanzados y considerando generación in situ.
Estas acciones pueden aumentar el suministro, pero no eliminan la infraestructura entre un generador y un servidor. Las líneas de transmisión, las subestaciones, los transformadores y los sistemas eléctricos internos siguen siendo necesarios.
La generación limpia tampoco proporciona automáticamente energía constante en un campus específico. Los operadores aún necesitan equilibrado de red, almacenamiento, generación firme u otros recursos cuando cambia la producción eólica y solar.
El resultado es una definición más compleja del rendimiento de IA. Un benchmark puede describir la rapidez con la que un procesador completa una carga de trabajo. No puede garantizar que un operador pueda alimentar miles de esos procesadores en la ubicación deseada.
Un rack de 120 kilovatios cambia la ecuación de la refrigeración
La densidad de potencia a nivel de rack está obligando a los centros de datos de IA a reemplazar los supuestos basados únicamente en aire por diseños térmicos asistidos por líquido.
Los centros de datos tradicionales distribuyen los equipos de computación en racks que pueden refrigerarse mediante aire acondicionado impulsado por ventiladores de servidores y sistemas a nivel de sala. Este enfoque sigue siendo práctico para muchas cargas de trabajo empresariales y en la nube.
Los sistemas de aceleradores densos producen un perfil térmico diferente. Incorporan más equipos de computación, memoria, redes y hardware eléctrico dentro de cada rack.
Nvidia indica que el consumo energético aproximado de su sistema GB200 NVL72 es de 120 kilovatios por rack. El rack combina 72 GPU Blackwell con CPU Grace y equipos de conmutación NVLink.
En comparación, muchos racks empresariales convencionales operan con una fracción de esa densidad. La diferencia exacta varía ampliamente según la instalación y la carga de trabajo, por lo que no existe una única cifra de rack tradicional aplicable en todas partes.
El cambio importante es arquitectónico. Un rack de 120 kilovatios concentra calor en una superficie pequeña y requiere una ruta eléctrica diseñada para la misma carga.
Nvidia utiliza un sistema híbrido para el GB200 NVL72. Su documentación describe aproximadamente un 85% de refrigeración líquida y un 15% de refrigeración por aire.
El diseño de refrigeración a escala de rack de la compañía envía líquido a placas frías acopladas a los principales componentes que producen calor. El refrigerante absorbe el calor más cerca de su fuente de lo que puede hacerlo el aire de la sala.
La refrigeración líquida directa al chip no sumerge todo el servidor. Hace circular refrigerante a través de placas frías selladas que establecen contacto térmico con procesadores, componentes adyacentes a la memoria u otros dispositivos calientes.
Una unidad de distribución de refrigerante transfiere calor entre el circuito de los equipos tecnológicos y el circuito de agua de la instalación. Bombas, colectores, sensores, controles e intercambiadores de calor mantienen el flujo y la temperatura.
El líquido transporta más calor por unidad de volumen que el aire. Esto lo hace adecuado para racks en los que los ventiladores por sí solos requerirían un flujo de aire, espacio o potencia eléctrica excesivos.
Sin embargo, la refrigeración líquida no es un reemplazo universal para el aire. Los servidores aún contienen componentes que necesitan flujo de aire, y las instalaciones deben eliminar del edificio el calor acumulado.
Los operadores también asumen nuevos requisitos de ingeniería. Deben supervisar la composición química del refrigerante, la presión, el flujo, la integridad de los conectores, el riesgo de condensación y la detección de fugas.
Los procedimientos de mantenimiento se vuelven más complejos. Los técnicos necesitan formación para trabajar con sistemas de fluidos cerca de equipos electrónicos de alto valor. Los operadores deben decidir cómo aislar un rack, sustituir una bandeja o reparar una bomba sin interrumpir el clúster.
El sistema de refrigeración también debe ajustarse a la arquitectura de computación. Una placa fría diseñada para un encapsulado de procesador no puede admitir automáticamente todos los encapsulados futuros.
Las temperaturas de suministro y los caudales pueden cambiar entre generaciones de hardware. Los planificadores de instalaciones deben evitar construir un sistema térmico que quede obsoleto cuando llegue el siguiente rack.
La modernización de centros de datos existentes presenta otro desafío. Un edificio antiguo puede contar con suficiente potencia total, pero carecer de las tuberías, la capacidad de carga del suelo, las dimensiones de los racks o la capacidad de rechazo de calor necesarias para sistemas densos refrigerados por líquido.
Los operadores pueden distribuir los servidores aceleradores entre más racks, pero esto aumenta la longitud de los cables y las necesidades de espacio en planta. También puede complicar las redes de alta velocidad, donde la distancia física afecta a la latencia y la integridad de la señal.
Pueden reducir la potencia de los procesadores, pero eso disminuye el rendimiento. Pueden instalar intercambiadores de calor en puertas traseras o sistemas de aire contenido, aunque estos enfoques también encuentran límites a medida que aumentan las densidades.
Las nuevas construcciones ofrecen mayor flexibilidad. Los diseñadores pueden coordinar desde el principio los sistemas eléctricos y térmicos en torno a las cargas previstas de los racks.
Eso no elimina la incertidumbre. Un edificio diseñado hoy debe admitir hardware que se entregará años después, aunque la potencia de los procesadores, las interfaces de refrigeración y la arquitectura de los clústeres sigan cambiando.
La energía frente al rendimiento es la nueva disyuntiva de infraestructura
La competencia ya no enfrenta el máximo rendimiento de un chip con el de otro más lento. Enfrenta el rendimiento teórico con el rendimiento que realmente puede desplegarse.
Los proveedores de hardware pueden mejorar el rendimiento añadiendo transistores, ancho de banda de memoria e interconexiones más rápidas. Estas mejoras suelen aumentar la complejidad del encapsulado y la potencia del sistema, incluso cuando mejora el rendimiento por vatio.
El rendimiento por vatio mide cuánto trabajo informático completa un sistema por cada unidad de energía. Es esencial, pero no indica a los operadores si la demanda total disminuirá.
Un hardware más eficiente puede reducir la energía necesaria para una tarea. A su vez, unos costes más bajos pueden incentivar más tareas, modelos más grandes, procesos de razonamiento más largos y una adopción más amplia.
Este efecto rebote explica por qué las mejoras de eficiencia pueden coexistir con un aumento del consumo eléctrico. La demanda crece más rápido de lo que disminuye la energía necesaria para cada unidad de trabajo.
Los agentes de IA añaden otra variable. Un agente puede llamar repetidamente a un modelo, recuperar documentos, utilizar herramientas de software y evaluar resultados intermedios antes de producir una respuesta.
Por tanto, una sola acción del usuario puede activar múltiples operaciones de inferencia. La generación de vídeo, las cargas de trabajo científicas y el razonamiento extendido también pueden requerir más capacidad de cálculo que las respuestas de texto breves.
Los operadores necesitan eficiencia en varios niveles. El procesador debe realizar cálculos eficientemente. La memoria debe alimentar al procesador sin esperas excesivas ni movimiento innecesario de datos.
Las redes deben coordinar los dispositivos con un retraso mínimo. El software debe programar los trabajos y evitar que los equipos permanezcan inactivos mientras siguen consumiendo energía.
La planta de refrigeración debe eliminar el calor sin añadir una sobrecarga excesiva. La instalación debe convertir y distribuir la electricidad de manera eficiente.
Por eso la eficacia en el uso de la energía, o PUE, no puede describir todo el problema. El PUE compara el consumo eléctrico total de una instalación con la electricidad utilizada por sus equipos tecnológicos.
Un PUE más bajo indica una menor sobrecarga de la instalación. No revela si los procesadores se utilizan bien, si el software programa el trabajo eficientemente o si un modelo emplea más capacidad de cálculo de la necesaria.
Una instalación puede tener un PUE excelente mientras opera aceleradores con baja utilización. A la inversa, un PUE ligeramente más alto podría respaldar un trabajo informático más útil si el sistema global se ajusta mejor a su carga de trabajo.
La unidad relevante es el trabajo útil entregado dentro de los límites de energía, coste, latencia y fiabilidad. Medir ese resultado sigue siendo difícil porque las empresas divulgan pocos datos estandarizados sobre la utilización de IA o la energía por carga de trabajo.
El enfoque de SK hynix a nivel de sistema resulta útil en este caso. El ancho de banda de memoria puede mantener activos a los aceleradores, pero un mayor ancho de banda también afecta a la potencia y al calor del encapsulado.
Reducir el movimiento de datos puede ahorrar energía porque la información no viaja repetidamente por largas rutas eléctricas. Acercar la memoria al cómputo puede mejorar la velocidad y la eficiencia, aunque un encapsulado más denso dificulta la eliminación del calor.
Esta es la disyuntiva central. Una integración más estrecha mejora el movimiento de datos, pero concentra la carga térmica.
La misma tensión aparece a escala de rack. Los sistemas de alta densidad acortan las rutas de red y sitúan más aceleradores dentro de un dominio estrechamente conectado.
También requieren alimentaciones eléctricas más grandes y circuitos de refrigeración más capaces. Una instalación que no pueda admitir el rack quizá necesite un diseño menos denso, perdiendo algunas de las ventajas de red y espacio.
Los proveedores de infraestructura están respondiendo con arquitecturas de referencia coordinadas. Los fabricantes de chips colaboran con fabricantes de servidores, proveedores de equipos eléctricos y especialistas en refrigeración antes de que un sistema llegue a los clientes.
Esa cooperación reduce el riesgo de integración, pero también puede limitar la capacidad de elección de los operadores. Un rack con especificaciones muy estrictas puede requerir temperaturas concretas del refrigerante, estantes de alimentación, conectores y software de gestión específicos.
Los clientes obtienen un diseño validado, pero pasan a depender más de una cadena concreta de equipos. Cambiar un componente puede exigir validación en todo el sistema.
Los proveedores de nube cuentan con una ventaja porque pueden coordinar servidores personalizados, redes, software y edificios a gran escala. Los operadores más pequeños y las empresas normalmente trabajan con instalaciones existentes y múltiples proveedores.
Se enfrentan a decisiones de modernización más difíciles. Trasladar una carga de trabajo de IA a la nube puede evitar una mejora de la instalación local, pero plantea dudas sobre el coste operativo, el control de los datos, la latencia y la dependencia del proveedor.
Construir localmente ofrece control, pero requiere capacidad eléctrica, experiencia en refrigeración y una planificación más prolongada. La elección correcta depende de las características de la carga de trabajo, no solo de las especificaciones del procesador.
La refrigeración líquida resuelve la transferencia de calor, no todas las limitaciones
La tecnología de refrigeración puede habilitar un cómputo más denso, pero no crea capacidad de red eléctrica ni garantiza servicios de IA económicamente viables.
El entusiasmo en torno a la refrigeración líquida a veces comprime varios problemas en uno solo. El líquido aleja el calor de los chips con mayor eficacia que el aire, pero la electricidad aún debe llegar al rack.
El calor capturado aún debe expulsarse al exterior, reutilizarse o transferirse a otro lugar. Las bombas y los equipos de rechazo de calor también consumen energía.
El uso de agua también depende del sistema completo. Un rack refrigerado por líquido puede operar dentro de un circuito tecnológico cerrado mientras la instalación utiliza torres de refrigeración evaporativas en otra parte.
Otra instalación puede emplear refrigeradores secos que consumen menos agua, pero requieren más energía u ofrecen menor eficiencia de refrigeración durante el calor. El clima y la disponibilidad local de agua afectan al mejor diseño.
Las afirmaciones de que la refrigeración líquida elimina el uso de agua o de que necesariamente consume más agua requieren contexto. La respuesta depende de los circuitos de refrigerante, los equipos de rechazo de calor, las temperaturas de operación, el clima y la generación eléctrica.
La fiabilidad exige una cautela similar. El líquido cerca de la electrónica introduce preocupaciones por fugas, pero las instalaciones convencionales refrigeradas por aire también contienen sistemas de agua y equipos mecánicos.
La calidad de la ingeniería, la monitorización, el diseño de los componentes y el mantenimiento determinan el riesgo operativo. Un sistema de refrigeración mal gestionado puede fallar independientemente del medio de transferencia de calor.
Tampoco hay garantía de que cada rack funcione continuamente a su potencia nominal. Los patrones de carga de trabajo, la programación del software, la disponibilidad de chips y la demanda de los clientes determinan la utilización real.
Los diseñadores aún necesitan capacidad para los picos previstos. Sobredimensionar cada parte de la instalación para un pico que rara vez se produce puede elevar los costes de capital y reducir la eficiencia con cargas menores.
Quedarse corto crea el problema opuesto. La instalación podría poseer aceleradores caros que no pueden funcionar simultáneamente a pleno rendimiento.
Estas incertidumbres complican las decisiones de inversión. La IEA modela explícitamente múltiples escenarios de demanda porque la adopción de IA, la eficiencia y los cuellos de botella de infraestructura pueden llevar el consumo en direcciones diferentes.
Su escenario de alta eficiencia muestra cómo las mejoras de hardware, software e instalaciones pueden reducir el uso de electricidad manteniendo los mismos servicios digitales. Sus escenarios de mayor crecimiento reflejan una adopción más rápida y menos restricciones de suministro.
Ninguno de los resultados está garantizado. Las empresas están asumiendo grandes compromisos de infraestructura antes de conocer los ingresos a largo plazo que generará cada carga de trabajo de IA.
Esto crea un riesgo de capacidad varada. Una instalación optimizada para un formato de rack o estándar de refrigeración podría requerir cambios costosos si los diseños de hardware cambian.
El riesgo inverso también es real. Esperar a que se estabilicen los estándares puede dejar a los operadores sin capacidad cuando los clientes la necesitan.
SK hynix afronta su propia incertidumbre. La empresa se beneficia si sigue creciendo la demanda de HBM y sistemas densos de IA. Por tanto, su análisis público procede de un participante de la cadena de suministro, no de un observador neutral.
Su conclusión debe evaluarse frente a datos de despliegue medidos. Entre las pruebas útiles figurarían la utilización real de racks, el trabajo informático entregado, la energía de refrigeración, las temperaturas de los componentes, el tiempo de inactividad y los costes totales de la instalación.
El argumento físico sigue siendo sólido incluso si la demanda crece más lentamente. Los límites eléctricos y térmicos determinan lo que cualquier sistema instalado puede sostener.
Lo que sigue siendo incierto es la cantidad de infraestructura que necesitará el mercado, dónde se construirá y si los ingresos de los servicios de IA justificarán la inversión.
Tres señales mostrarán si el cuello de botella se está aliviando
La siguiente fase se medirá por la capacidad energizada, los datos operativos de refrigeración y la eficiencia bajo cargas de trabajo reales.
La primera señal es la brecha entre los proyectos de centros de datos anunciados y las instalaciones que reciben conexiones firmes a la red. Los anuncios de construcción reflejan la ambición de los desarrolladores, pero los megavatios energizados revelan la capacidad desplegable.
Conviene observar los plazos de interconexión de las empresas eléctricas, la disponibilidad de transformadores, la construcción de subestaciones y los retrasos en proyectos. Plazos más cortos respaldarían la opinión de que el suministro eléctrico está alcanzando la inversión en IA.
Los retrasos persistentes reforzarían la conclusión contraria. Mostrarían que la producción de procesadores puede expandirse más rápido que la infraestructura necesaria para utilizarlos.
La segunda señal son los datos operativos de racks densos refrigerados por líquido. Los proveedores ya publican especificaciones de diseño, pero los operadores necesitan pruebas procedentes de cargas de trabajo de producción sostenidas.
Las medidas relevantes incluyen las temperaturas del refrigerante, la energía de bombeo, el tiempo de actividad de los racks, los requisitos de mantenimiento, las tasas de fallo de componentes y la producción informática por unidad de energía de la instalación.
Una mayor estandarización también sería importante. Los conectores, interfaces térmicas y rangos operativos comunes podrían reducir los costes de integración y facilitar las actualizaciones de hardware.
Los requisitos fragmentados ralentizarían la adopción, especialmente en instalaciones de colocación que deben admitir equipos de numerosos clientes y proveedores.
La tercera señal es si la demanda de servicios de IA crece más rápido que la eficiencia. La IEA espera una mejora sustancial en la energía necesaria para tareas individuales, pero el consumo total depende del volumen de uso y la complejidad de las cargas de trabajo.
Una inferencia más eficiente aliviará la presión sobre la infraestructura solo si la demanda informática crece a un ritmo manejable. Los agentes, la generación de vídeo y las cargas de trabajo de razonamiento más largas pueden absorber esas ganancias.
La divulgación estandarizada ayudaría a los clientes y responsables políticos a separar el crecimiento útil del cómputo del desperdicio evitable. Actualmente, las empresas informan sobre energía y emisiones a niveles organizativos amplios, lo que dificulta evaluar servicios individuales de IA.
La perspectiva mundial de la electricidad prevé que el consumo de los centros de datos se duplicará con creces para 2030. Esa previsión no es un destino inevitable, pero establece la escala del desafío de planificación.
El análisis de infraestructura de IA de SK hynix plantea la pregunta física correcta. El próximo límite no es solo cuántos aceleradores pueden fabricar los fabricantes. También es cuántos pueden alimentar, refrigerar, conectar y utilizar eficazmente los operadores.
Los desarrolladores y compradores empresariales deberían preguntarse ahora dónde se ejecuta su capacidad de IA, con qué eficiencia utiliza los aceleradores y qué ocurre cuando aumenta la demanda. Los equipos de compras deberían evaluar la preparación eléctrica y de refrigeración junto con el rendimiento de los procesadores, la memoria y los modelos.
Puede que el parámetro de referencia más importante ya no quepa en una hoja de especificaciones de un chip. Es la cantidad de trabajo de IA fiable que una instalación completa puede ofrecer por cada megavatio limitado.
