Diario Económico de Corea: Cuando las CPU de IA devoran la DRAM — ¡La "escasez" de memoria continuará por otro año!

Impulsada por el aumento de más del 100% en los precios de DRAM como commodity, la industria de la memoria ha registrado un desempeño récord. Ahora que los procesadores centrales (CPU) diseñados específicamente para AI ya están en uso, las previsiones indican que la escasez se extenderá por un año más.

La “AI CPU” recientemente lanzada por Intel se espera que incorpore hasta cuatro veces más DRAM como commodity que las generaciones anteriores.DRAM. Junto con el aumento de la demanda de DRAM de alta capacidad para los procesadores gráficos (GPU), los analistas anticipan que la capacidad de suministro de memoria de Samsung Electronics y SK Hynix no será suficiente para satisfacer la demanda.Según fuentes de la industria reveladas el día 2,los fabricantes de CPU buscan integrar entre 300 y 400GB de DRAM en las AI CPU. Esto es cuatro veces el tamaño de los productos típicos de CPU (96–256GB), lo cual resulta impresionante.Las CPU emergen como “coordinadores de AI”El aumento de la demanda de DRAM de alta capacidad por parte de las AI CPU está estrechamente relacionado con la transición de la industria de AI hacia una estructura centrada en la inferencia. Antes, la inferencia de AI se limitaba a preguntas y respuestas simples, pero ahora se ha convertido en el “coordinador” de diversos agentes de AI.La clave de este proceso es la “memoria contextual”. Para coordinar todo el flujo de trabajo, la CPU debe recordar las salidas de cada agente AI, por lo que ampliar la memoria —es decir, el espacio de almacenamiento— se vuelve esencial.Hasta ahora, los centros de datos de AI han construido su infraestructura computacional centrados en GPUs equipados con memoria de alta velocidad (HBM). Aprovechando las ventajas de los GPU en el manejo simultáneo de grandes cantidades de datos para entrenar AI, el enfoque había estado en el “entrenamiento de AI”. Por eso, la configuración de servidores seguía el modelo de 8 GPU por 1 CPU. Sin embargo, con el cambio de enfoque hacia la inferencia, las configuraciones de servidores con una mayor proporción de CPU se están difundiendo rápidamente.En una reciente llamada de resultados, ejecutivos de Intel explicaron: “En la infraestructura de inferencia AI, la estructura computacional ha cambiado hacia una proporción de 1 CPU por 4 GPU, y la tendencia se está moviendo aún más hacia 1:1.”Después de los GPU, las CPU entran en la batalla por la memoria — la demanda crece como una bola de nieveLa competencia por la capacidad de memoria se ha expandido de los GPU a las CPU, creciendo de manera exponencial. El próximo chip de AI de NVIDIA, “Vera Rubin”, lleva 288GB gracias a sus 8 pilas de HBM, mientras que el próximo GPU MI400 de AMD tiene una enorme capacidad de 432GB.Google lanzó recientemente su chip personalizado de octava generación,Unidad de Procesamiento Tensor (TPU 8i), que también planea estar equipado con 288GB de HBM. Además, las AI CPU “Xeon” de Intel y “EPYC” de AMD empiezan a utilizar DDR5 de gran capacidad, hasta 400GB, por lo cual se espera que la escasez de memoria perdure aún más.La temperatura del mercado ya se está reflejando en los precios spot. Según datos de Kiwoom Securities, aunque el precio de la DDR4 antigua (base 16GB) cayó un 16% en abril, el precio spot de la DDR5 (base 16GB) utilizada para AI CPU aumentó un 2,8% en el mismo periodo, manteniendo su prima.Un portavoz de la industria comentó:"El mercado actual de DRAM se considera unos 10 puntos porcentuales por debajo de la demanda. Por encima de HBM, la demanda de DRAM como commodity está aumentando rápidamente, por lo que es muy probable que el superciclo se extienda hasta el año 2027, más allá de la previsión original de 2026."