Un número detiene la máquina de IA

En una industria donde todos los ojos están puestos en las GPU de Nvidia y los centros de datos de Microsoft, es un número de Micron el que ahora capta la atención del mercado: la compañía solo logra cubrir entre el 50 y el 67 por ciento de la demanda real de memoria HBM (High Bandwidth Memory). Así lo informó el CEO de Micron, Sanjay Mehrotra, según Yahoo Finance.

No es una falta de ambición lo que escasea. Es simplemente la capacidad de producción física, y esa es una realidad que impone una dura limitación a toda la industria de aceleradores de IA.

Un número de Micron puede cambiar todo el comercio de IA - Bilde 1

¿Qué es HBM y por qué es crítico?

HBM es una memoria especializada de alto ancho de banda que se monta directamente en chips de IA como el H200 de Nvidia y la próxima serie Blackwell. Sin suficiente HBM, Nvidia no puede producir suficientes de sus aceleradores de IA más codiciados.

La solución HBM3e de Micron ofrece más de 1,2 terabytes por segundo en ancho de banda de memoria y, según la propia compañía, consume alrededor de un 30 por ciento menos de energía que los productos equivalentes de la competencia. Las tarjetas H200 de Nvidia utilizan pilas HBM3e de 8 alturas y 24 GB de Micron, y la producción de estas comenzó ya en febrero de 2024.

Toda la capacidad de Micron para HBM3e y HBM4 ya está completamente reservada, y el próximo año aún no ha comenzado.
Un número de Micron puede cambiar todo el comercio de IA - Bilde 2

Contratos, pagos anticipados y cola

Nvidia ha intentado protegerse contra fallas en el suministro asegurando capacidad tanto en SK Hynix como en Micron a través de pagos anticipados estimados entre 775 millones y más de mil millones de dólares. Aun así, la situación es ajustada: los clientes empresariales que deseen sistemas con HBM3e deben, según fuentes de la industria, esperar tiempos de entrega de tres a seis meses.

El CFO de Micron, Mark Murphy, confirma que la capacidad de HBM de la compañía para el año actual y el próximo está completamente asegurada a través de acuerdos plurianuales. La compañía planea aumentar las inversiones a más de 25 mil millones de dólares para expandir la capacidad de producción, pero esto no tendrá un efecto en el mercado en un futuro cercano.

50–67%
Porcentaje de la demanda de HBM que Micron puede satisfacer
$100 mil millones
Valor de mercado estimado de HBM para 2028

HBM4 crece más rápido de lo esperado

Paradójicamente, Micron ahora introduce la próxima generación, HBM4, a un ritmo que es el doble de rápido que HBM3e en su lanzamiento. Los ingresos de HBM4 ya han superado los mil millones de dólares. Sin embargo, cabe señalar que Micron sigue siendo el tercer proveedor de HBM más grande a nivel mundial, detrás de SK Hynix y Samsung, y según fuentes de la industria, la compañía posee la menor parte de las asignaciones de HBM4 de Nvidia.

Dos cuellos de botella, no uno

La crisis de suministro no se trata solo de Micron. TSMC, que maneja el empaquetado avanzado CoWoS (Chip-on-Wafer-on-Substrate), el proceso que integra la pila HBM con el chip de la GPU, es una limitación separada e igualmente grave en la cadena. Aunque la producción de HBM aumente, la capacidad de empaquetado limitada en TSMC puede frenar el volumen final de aceleradores de IA terminados.

En conjunto, esto dibuja un panorama de un sector de infraestructura de IA que crece más rápido de lo que la cadena de suministro puede seguir, y donde un solo número de la dirección de Micron es suficiente para mover las expectativas del mercado para todo el comercio de IA.

Micron actualmente solo puede satisfacer entre la mitad y dos tercios de la demanda de los clientes de HBM, y esa escasez marca el ritmo de todo el mercado de aceleradores de IA.

Fuentes: Yahoo Finance, relaciones con inversores de Micron Technology, informes de la industria sobre el mercado de HBM