Los centros de datos de IA no utilizan exclusivamente SSD o HDD. Suelen utilizar ambos tipos de unidades de forma híbrida. Las SSD, con su excelente rendimiento, se encargan de las cargas de trabajo principales en las operaciones de IA que exigen alta velocidad, sirviendo como medio principal para desbloquear la potencia de cálculo. Los discos duros, gracias a su gran capacidad y bajo coste, se encargan del almacenamiento y archivo de grandes cantidades de datos. Los dos trabajan juntos para formar un sistema de almacenamiento completo.
Por qué es necesaria la implantación híbrida
Los centros de datos de IA adoptan un despliegue híbrido de Unidades SSD y HDD principalmente porque ambos tienen puntos fuertes claramente complementarios en cuanto a rendimiento y coste. Las unidades SSD no tienen piezas móviles y leen y escriben datos totalmente a través de señales electrónicas, lo que las hace extremadamente rápidas. Su latencia suele medirse en microsegundos, y su rendimiento de lectura/escritura aleatoria (IOPS) es cientos o incluso miles de veces superior a la de los discos duros. Estas características permiten a las SSD cumplir los requisitos de alta velocidad de acceso a los datos que exigen el entrenamiento y la inferencia de la IA. Los discos duros, por el contrario, se basan en cabezales magnéticos para leer y escribir datos en discos giratorios. Debido a su estructura mecánica, su latencia se mide en milisegundos y su rendimiento de lectura/escritura aleatoria es muy inferior al de las SSD. Su ventaja radica en el coste.
| Característica | SSD | HDD |
|---|---|---|
| Principio de funcionamiento | Basado en memoria flash, sin piezas móviles | Los cabezales magnéticos leen/escriben en discos giratorios con piezas móviles. |
| Latencia | Nivel de microsegundos | Nivel de milisegundos |
| Rendimiento de lectura/escritura aleatoria | Muy alta (IOPS cientos de veces superior a la HDD) | Relativamente bajo |
| Coste por TB | Aproximadamente entre 10 y 20 veces el de los discos duros | Relativamente bajo |
| Capacidad máxima por unidad | Alcanzar el nivel de 128 TB-245 TB | A partir de 32 TB (tecnología HAMR) |
| Eficiencia energética | Consumo por TB muy inferior al de los discos duros | Giro continuo, consumo de energía relativamente mayor |
Según Datos de VDURA A partir del primer trimestre de 2026, el coste por unidad de capacidad de las unidades SSD QLC para empresas de 30 TB alcanzó 22,6 veces el de los discos duros de la misma capacidad. El precio de las unidades SSD TLC para empresas de 30 TB pasó de aproximadamente $3,062 17.500 durante el año pasado, mientras que los precios de las HDD sólo aumentaron unos 35% durante el mismo periodo. Esta diferencia hace que las soluciones SSD puras sean cada vez más inasequibles.
La modelización de VDURA de una configuración típica de centro de datos muestra que, a lo largo de un ciclo de vida de tres años, el coste total de propiedad de un sistema de almacenamiento híbrido es de aproximadamente $7,31 millones, mientras que un sistema SSD puro cuesta aproximadamente $El coste total de la solución híbrida es de 31,06 millones de euros. El coste trienal de la solución híbrida es aproximadamente una cuarta parte del de la solución SSD pura. En resumen, las SSD proporcionan velocidad, mientras que los HDD ofrecen capacidad y control de costes. Ambos tienen un valor insustituible, por lo que la implantación híbrida es esencialmente una opción inevitable para los centros de datos de hoy en día.
Lógica de selección de almacenamiento para operaciones básicas de IA
La fase de preparación de los datos procesa los datos en bruto. Esta etapa implica principalmente lecturas secuenciales a gran escala, que no requieren un alto rendimiento de lectura/escritura aleatoria, pero exigen una capacidad significativa. La práctica del sector suele adoptar soluciones de almacenamiento basadas en discos duros, complementadas con cierta caché SSD para mejorar la velocidad de acceso a los datos calientes.
La fase de entrenamiento del modelo tiene los mayores requisitos de rendimiento de almacenamiento. Todo el proceso requiere la lectura continua de muestras de entrenamiento masivas y la escritura frecuente de archivos de puntos de comprobación del modelo, lo que genera demandas de rendimiento de datos extremadamente altas. Si se utilizaran discos duros como almacenamiento principal, su latencia inherente provocaría que el suministro de datos quedara rezagado con respecto al cálculo de la GPU, lo que conduciría directamente a ciclos de cálculo ociosos y a una caída significativa de la utilización del hardware. Por tanto, en los clusters de entrenamiento, las SSD NVMe se despliegan tanto localmente en los servidores de la GPU como en clusters de almacenamiento compartido. Tecnologías como RDMA y NVMe-oF se utilizan para construir sistemas de archivos paralelos, proporcionando un flujo continuo de datos para clusters multi-GPU.
La etapa de servicio a la inferencia tiene dos requisitos fundamentales: baja latencia de respuesta y alta capacidad de concurrencia. Las principales aplicaciones de modelos lingüísticos de gran tamaño y los servicios de generación de recuperación aumentada (RAG) generan un gran número de solicitudes de caché KV y recuperación de vectores. Estos tipos de acceso a datos son muy aleatorios y sensibles a la latencia, por lo que deben ejecutarse en unidades SSD. Los pesos del modelo y las bases de datos de vectores utilizadas en la inferencia también se implementan completamente en unidades SSD NVMe para garantizar un tiempo rápido hasta el primer token y la estabilidad general del servicio. Los discos duros solo desempeñan un papel de apoyo en la inferencia, ya que almacenan registros históricos, bases de conocimiento a las que se accede con poca frecuencia y archivos de copia de seguridad.
Arquitectura de almacenamiento multinivel
En la actualidad, todos los centros de datos de IA maduros adoptan una arquitectura de almacenamiento por niveles. Los datos se dividen en tres niveles (caliente, templado y frío) en función de la frecuencia de acceso y los requisitos de rendimiento, y la configuración del hardware cambia en consecuencia para equilibrar rendimiento y coste.
- La grada caliente es la parte de mayor rendimiento de la arquitectura, incluida la memoria, la memoria GPU de gran ancho de banda y las SSD NVMe locales en los servidores. Su capacidad total representa solo entre 5% y 20% de la huella de almacenamiento total. En este nivel se almacenan los pesos del modelo, las memorias caché en tiempo real y los datos de entrenamiento más utilizados. Determina directamente la eficiencia de la GPU y es el eslabón central que garantiza el buen funcionamiento de las cargas de trabajo de IA.
- La grada caliente suele utilizar SSD QLC NVMe de alta capacidad o HDD de alto rendimiento y, en algunos casos, matrices de HDD aceleradas por caché SSD. Almacena datos a los que se accede moderadamente, como conjuntos de datos depurados y archivos de modelos de uso común, logrando un equilibrio entre rendimiento, capacidad y coste.
- La grada fría ocupa más del 80% de la capacidad de almacenamiento de un centro de datos. Su hardware principal consiste en matrices de HDD empresariales; algunos clusters muy grandes también incorporan bibliotecas de cintas. Se dedica a almacenar datos fríos a los que rara vez se accede, como corpus en bruto, datos caducados y copias de seguridad completas, lo que maximiza el control sobre los costes generales de implantación.
Situación del sector y tendencias tecnológicas
En términos de cuota de capacidad global, los discos duros siguen representando alrededor de 80% de la capacidad total de almacenamiento en los centros de datos de IA en la actualidad, sirviendo de base para datos masivos. Aunque las SSD destacan por su rendimiento, su cuota de capacidad sigue siendo relativamente limitada debido a las restricciones de costes. Si se observan las tendencias de crecimiento, el auge del sector de la IA está impulsando la demanda de ambos tipos de productos de almacenamiento. Sin embargo, la tasa de crecimiento anual compuesta de unidades SSD para empresas es muy superior a la de los discos duros, lo que refleja el papel esencial del almacenamiento de alto rendimiento en los escenarios de IA.
A medida que evoluciona la tecnología de memoria flash, las unidades SSD QLC de gran capacidad se están generalizando y están invadiendo gradualmente los mercados de datos calientes que antes pertenecían a las unidades de disco duro. Algunos datos de acceso moderado están empezando a pasarse al almacenamiento en SSD. A largo plazo, sin embargo, los discos duros no serán sustituidos por completo. En escenarios de archivado de datos en frío a escala de petabytes o exabytes, los HDD siguen siendo insustituibles debido a su coste por unidad de capacidad, mientras que es improbable que las SSD -limitadas por sus características físicas y su precio- se hagan totalmente con el almacenamiento de archivos de gran capacidad. La coexistencia a largo plazo de los dos tipos de hardware, trabajando juntos de forma escalonada, será el modelo de almacenamiento dominante para los centros de datos de IA en el futuro.
Las SSD y los HDD no son alternativas que compitan entre sí, sino componentes complementarios en la arquitectura de almacenamiento de los centros de datos de IA. Las SSD basadas en NVMe gestionan las cargas de trabajo básicas de alto rendimiento, lo que permite dar rienda suelta a la computación de IA. Los discos duros empresariales mantienen la línea de gran capacidad y bajo coste, dando cabida a las necesidades de almacenamiento de datos masivos. El modelo de despliegue híbrido por niveles equilibra el rendimiento, la capacidad y el coste, los tres factores esenciales. Es la solución de almacenamiento más razonable para los centros de datos de IA en la actualidad y lo seguirá siendo en el futuro inmediato.
