I data center AI non utilizzano esclusivamente unità SSD o HDD. In genere utilizzano entrambi i tipi di unità in modo ibrido. Le unità SSD, con le loro eccellenti prestazioni, gestiscono i carichi di lavoro principali delle operazioni di intelligenza artificiale che richiedono un'elevata velocità, fungendo da mezzo principale per sbloccare la potenza di calcolo. Gli HDD, grazie alla loro grande capacità e al loro basso costo, si occupano dello stoccaggio e dell'archiviazione di enormi quantità di dati. I due sistemi lavorano insieme per formare un sistema di archiviazione completo.
Perché è necessaria la distribuzione ibrida
I data center AI adottano una distribuzione ibrida di SSD e HDD soprattutto perché i due prodotti presentano evidenti punti di forza complementari in termini di prestazioni e costi. Le unità SSD non hanno parti in movimento e leggono e scrivono i dati interamente attraverso segnali elettronici, il che le rende estremamente veloci. La loro latenza è tipicamente misurata in microsecondi e le loro prestazioni di lettura/scrittura casuale (IOPS) è centinaia o addirittura migliaia di volte superiore a quella degli HDD. Queste caratteristiche consentono alle unità SSD di soddisfare i requisiti di alta velocità di accesso ai dati per l'addestramento e l'inferenza dell'intelligenza artificiale. Gli HDD, invece, si basano su testine magnetiche per leggere e scrivere dati su dischi rotanti. A causa della loro struttura meccanica, la loro latenza si misura in millisecondi e le loro prestazioni di lettura/scrittura casuale sono di gran lunga inferiori a quelle delle unità SSD. Il loro vantaggio sta nel costo.
| Caratteristica | SSD | HDD |
|---|---|---|
| Principio di funzionamento | Basato su memoria flash, senza parti in movimento | Le testine magnetiche leggono/scrivono su dischi rotanti, con parti mobili coinvolte |
| Latenza | Livello microsecondo | Livello di millisecondi |
| Prestazioni di lettura/scrittura casuale | Molto elevato (IOPS centinaia di volte superiore a quello dell'HDD) | Relativamente basso |
| Costo per TB | Circa 10-20 volte quello degli HDD | Relativamente basso |
| Capacità massima per unità | Raggiungere il livello di 128TB-245TB | Raggiungere 32TB e oltre (tecnologia HAMR) |
| Efficienza energetica | Potenza per TB di gran lunga inferiore a quella degli HDD | Filatura continua, consumo di energia relativamente più elevato |
Secondo Dati VDURA a partire dal primo trimestre del 2026, il costo per unità di capacità degli SSD aziendali QLC da 30TB ha raggiunto 22,6 volte quello degli HDD della stessa capacità. Il prezzo delle unità SSD aziendali TLC da 30 TB è passato da circa $3,062 17.500 nell'ultimo anno, mentre i prezzi delle unità disco sono aumentati solo di circa 35% nello stesso periodo. Questo divario rende le soluzioni SSD pure sempre meno accessibili.
La modellazione di VDURA di una tipica configurazione di data center mostra che, in un ciclo di vita di tre anni, il costo totale di proprietà di un sistema di storage ibrido è di circa $7,31 milioni, mentre un sistema SSD puro costa circa $31,06 milioni di euro. Il costo triennale della soluzione ibrida è circa un quarto di quello della soluzione SSD pura. In breve, le unità SSD offrono velocità, mentre le unità HDD offrono capacità e controllo dei costi. Entrambi hanno un valore insostituibile, quindi l'implementazione ibrida è essenzialmente una scelta inevitabile per i data center di oggi.
Logica di selezione dello storage per le operazioni di intelligenza artificiale di base
La fase di preparazione dei dati elabora i dati grezzi. Questa fase riguarda principalmente le letture sequenziali su larga scala, che non richiedono elevate prestazioni di lettura/scrittura casuale, ma richiedono una capacità significativa. La prassi del settore adotta per lo più soluzioni di archiviazione basate su HDD, integrate da alcune cache SSD per migliorare la velocità di accesso ai dati caldi.
La fase di formazione del modello ha i requisiti più elevati in termini di prestazioni di archiviazione. L'intero processo richiede la lettura continua di enormi campioni di training e la scrittura frequente di file di checkpoint del modello, creando requisiti di throughput dei dati estremamente elevati. Se si utilizzassero gli HDD come storage primario, la loro latenza intrinseca causerebbe un ritardo nella fornitura dei dati rispetto alla computazione della GPU, con conseguente inattività dei cicli di calcolo e un calo significativo dell'utilizzo dell'hardware. Pertanto, nei cluster di formazione, le unità SSD NVMe sono distribuite sia localmente sui server delle GPU che in cluster di storage condivisi. Tecnologie come RDMA e NVMe-oF sono utilizzate per creare file system paralleli, fornendo un flusso continuo di dati per i cluster multi-GPU.
La fase di servizio dell'inferenza ha due requisiti fondamentali: bassa latenza di risposta e alta capacità di concurrency. Le applicazioni di modelli linguistici di grandi dimensioni e i servizi di retrieval-augmented generation (RAG) generano un gran numero di richieste di cache KV e di recupero di vettori. Questi tipi di accesso ai dati sono altamente casuali e sensibili alla latenza e devono quindi essere eseguiti su SSD. Anche i pesi del modello e i database dei vettori utilizzati per l'inferenza sono interamente distribuiti su SSD NVMe per garantire un time-to-first-token veloce e la stabilità complessiva del servizio. Gli HDD svolgono solo un ruolo di supporto nell'inferenza, memorizzando i log storici, le basi di conoscenza ad accesso infrequente e i file di backup; non partecipano ai servizi front-end in tempo reale.
Architettura di archiviazione a più livelli
I data center AI maturi oggi adottano tutti un'architettura di storage a livelli. I dati vengono suddivisi in tre livelli - caldo, tiepido e freddo - in base alla frequenza di accesso e ai requisiti di prestazione, e la configurazione hardware cambia di conseguenza per bilanciare prestazioni e costi.
- Il livello caldo è la parte ad alte prestazioni dell'architettura, che comprende la memoria, la memoria della GPU ad alta larghezza di banda e le unità SSD NVMe locali nei server. La sua capacità totale rappresenta solo da 5% a 20% dell'ingombro complessivo dello storage. Questo livello memorizza i pesi del modello, le cache in tempo reale e i dati di addestramento utilizzati di frequente. Determina direttamente l'efficienza della GPU ed è il collegamento principale che garantisce il funzionamento regolare dei carichi di lavoro AI.
- Il livello caldo utilizza in genere unità SSD QLC NVMe ad alta capacità o unità HDD ad alte prestazioni e, in alcuni casi, array HDD accelerati dalla cache SSD. Conserva i dati ad accesso moderato, come i set di dati puliti e i file di modello comunemente utilizzati, trovando un equilibrio tra prestazioni, capacità e costi.
- Il livello freddo occupa più di 80% della capacità di archiviazione di un data center. L'hardware principale è costituito da array di HDD aziendali; alcuni cluster molto grandi incorporano anche librerie a nastro. È dedicato all'archiviazione di dati freddi ad accesso raro, come corpora grezzi, dati scaduti e backup completi, massimizzando il controllo sui costi complessivi di implementazione.
Stato dell'industria e tendenze tecnologiche
In termini di quota di capacità complessiva, gli HDD rappresentano ancora oggi circa 80% della capacità di archiviazione totale nei data center di IA, fungendo da base per i dati di massa. Sebbene le SSD eccellano in termini di prestazioni, la loro quota di capacità rimane relativamente limitata a causa dei vincoli di costo. Guardando alle tendenze di crescita, il boom dell'industria dell'intelligenza artificiale sta spingendo la domanda di entrambi i tipi di prodotti di archiviazione. Tuttavia, il tasso di crescita annuale composto per SSD aziendali è molto più alto di quello degli HDD, a testimonianza del ruolo essenziale dello storage ad alte prestazioni negli scenari di IA.
Con l'evoluzione della tecnologia delle memorie flash, le unità SSD QLC di grande capacità si stanno diffondendo e stanno gradualmente invadendo i mercati dei dati caldi che prima appartenevano agli HDD. Alcuni dati ad accesso moderato stanno iniziando a passare allo storage SSD. A lungo termine, tuttavia, gli HDD non saranno completamente sostituiti. Negli scenari di archiviazione di dati freddi su scala petabyte o exabyte, gli HDD rimangono insostituibili a causa del loro costo per unità di capacità, mentre è improbabile che gli SSD - limitati dalle loro caratteristiche fisiche e dal loro prezzo - prendano completamente il sopravvento sull'archiviazione di grandi capacità. La coesistenza a lungo termine dei due tipi di hardware, che lavorano insieme in modo graduale, sarà il modello di archiviazione mainstream per i data center di intelligenza artificiale in futuro.
Le unità SSD e le unità HDD non sono alternative concorrenti, ma componenti complementari nell'architettura di storage dei data center AI. Le unità SSD basate su NVMe gestiscono i carichi di lavoro core ad alte prestazioni, consentendo di sfruttare appieno l'elaborazione dell'intelligenza artificiale. Le unità disco HDD di classe Enterprise mantengono la linea della grande capacità e del basso costo, soddisfacendo le esigenze di archiviazione di dati enormi. Il modello di implementazione ibrido e stratificato bilancia prestazioni, capacità e costi, i tre fattori essenziali. È la soluzione di archiviazione più ragionevole per i data center AI oggi e lo sarà anche nel prossimo futuro.
