Durante muito tempo, o papel do SSDs era relativamente claro. A sua principal tarefa era substituir discos rígidos mecânicosA SSD é uma unidade de armazenamento de dados, que melhora a capacidade de resposta geral e o débito de dados do sistema. Quer se trate de computadores de consumo, servidores empresariais ou centros de dados, a evolução tecnológica dos SSD girava basicamente em torno de vários objectivos fixos: velocidades de leitura/escrita sequenciais mais elevadas, maior capacidade, menor custo e maior fiabilidade. No entanto, com o rápido desenvolvimento da inteligência artificial, especialmente dos grandes modelos e da aprendizagem profunda, as cargas de trabalho enfrentadas pelos sistemas de armazenamento mudaram significativamente. Nos cenários de IA, os dados já não são simplesmente "lidos, processados e escritos". Em vez disso, apresentam várias caraterísticas novas:
Em primeiro lugar, o volume de dados explodiu. Quer se trate dos dados brutos maciços utilizados na fase de formação do modelo ou dos parâmetros do modelo e das bases de dados vectoriais que necessitam de acesso repetido durante a fase de inferência, a dimensão dos dados excede largamente a das aplicações tradicionais.
Em segundo lugar, o padrão de acesso mudou radicalmente. As cargas de trabalho de IA envolvem frequentemente um grande número de acessos a blocos de dados pequenos, aleatórios e de elevada simultaneidade, em vez das leituras e gravações sequenciais de blocos grandes que os sistemas de armazenamento tradicionais conseguem gerir melhor.
Em terceiro lugar, o armazenamento começou a ter um impacto direto na eficiência computacional. Nos servidores de IA, a capacidade de computação das GPUs ou de outros aceleradores está a crescer muito rapidamente. Se o sistema de armazenamento não conseguir acompanhar a velocidade de fornecimento de dados, ocorre um "ralenti de computação", reduzindo efetivamente a eficiência global do sistema.
Foi neste contexto que o conceito de SSD com IA começou a ser frequentemente mencionado e passou gradualmente do conceito para produtos específicos e roteiros técnicos.
O que é a AI SSD?
Para muitos recém-chegados a este conceito, "AI SSD" pode ser facilmente mal interpretado como um produto que integra algoritmos de IA dentro da unidade de estado sólido, capaz de "aprender" ou "otimizar" por si só. No entanto, de acordo com a definição mais comum da indústria, este entendimento não é exato. A essência da SSD com IA não é "se há IA dentro da SSD", mas "se a SSD nasceu para cargas de trabalho de IA". Mais precisamente, um SSD de IA é um tipo de dispositivo de armazenamento de estado sólido profundamente optimizado para cenários de formação, inferência e serviço de dados de IA. Esta otimização inclui tanto a conceção da arquitetura ao nível do hardware como alterações no firmware, protocolos e métodos de colaboração do sistema. Em termos de posicionamento funcional, o SSD de IA continua a ser um dispositivo de armazenamento; não substituirá o papel computacional das GPUs ou CPUs. Mas o seu objetivo é muito claro: minimizar as limitações de desempenho impostas pelo armazenamento nos sistemas de IA.
Gargalos práticos dos SSDs tradicionais em cenários de IA
Para compreender o valor dos SSD de IA, é necessário, em primeiro lugar, conhecer claramente os problemas que os SSD tradicionais enfrentam nos cenários de IA.
- A latência torna-se uma métrica mais crítica do que a largura de banda.Nas aplicações tradicionais, leitura/escrita sequencial A largura de banda máxima é frequentemente um indicador importante para avaliar o desempenho do SSD, como 7GB/s ou 14GB/s. Mas em cenários de IA, a importância da latência muitas vezes ultrapassa a largura de banda de pico. Isso ocorre porque as tarefas de IA envolvem um grande número de solicitações de dados com granulação fina. Se cada acesso exigir uma espera de dezenas de microssegundos, mesmo que a quantidade de dados por pedido seja pequena, o efeito cumulativo abrandará significativamente o progresso global. A latência de acesso típica para muitos SSDs empresariais situa-se entre 40-100 microssegundos, o que é aceitável em cenários de base de dados ou virtualização, mas parece relativamente elevado na inferência ou formação de IA em grande escala.
- O IOPS já não é apenas "suficientemente bom". O IOPS (operações de entrada/saída por segundo) é há muito tempo uma das principais métricas para SSDs, mas em empresas tradicionais, atingir centenas de milhares de IOPS era muitas vezes suficiente. As cargas de trabalho de IA são completamente diferentes. Cenários como recuperação de vetores, carregamento de parâmetros e acesso a sharding de modelos geram um número extremamente grande de solicitações de leitura aleatórias. Nesses casos, o IOPS dos SSDs tradicionais rapidamente se torna um gargalo do sistema. É por isso que as discussões sobre a tecnologia de SSD para IA mencionam frequentemente objectivos de milhões ou mesmo dezenas de milhões de IOPS, o que era muito raro no passado.
- A CPU torna-se um "ponto de estrangulamento para a transferência". Na arquitetura clássica do servidor, o percurso dos dados entre o SSD e a GPU é normalmente: SSD → CPU → Memória → GPU. Este modelo funcionou bem na era da computação de uso geral, mas expõe problemas óbvios nos servidores de IA. Por um lado, a CPU precisa de lidar com uma grande quantidade de movimento de dados; por outro lado, este caminho introduz latência adicional. À medida que o poder de computação da GPU continua a aumentar, este caminho de dados que "contorna a CPU para chegar à GPU" está a tornar-se um constrangimento à eficiência global do sistema.
Diferenças de posicionamento entre a SSD com IA e a SSD tradicional
Para compreender a diferença entre os dois de forma mais intuitiva, podemos compará-los na perspetiva do seu "ponto de partida da conceção".
| Dimensão de comparação | SSD tradicional | SSD DE IA |
|---|---|---|
| Objetivo principal | Equilíbrio entre desempenho e custo para fins gerais | Eficiência extrema para cargas de trabalho de IA |
| Foco na otimização | Leitura/escrita sequencial, capacidade, fiabilidade | Baixa latência, IOPS elevado, alta simultaneidade |
| Aplicações típicas | PC, servidor, base de dados | Formação em IA, Inferência, Pesquisa Vetorial |
| Padrão de acesso aos dados | Misto, principalmente sequencial | Bloco pequeno, aleatório, alta concorrência |
| Colaboração de sistemas | Centrado na CPU | Mais próximo da GPU/Acelerador |
É importante salientar que a AI SSD não se destina a substituir as SSD tradicionais. Na grande maioria dos cenários de uso geral, as SSDs tradicionais continuam sendo uma opção mais razoável e econômica. A existência da SSD com IA é para servir os sistemas que já estão a ser "levados ao limite" pelas cargas de trabalho de IA.
O posicionamento central da SSD de IA
Do ponto de vista do sistema, o papel essencial do SSD de IA pode ser resumido numa frase: a sua tarefa não é apenas armazenar dados em si, mas fornecer dados à unidade de computação de IA de forma eficiente, estável e contínua. Para atingir este objetivo, os SSD de IA concentram-se normalmente na otimização nas seguintes direcções:
- Latência de acesso extremamente baixa
- Capacidade de IOPS aleatório muito elevado
- Arquitetura interna mais adequada aos padrões de acesso aos dados da IA
- Métodos de colaboração mais rigorosos a nível do sistema
Essas caraterísticas não são alcançadas simplesmente com o empilhamento de parâmetros, mas muitas vezes exigem que se repense o projeto do controlador da SSD, as estratégias de gerenciamento da memória flash e até mesmo os métodos de interface do sistema.
Principais caraterísticas técnicas e abordagens arquitectónicas dos SSD com IA
O SSD de IA não se trata simplesmente de pegar num SSD empresarial existente, aumentar o desempenho do controlador, adicionar mais memória flash e maximizar a velocidade da interface para se adequar naturalmente aos cenários de IA. A verdadeira dificuldade reside na diferença estrutural entre os padrões de acesso das cargas de trabalho de IA e as aplicações de armazenamento tradicionais. A evolução tecnológica da SSD de IA é essencialmente uma reformulação centrada nos padrões de acesso aos dados.
Latência extremamente baixa
Nos sistemas de IA, a latência do armazenamento determina muitas vezes diretamente a taxa de utilização dos recursos de computação. Tomando a GPU como exemplo, o seu poder de computação está a aumentar muito mais rapidamente do que os sistemas de armazenamento. Se a GPU estiver inativa enquanto espera pelos dados, mesmo que a potência de cálculo teórica da GPU seja elevada, a taxa de transferência real diminuirá significativamente. Neste caso, a latência média não é suficiente; a latência de cauda é ainda mais crítica. Uma única operação de IO com latência anormal pode atrasar a execução de um lote inteiro.
A latência de acesso dos SSD NVMe empresariais tradicionais situa-se normalmente ao nível das dezenas de microssegundos, o que constitui um resultado muito maduro e estável. Mas em cenários de IA, a indústria está a tentar comprimir ainda mais a latência para o nível de dez microssegundos ou mesmo perto de microssegundos de um dígito. Para o conseguir, não basta aumentar a velocidade da interface; é necessária uma otimização sistemática nas seguintes áreas:
- Reduzir as interrupções e as mudanças de contexto no percurso de controlo
- Otimização das estratégias de programação do acesso à memória flash
- Reduzir o percurso de tratamento interno dos dados no controlador
Pode dizer-se que a otimização da latência é um projeto sistemático que percorre todo o processo de conceção dos SSD com IA.
IOPS ultra-elevado
Durante o treino e a inferência de modelos, o acesso aos dados apresenta frequentemente caraterísticas "fragmentadas". Por exemplo:
- Os parâmetros do modelo são divididos em vários blocos pequenos.
- As bases de dados vectoriais requerem um acesso frequente a índices e caraterísticas.
- Vários modelos ou tarefas são executados em paralelo.
Nestes cenários, o SSD não enfrenta alguns pedidos grandes e contínuos, mas sim um grande número de pequenos pedidos simultâneos. Isso faz com que o IOPS seja um indicador-chave que determina o limite máximo de desempenho. Nas SSDs empresariais tradicionais, várias centenas de milhares de IOPS já são consideradas de alta qualidade. No planeamento de SSDs de IA, os objectivos comuns são milhões, vários milhões ou mesmo dezenas de milhões de IOPS. É importante notar que o IOPS aqui referido não é apenas um valor de pico em condições laboratoriais, mas uma capacidade sustentável sob restrições de alta concorrência e baixa latência. Melhorar o IOPS não é um problema que pode ser resolvido simplesmente "abrindo mais filas". Quando o número de pedidos simultâneos é extremamente elevado, surgem rapidamente os seguintes problemas:
- Maior complexidade da gestão de filas de espera
- Carga desigual entre canais de memória flash
- Interferência da amplificação de escrita e recolha de lixo
Por conseguinte, os SSD com IA necessitam frequentemente de introduzir estratégias de programação simultânea mais agressivas a nível do firmware, gerindo simultaneamente os recursos da memória flash de forma mais fina.
Co-design de sistemas para GPUs e aceleradores
Na arquitetura clássica do servidor, normalmente não existe um caminho de dados direto entre o SSD e a GPU. Os dados devem passar primeiro pela CPU e pela memória do sistema antes de serem enviados para a GPU. Os problemas desta arquitetura são amplificados nos servidores de IA. À medida que o número de GPUs aumenta e o poder de computação de placa única continua a melhorar, os problemas de eficiência desse caminho indireto se tornam mais pronunciados. Para resolver este problema, os SSD de IA estão a começar a fazer novas tentativas ao nível do sistema, tais como:
- Suporte dos modos de acesso direto ou quase direto aos dados da GPU.
- Reduzir o envolvimento desnecessário da CPU.
- Otimização do caminho de transmissão de dados entre o armazenamento e os aceleradores.
Estas concepções não significam necessariamente contornar completamente a CPU, mas sim reduzir os tempos de cópia e transferência de dados em cenários apropriados para melhorar a eficiência global. Nesta arquitetura, o armazenamento já não é apenas um "armazém de dados passivo", mas sim um nó de serviço de dados ativo no sistema de IA. Tem de compreender os padrões de acesso de nível superior, responder rapidamente a pedidos simultâneos e formar uma colaboração eficiente com as unidades de computação. É também por isso que a conceção de SSDs de IA requer frequentemente uma colaboração profunda com todo o sistema da máquina e até com os fabricantes de GPU.
Grande capacidade e alta densidade
Como as dimensões dos parâmetros dos modelos de grande dimensão continuam a aumentar, com modelos individuais a atingirem frequentemente centenas de GB ou mesmo vários TB, os sistemas de armazenamento têm de ter capacidade e densidade suficientes para suportar a implementação efectiva. Além disso, os sistemas de IA precisam frequentemente de armazenar várias versões de modelos, dados de treino, resultados intermédios, bases de dados vectoriais, índices, etc. Isto faz com que a elevada capacidade e a elevada densidade sejam outra caraterística importante dos SSD de IA. No entanto, a elevada capacidade não é "gratuita". O aumento da densidade do flash tem muitas vezes custos:
- Maior latência de acesso por matriz flash.
- Desempenho simultâneo limitado.
- Desafios à resistência e fiabilidade.
Por conseguinte, ao mesmo tempo que procuram a capacidade, as SSD de IA também precisam de minimizar a perda de desempenho causada pela elevada densidade através de concepções de arquitetura e de programação.
Situação da indústria e tendências futuras dos SSD de IA
Se for vista da perspetiva do ciclo de vida da tecnologia, a SSD com IA ainda se encontra numa fase de "adoção precoce e exploração rápida". Por um lado, a SSD de IA não é apenas um termo de marketing que permanece no nível concetual; as cargas de trabalho de IA já existem e estão a crescer rapidamente nos centros de dados, nas plataformas de computação em nuvem e nas grandes empresas. Por outro lado, a SSD de IA ainda não formou uma forma de produto completamente unificada e padronizada. Os verdadeiros SSD concebidos inteiramente em torno da IA ainda estão limitados principalmente a produtos personalizados, de pré-investigação e de empresas de topo de gama, e estão a alguma distância da adoção generalizada.
Com o avanço dos SSD de IA, os papéis na cadeia tradicional da indústria de armazenamento estão a mudar. No passado, os fabricantes de SSD concentravam-se mais no desempenho e na fiabilidade de dispositivos individuais. No cenário da IA, precisam de participar mais cedo na conceção ao nível do sistema, colaborar com fornecedores de servidores, GPU e plataformas de nuvem e realizar uma otimização profunda para cargas de trabalho de IA específicas. Isto está a esbater as fronteiras entre os fabricantes de equipamento original de armazenamento, os fabricantes de controladores e os integradores de sistemas.
É provável que os futuros SSD de IA deixem de ser apenas "um dispositivo ligado a uma ranhura PCIe" e passem a ser concebidos em conjunto com os recursos de computação ao nível do sistema. Isto pode refletir-se em: caminhos de dados mais diretos, menos cópias intermédias e uma colaboração mais estreita entre software e hardware. Esta situação enfraquecerá ainda mais a fronteira entre o armazenamento e a computação. Por outro lado, à medida que os sistemas de IA crescem, "passar toda a computação para a GPU" não é necessariamente a solução ideal. Em alguns cenários, o facto de o dispositivo de armazenamento tratar de algumas tarefas de processamento de dados ou de pré-processamento pode ajudar a reduzir a carga global do sistema. Embora estas ideias ainda se encontrem na fase exploratória, tornaram-se um foco de atenção da indústria.
O SSD de IA não é uma nova espécie que muda fundamentalmente o que é o armazenamento, mas uma reformulação da função de armazenamento centrada em cargas de trabalho de IA. O seu surgimento decorre das mudanças fundamentais que a IA traz aos padrões de acesso aos dados; o seu valor não reside na melhoria exagerada de métricas individuais, mas na melhoria contínua da eficiência do sistema; o seu futuro não substituirá todos os SSD, mas tornar-se-á uma parte indispensável da infraestrutura de IA. Se a GPU é o "motor" do sistema de IA, então a SSD de IA é mais como o sistema de combustível que fornece um abastecimento estável e contínuo. Pode não ser o mais visível, mas quando fica para trás, todo o sistema é afetado.
