長い間、その役割は SSD は比較的明確だった。その中心的な仕事は、次のようなものだった。 メカニカル・ハードディスク・ドライブこれにより、システム全体の応答性とデータ・スループットが向上します。コンシューマー・コンピューター、エンタープライズ・サーバー、データセンターのいずれにおいても、SSDの技術進化は基本的に、シーケンシャル・リード/ライト速度の向上、大容量化、低コスト化、信頼性の向上といった、いくつかの固定目標を中心に展開されてきた。しかし、人工知能、特に大規模モデルやディープラーニングの急速な発展に伴い、ストレージシステムが直面するワークロードは大きく変化した。AIシナリオでは、データはもはや単純に「読み込んで処理し、書き出す」だけではありません。その代わりに、いくつかの新しい特性を示す：
第一に、データ量が爆発的に増加した。 モデルのトレーニング段階で使用される膨大な生データであれ、推論段階で繰り返しアクセスする必要のあるモデル・パラメーターやベクトル・データベースであれ、データ・サイズは従来のアプリケーションのそれをはるかに超えている。
第二に、アクセスパターンが根本的に変わった。 AIのワークロードは、従来のストレージシステムが得意とする大ブロックのシーケンシャルな読み書きの処理ではなく、多くの場合、小規模でランダム、かつ高同時性のデータブロックアクセスを伴う。
第三に、ストレージが計算効率に直接影響を与え始めている。 AIサーバーでは、GPUやその他のアクセラレーターの演算能力が急速に高まっている。ストレージシステムがデータ供給速度に追いつけない場合、「コンピューティング・アイドリング」が発生し、システム全体の効率が低下する。
このような背景から、AI SSDのコンセプトが頻繁に言及されるようになり、徐々にコンセプトから具体的な製品や技術ロードマップへと移行していった。
AI SSDとは？
この概念を初めて知る多くの人にとって、「AI SSD」はソリッド・ステート・ドライブ内部にAIアルゴリズムを統合し、自ら「学習」または「最適化」できる製品だと誤解されやすい。しかし、業界の主流の定義によれば、この理解は正確ではない。AI SSDの核心は、"SSD内部にAIがあるかどうか "ではなく、"SSDがAIワークロードのために生まれたかどうか "にある。より正確には、AI SSDとは、AIのトレーニング、推論、データ・サービス・シナリオ向けに深く最適化されたソリッド・ステート・ストレージ・デバイスの一種である。この最適化には、ハードウェアレベルのアーキテクチャ設計と、ファームウェア、プロトコル、システム連携方法の変更の両方が含まれる。機能的な位置づけとしては、AI SSDは依然としてストレージ・デバイスであり、GPUやCPUの計算の役割を置き換えるものではない。しかし、その目標は非常に明確である。AIシステムにストレージによって課されるパフォーマンスの制限を最小化することである。
AIシナリオにおける従来のSSDの実用的ボトルネック
AI SSDの価値を理解するには、まずAIシナリオで従来のSSDが直面する問題を明確にする必要がある。
- 遅延は帯域幅よりも重要な指標となる。従来のアプリケーションでは、 シーケンシャル・リード／ライト 7GB/秒や14GB/秒といった帯域幅は、SSDの性能を評価する上で重要な指標となることが多い。しかし、AIシナリオでは、レイテンシの重要性がピーク帯域幅を上回ることが多い。これは、AIタスクが多数のきめ細かいデータ要求を伴うためです。各アクセスに数十マイクロ秒の待ち時間が必要な場合、1リクエストあたりのデータ量が小さくても、累積効果は全体の進捗を大幅に遅らせることになる。多くのエンタープライズ向けSSDの典型的なアクセスレイテンシは40～100マイクロ秒であり、データベースや仮想化シナリオでは許容できるが、大規模なAI推論やトレーニングでは相対的に高くなる。
- IOPSはもはや "十分 "ではない。 IOPS（Input/Output Operations Per Second）は長い間、SSDの中核的な指標の1つだったが、従来のビジネスでは数十万IOPSを達成すれば十分なことが多かった。AIのワークロードは全く異なります。ベクトル検索、パラメータ・ロード、モデル・シャーディング・アクセスなどのシナリオでは、非常に多くのランダムな読み取り要求が発生します。このような場合、従来のSSDのIOPSはすぐにシステムのボトルネックになります。このため、AI SSD技術に関する議論では、数百万、あるいは数千万IOPSという目標値がしばしば言及される。
- CPUが "転送のボトルネック "になる。 古典的なサーバー・アーキテクチャでは、SSDとGPU間のデータ・パスは通常、次のようになる：SSD→CPU→メモリ→GPUだ。このモデルは汎用コンピューティングの時代にはうまく機能したが、AIサーバーでは明らかな問題を露呈している。一方では、CPUが大量のデータ移動を処理する必要があり、他方では、この経路自体がさらなるレイテンシをもたらします。GPUの演算能力が向上し続ける中、「CPUを迂回してGPUに到達する」このデータ経路は、システム全体の効率に対する制約になりつつある。
AI SSDと従来型SSDの位置づけの違い
両者の違いをより直感的に理解するには、"デザインの出発点 "という観点から比較すればいい。
| 比較寸法 | 従来のSSD | AI SSD |
|---|---|---|
| 主要目標 | 汎用性能とコストのバランス | AIワークロードの効率を極限まで高める |
| 最適化フォーカス | シーケンシャルリード/ライト、容量、信頼性 | 低レイテンシー、高IOPS、高同時性 |
| 代表的なアプリケーション | PC、サーバー、データベース | AIトレーニング、推論、ベクトル探索 |
| データ・アクセス・パターン | 混合、主に順次 | スモールブロック、ランダム、高カレンシー |
| システム・コラボレーション | CPU中心 | GPU/アクセラレーターに迫る |
AI SSDは従来のSSDを置き換えるものではないことを強調しておきたい。汎用的なシナリオの大部分では、従来のSSDの方がより合理的で費用対効果の高い選択肢であることに変わりはない。AI SSDの存在は、AIワークロードによってすでに「限界まで追い込まれた」システムに対応するためのものである。
AI SSDの核心的位置づけ
システムの観点から、AI SSDの本質的な役割を一言で言えば、「データを保存するだけでなく、AIコンピューティング・ユニットに効率的、安定的、継続的にデータを提供すること」である。この目標を達成するために、AI SSDは通常、以下の方向での最適化に重点を置いている：
- 極めて低いアクセス・レイテンシー
- 非常に高いランダムIOPS能力
- AIデータアクセスパターンに適した内部アーキテクチャ
- より緊密なシステムレベルのコラボレーション手法
これらの特性は、単にパラメータを積み重ねることで達成されるものではなく、多くの場合、SSDのコントローラ設計、フラッシュ・メモリ管理戦略、さらにはシステム・インターフェースの方法まで再考する必要があります。
AI SSDの主な技術的特徴とアーキテクチャ・アプローチ
AI SSDは、既存のエンタープライズSSDを利用し、コントローラーの性能を高め、フラッシュメモリーを増設し、AIシナリオに自然に適合するようにインターフェイス速度を最大化するという単純なものではない。本当の難しさは、AIワークロードと従来のストレージ・アプリケーションのアクセス・パターンの構造的な違いにある。AI SSDの技術的進化は、本質的にデータ・アクセス・パターンを中心とした再設計である。
極めて低いレイテンシー
AIシステムでは、ストレージのレイテンシがコンピューティングリソースの利用率を直接左右することが多い。GPUを例にとると、その計算能力はストレージシステムよりもはるかに速く向上しています。もしGPUがデータを待っている間にアイドル状態になると、GPUの理論的な演算能力が高くても、実際のスループットは大幅に低下します。この場合、平均レイテンシでは不十分で、テールレイテンシがさらに重要になります。異常なレイテンシを持つ1つのIO操作が、バッチ全体の実行を遅らせる可能性があります。
従来のエンタープライズ向けNVMe SSDのアクセスレイテンシは通常、数十マイクロ秒レベルであり、これは非常に成熟した安定した結果である。しかし、AIシナリオでは、業界はレイテンシを10マイクロ秒、あるいは1桁マイクロ秒に近いレベルまでさらに圧縮しようとしています。これを達成するには、単にインターフェイスの速度を上げるだけでなく、以下の領域で体系的な最適化を行う必要がある：
- 制御パスにおける割り込みとコンテキスト・スイッチの削減
- フラッシュ・メモリのアクセス・スケジューリング戦略の最適化
- コントローラ内部でのデータ処理経路の短縮
レイテンシーの最適化は、AI SSDの設計プロセス全体を貫く体系的なプロジェクトだと言える。
超高IOPS
モデルのトレーニングや推論中、データアクセスはしばしば「断片的」な特性を示す。例えば
- モデル・パラメーターは多数の小さなブロックに分割される。
- ベクターデータベースは、インデックスやフィーチャーに頻繁にアクセスする必要がある。
- 複数のモデルやタスクが並行して実行される。
このようなシナリオでは、SSDが直面するのは、少数の大きな連続したリクエストではなく、大量の小さなリクエストが同時に発生することになります。このため、IOPS が性能の上限を決定する重要な指標となります。従来のエンタープライズSSDでは、数十万IOPSがすでにハイエンドとみなされている。AI SSDの計画では、一般的なターゲットは数百万、数百万、あるいは数千万のIOPSである。ここで言及されているIOPSは、実験室の条件下でのピーク値ではなく、高い同時実行性と低レイテンシの制約下で持続可能な能力であることに注意することが重要です。IOPSの向上は、単に "キューを増やす "ことで解決できる問題ではありません。同時リクエスト数が極端に多くなると、次のような問題がすぐに浮上する：
- 待ち行列管理の複雑化
- フラッシュメモリーチャンネル間の不均等な負荷
- 書き込み増幅とガベージコレクションによる干渉
そのため、AI SSDは多くの場合、ファームウェア・レベルでよりアグレッシブな同時スケジューリング戦略を導入し、同時にフラッシュ・メモリ・リソースをより細かく管理する必要がある。
GPUとアクセラレータのシステム協調設計
古典的なサーバー・アーキテクチャでは通常、SSDとGPUの間に直接的なデータ経路はありません。データはGPUに送られる前に、まずCPUとシステム・メモリを通過しなければならない。このアーキテクチャの問題は、AIサーバーで増幅されます。GPUの数が増え、シングルカードの演算能力が向上し続けるにつれて、この間接パスの効率性の問題はより顕著になります。この問題を解決するため、AI SSDはシステム・レベルで次のような新しい試みを始めている：
- GPUダイレクトまたはニアダイレクトデータアクセスモードのサポート。
- 不必要なCPUの関与を減らす。
- ストレージとアクセラレータ間のデータ伝送経路の最適化。
これらの設計は、必ずしもCPUを完全にバイパスすることを意味するのではなく、適切なシナリオでデータのコピーと転送時間を短縮し、全体的な効率を向上させることを意味する。このアーキテクチャでは、ストレージはもはや単なる「受動的なデータウェアハウス」ではなく、AIシステム内の能動的なデータサービスノードに近い。上位レベルのアクセスパターンを理解し、同時リクエストに素早く対応し、コンピューティング・ユニットとの効率的な連携を形成する必要がある。AI SSDの設計に、マシン・システム全体、さらにはGPUメーカーとの深い協力関係がしばしば必要とされる理由もここにある。
大容量・高密度
個々のモデルが数百GBから数TBに達することも多く、大規模なモデルのパラメータ・サイズが増大し続けているため、ストレージ・システムは実際の展開をサポートするのに十分な容量と密度を持たなければならない。さらに、AIシステムでは、モデルの複数のバージョン、学習データ、中間結果、ベクトル・データベース、インデックスなどを保存する必要があることがよくあります。このため、大容量と高密度もAI用SSDの重要な特性の1つとなっている。しかし、大容量は "無料 "ではない。フラッシュ密度を高めるには、多くの場合コストがかかる：
- フラッシュ・ダイあたりのアクセス・レイテンシの増加。
- 同時プレーに制限がある。
- 耐久性と信頼性への挑戦。
したがって、AI SSDは容量を追求する一方で、アーキテクチャやスケジューリング設計によって高密度化による性能低下を最小限に抑える必要がある。
AI SSDの業界現状と将来動向
技術ライフサイクルの観点から見れば、AI SSDはまだ "初期導入と急速な探求 "の段階にある。一方では、AI SSDは概念レベルにとどまる単なるマーケティング用語ではなく、AIワークロードはすでに存在し、データセンター、クラウド・コンピューティング・プラットフォーム、大企業で急速に拡大している。一方、AI SSDはまだ完全に統一された標準的な製品形態にはなっていない。AIに特化して設計された真のSSDは、主にカスタマイズ、事前研究、ハイエンドのエンタープライズ製品に限定されており、普及にはまだ距離がある。
AI SSDの進歩に伴い、従来のストレージ産業チェーンにおける役割が変化している。かつてSSDメーカーは、単体のデバイスの性能と信頼性に重点を置いていた。AIのシナリオでは、システムレベルの設計に早期に参加し、サーバー、GPU、クラウドプラットフォームのプロバイダーと協力し、特定のAIワークロードのために深い最適化を行う必要がある。これにより、ストレージの相手先商標製品メーカー、コントローラーメーカー、システムインテグレーターの境界が曖昧になりつつある。
将来のAI SSDは、もはや「PCIeスロットに差し込まれるデバイス」ではなく、システム・レベルでコンピューティング・リソースとより深く共同設計されるようになるだろう。これは、より直接的なデータパス、より少ない中間コピー、より緊密なソフトウェアとハードウェアのコラボレーションに反映されるかもしれない。これにより、ストレージと計算の境界はさらに弱まるだろう。一方、AIシステムの規模が拡大するにつれ、「すべての計算をGPUに委ねる」ことが必ずしも最適な解決策とは言えなくなる。シナリオによっては、ストレージ・デバイスに一部のデータ処理や前処理タスクを処理させることで、システム全体の負荷を軽減することができる。このようなアイデアはまだ模索段階だが、業界の注目の的となっている。
AI SSDは、ストレージのあり方を根本的に変える新種ではなく、AIワークロードを中心としたストレージの役割の再構築である。その出現は、AIがデータ・アクセス・パターンにもたらす根本的な変化に由来する。その価値は、個々の指標の誇張された改善ではなく、システム効率の継続的な改善にある。その将来は、すべてのSSDを置き換えるのではなく、AIインフラストラクチャの不可欠な一部となるだろう。GPUがAIシステムの「エンジン」だとすれば、AI SSDは安定的かつ継続的な供給を行う燃料システムのようなものだ。最も目立つ存在ではないかもしれないが、ひとたび遅れをとれば、システム全体に影響が及ぶ。
