NVIDIAがFMSでAIストレージアーキテクチャを発表、GPUからストレージへの直接アクセスを可能にする

AIワークロードの規模が拡大し続ける中、ストレージインフラの役割は根本的な変革を迎えています。今週開催されたFuture of Memory and Storage（FMS）カンファレンスで、NVIDIAは新しいストレージの進展を披露し、AIにおける次の飛躍はコンピューティングパワーと同様にストレージインフラに依存していると主張しました。

AIエージェントがストレージ需要を新たな高みへ押し上げる

NVIDIAは、AIエージェントが前例のない速度で膨大なデータを消費していると強調しました。さらに注目すべきは、GPUが直接ストレージリクエストを開始できるようになり、数千もの同時操作を生成している点です。これにより、ストレージシステムは継続的にデータの暗号化、圧縮、検証、再構築を行う必要があり、極めて大きな負荷がかかります。数千のエージェントが同時にストレージにアクセスする場合、これらの重要なデータサービスがボトルネックとなる可能性があります。

NVIDIAの技術ブログで公開されたベンチマークによると、NVIDIA Vera BlueField-4 STXの一部であるNVIDIA Vera CPUは、2段階の圧縮および暗号化パイプラインにおいて、x86 CPUと比較して最大3.21倍のスループットを実現します。これは、Veraを搭載したストレージプラットフォームが、AIデータの洪水をより効率的に吸収し、はるかに少ないコンピューティングインフラで高いスループットを提供できることを意味します。

受動的なストレージから能動的なデータパスへ

40年にわたり、ストレージはデータを保持する受動的な場所として扱われてきました。従来のトレードオフは、メモリ（高速だが高価）とストレージ（大容量だが低速）の間にありました。NVIDIAは、アクセラレーテッドコンピューティングがこの方程式を根本的に変えつつあると主張しています。

現在のGPUでは、NVIDIAおよびそのパートナーによるAIストレージソリューションと組み合わせることで、同じアクセス時間のトレードオフが数分から数マイクロ秒に変化しました。ストレージはもはや受動的なデータリポジトリではなく、データ処理パスにおける能動的な参加者となります。

NVIDIAは、AIのニーズとメモリ不足のギャップを埋めるには、メモリやストレージメーカーからその上に構築されるソフトウェアに至るまで、エコシステム全体にわたる深い共同設計が必要であると強調しました。

cuFile APIがオープンソース化、GPUとストレージの相互運用性を実現

FMSにおいて、NVIDIAはcuFileアプリケーションプログラミングインターフェース（API）とその下層の垂直ストレージソフトウェアスタックをオープンソース化することを発表しました。cuFileはNVIDIA GPUDirect Storageのオープンソースコンポーネントであり、CPUだけでなくGPUもストレージから直接読み取り、書き込みを行うことを可能にします。

数十万のGPUスレッド、高速な高帯域幅メモリ、その他の技術を活用することで、cuFileはストレージからデータを数マイクロ秒で安全にアクセスできます。これは、業界がLinuxのベストプラクティスに基づいたセキュリティファーストのストレージスタックを中心に統合され、GPUとデータ間の相互運用性を提供していることを示しています。

NVIDIAは、予防的および検出的なサイバーセキュリティ対策を強化するためには、データとストレージへの高速かつ安全なアクセスが基盤となると述べています。cuFileをオープンに利用可能にすることで、業界全体でのセキュリティ慣行の標準化が促進されます。

出典: NVIDIA ブログ