NVIDIA Meluncurkan Arsitektur Penyimpanan AI di FMS, Memungkinkan Akses Langsung GPU-ke-Penyimpanan
Seiring dengan terus meningkatnya skala beban kerja AI, peran infrastruktur penyimpanan mengalami pergeseran fundamental. Pada konferensi Future of Memory and Storage (FMS) pekan ini, NVIDIA memamerkan kemajuan penyimpanan baru dan menyatakan bahwa lompatan berikutnya dalam AI bergantung pada infrastruktur penyimpanan sama besarnya dengan kekuatan komputasi.
Agen AI Mendorong Tuntutan Penyimpanan ke Level Baru
NVIDIA menyoroti bahwa agen AI mengonsumsi data dalam jumlah besar dengan kecepatan yang belum pernah terjadi sebelumnya. Yang lebih penting, GPU kini dapat memulai permintaan penyimpanan secara langsung, menghasilkan ribuan operasi bersamaan. Hal ini memberikan tekanan yang sangat besar pada sistem penyimpanan, yang harus terus-menerus melakukan enkripsi, kompresi, verifikasi, dan rekonstruksi data. Layanan data penting ini dapat menjadi hambatan ketika ribuan agen mengakses penyimpanan secara bersamaan.
Menurut tolok ukur yang dipublikasikan dalam blog teknis NVIDIA, CPU NVIDIA Vera, bagian dari NVIDIA Vera BlueField-4 STX, memberikan throughput hingga 3,21 kali lebih tinggi daripada CPU x86 dalam pipeline kompresi dan enkripsi dua tahap. Ini berarti platform penyimpanan yang dibangun dengan Vera dapat menyerap banjir data AI dengan lebih efisien, memberikan throughput yang lebih besar dengan infrastruktur komputasi yang jauh lebih sedikit.
Dari Penyimpanan Pasif ke Jalur Data Aktif
Selama empat dekade, penyimpanan diperlakukan sebagai tempat pasif untuk menyimpan data. Tradeoff tradisional adalah antara memori (cepat tetapi mahal) dan penyimpanan (berkapasitas besar tetapi lambat). NVIDIA berpendapat bahwa komputasi yang dipercepat secara fundamental mengubah persamaan ini.
Pada GPU saat ini, yang dipasangkan dengan solusi penyimpanan AI dari NVIDIA dan mitranya, tradeoff waktu akses yang sama telah bergeser dari menit ke mikrodetik. Penyimpanan tidak lagi menjadi repositori data pasif; ia menjadi peserta aktif dalam jalur pemrosesan data.
NVIDIA menekankan bahwa menjembatani kesenjangan antara kebutuhan AI dan kekurangan memori memerlukan desain bersama yang mendalam di seluruh ekosistem, mulai dari produsen memori dan penyimpanan hingga perangkat lunak yang dibangun di atasnya.
API cuFile Menjadi Open Source, Memungkinkan Interoperabilitas GPU-Penyimpanan
Pada FMS, NVIDIA mengumumkan bahwa mereka menjadikan antarmuka pemrograman aplikasi (API) cuFile dan tumpukan perangkat lunak penyimpanan vertikal di bawahnya sebagai open source. cuFile adalah komponen open source dari NVIDIA GPUDirect Storage, yang memungkinkan GPU, bukan hanya CPU, untuk membaca dan menulis ke penyimpanan secara langsung.
Dengan memanfaatkan ratusan ribu thread GPU, memori bandwidth tinggi yang cepat, dan teknik lainnya, cuFile dapat mengakses data dari penyimpanan dengan aman dalam hitungan mikrodetik. Ini mewakili bagaimana industri bersatu di sekitar tumpukan penyimpanan yang mengutamakan keamanan berdasarkan praktik terbaik Linux, menyediakan interoperabilitas antara GPU dan data.
NVIDIA mencatat bahwa akses cepat dan aman ke data dan penyimpanan adalah fondasi untuk mendukung langkah-langkah keamanan siber preventif dan detektif. Membuat cuFile tersedia secara terbuka membantu mendorong standardisasi praktik keamanan di seluruh industri.
Sumber: Blog NVIDIA
