Skip to content

GPUDirect Storage

는 NVIDIA GPUDirect Storage(GDS) 기술의 핵심 커널 드라이버(nvidia-fs.ko)로, 스토리지(로컬 NVMe, 네트워크 스토리지 등)에서 GPU 메모리로 데이터를 직접 전송하여 CPU 오버헤드를 줄이고 데이터 이동 속도를 극대화하는 기술입니다. 이는 AI, HPC(고성능 컴퓨팅), 데이터 사이언스 워크로드에서 병목 현상을 완화하고 GPU 활용률을 높이는 데 필수적이며, nvidia-fs 패키지(DKMS 포함)를 통해 시스템에 설치되어 작동합니다.

주요 특징 및 기능

  • GPUDirect Storage(GDS) 지원: CPU를 거치지 않고 스토리지 컨트롤러에서 GPU 메모리로 직접 DMA(Direct Memory Access)를 수행합니다.
  • 커널 모듈(nvidia-fs.ko): 시스템 부팅 시 로드되어 파일 시스템과 GPU 간의 통신을 관리하는 핵심 드라이버입니다.
  • 성능 향상: 대규모 데이터셋 처리 시 입출력(I/O) 성능을 크게 향상시켜 GPU가 데이터를 더 빠르게 활용할 수 있게 합니다.
  • 다양한 스토리지 지원: NVMe, Lustre, NFS 등 다양한 파일 시스템과 네트워크 스토리지 솔루션에서 사용됩니다.
  • nvidia-fs-dkms 패키지: Ubuntu 같은 리눅스 배포판에서 커널 업데이트 시 드라이버를 자동으로 재빌드해주는 패키지입니다.

nvidia-fs.ko

커널 모듈. 시스템 부팅 시 로드되어 파일 시스템과 GPU 간의 통신을 관리하는 핵심 드라이버입니다.

See also

Favorite site