CUDA, cuDNN, TensorRT 에 대해서

🛠️ GPU 가속 컴퓨팅의 3단계 레이어: 아키텍처적 접근

딥러닝 스택을 구축할 때 이 세 가지는 단순한 소프트웨어가 아니라, 하드웨어의 물리적 한계를 소프트웨어 최적화로 극대화하는 단계별 프로세스로 이해해야 합니다.

1. CUDA (The Fundamental Interface)

CUDA는 GPU의 수천 개 코어에 명령을 내리기 위한 추상화 계층(Abstraction Layer)입니다.

• 기술적 실체: GPGPU(General-Purpose computing on GPU)를 가능케 하는 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. CPU의 직렬 처리 방식과 달리, 데이터 병렬성을 극대화하기 위해 Thread - Block - Grid라는 계층 구조로 연산을 스케줄링합니다.
• 핵심 기능: 메모리 관리(Host to Device 복사), 커널 실행 제어, 그리고 공유 메모리(Shared Memory) 활용을 통한 지연 시간(Latency) 감소를 담당합니다.
• 전문가의 시각: "GPU라는 거대한 연산 장치를 제어하기 위한 가장 로우레벨(Low-level)의 운영체제 인터페이스"라고 볼 수 있습니다.

---

2. cuDNN (The Primitive Library for Deep Learning)

cuDNN은 CUDA 위에서 동작하는 딥러닝 전용 가속 프리미티브(Primitives) 라이브러리입니다.

• 기술적 실체: Convolution, Pooling, Normalization, Activation 등 딥러닝 모델의 핵심 연산을 하드웨어 특성에 맞춰 튜닝해둔 집합체입니다.
• 왜 필요한가?: 단순히 CUDA로 Convolution 연산을 짜는 것과, 엔비디아 엔지니어들이 GPU의 L1/L2 캐시 구조와 메모리 대역폭을 고려해 어셈블리 수준으로 깎아놓은 cuDNN을 쓰는 것은 성능 차이가 천지차이입니다.
• 핵심 기술: Winograd 알고리즘이나 FFT(Fast Fourier Transform) 기반의 Convolution 최적화 등을 통해 연산 복잡도를 물리적으로 줄여줍니다.
• 전문가의 시각: "프레임워크(PyTorch, TensorFlow)가 GPU 성능을 제대로 뽑아내기 위해 내부적으로 호출하는 최적화 엔진룸"입니다.

---

3. TensorRT (The Inference Optimizer & Runtime)

TensorRT는 학습용이 아닙니다. 학습된 모델을 특정 GPU 하드웨어에서 최고의 성능으로 실행하기 위한 SDK입니다.

• 기술적 실체: 학습된 모델(ONNX, TensorFlow 등)을 입력받아 타겟 GPU에 최적화된 'Engine' 파일로 직렬화(Serialization)합니다.
• 주요 최적화 기법:
  1. Layer & Tensor Fusion: 불필요한 레이어를 합쳐 메모리 IO를 줄입니다 (예: Conv+Bias+ReLU를 하나의 커널로 통합).
  2. Precision Calibration: FP32 모델을 성능 손실을 최소화하면서 FP16이나 INT8로 양자화(Quantization)하여 처리량을 몇 배로 높입니다.
  3. Kernel Auto-tuning: 해당 GPU 아키텍처(Ampere, Hopper 등)에서 가장 빠른 알고리즘을 자동으로 선택합니다.
• 전문가의 시각: "컴파일러가 코드를 최적화하듯, 딥러닝 모델 그래프를 하드웨어 맞춤형으로 재설계하는 고성능 추론 엔진"입니다.

---

워크플로우 관점

단계	구성 요소	주요 역할	산출물/결과
기반	CUDA	하드웨어 제어 및 병렬 연산 할당	GPU 연산 가용 상태
개발/학습	cuDNN	표준 딥러닝 연산의 가속화	가속화된 Training 성능
배포/서비스	TensorRT	모델 그래프 최적화 및 양자화	저지연(Low Latency) 추론 엔진

결론적으로, 학습(Training) 환경에서는 CUDA와 cuDNN 버전 호환성을 맞추는 것이 가장 중요하며, 실제 서비스(Inference) 단계에서는 TensorRT를 통해 처리량(Throughput)을 얼마나 끌어올리느냐가 엔지니어의 역량이 됩니다.