CUDA, cuDNN ve Sürücü Matrisi: Ne Neyle Çalışır?

Neden Bu Kadar Karmaşık?

CUDA, cuDNN, sürücü ve framework sürümleri birbirinden bağımsız gelişir; ancak hepsi uyumlu olmak zorundadır. Tek bir yanlış kombinasyon tüm sistemi çalışmaz hale getirebilir.

NVIDIA'nın GPU yazılım yığını dört bağımsız bileşenden oluşur: Kernel Driver, CUDA Toolkit, cuDNN ve üst seviye framework (PyTorch, TensorFlow vb.). Her katman kendi sürüm döngüsüyle yayınlanır ve aralarındaki uyumluluk ilişkisi her yeni sürümde yeniden tanımlanır.

Bu bileşenlerin arasındaki ilişkiyi anlamak için şunu bilmek gerekir: nvidia-smi'nin gösterdiği CUDA sürümü ile gerçekte kullanılan CUDA Toolkit sürümü farklı şeylerdir. Bu tek yanlış anlama, her yıl binlerce mühendisi saatlerce hata ayıklamaya mahkûm eder.

Sürücü → CUDA Uyumluluk Tablosu

NVIDIA sürücüsü minimum bir CUDA sürümünü gerektirir ve maksimum bir CUDA sürümünü destekler. Aşağıdaki tablo en yaygın kullanılan üretim sürücü aralıklarını kapsar.

PyTorch, TensorFlow ve TensorRT Matrisi

Framework sürümleri belirli CUDA Toolkit sürümlerine karşı derlenir. Conda veya pip ile kurulum yapılırken CUDA sürümüne dikkat edilmemesi en yaygın uyumluluk hatasının kaynağıdır.

PyTorch ↔ CUDA Uyumu

TensorFlow ↔ CUDA Uyumu

TensorRT ↔ CUDA Uyumu

cuDNN Sürüm Matrisi

cuDNN, derin öğrenme primitiflerini (konvolüsyon, pooling, normalizasyon vb.) GPU üzerinde hızlandıran kütüphanedir. Hem CUDA sürümüyle hem de framework'ün beklediği cuDNN sürümüyle uyumlu olması gerekir.

Sık Yapılan 7 Hata

Aşağıdaki hatalar NVIDIA ekosistemiyle çalışan mühendislerin tekrar tekrar düştüğü tuzaklardır. Her birinin neden yapıldığını ve nasıl düzeltileceğini net biçimde aktarıyoruz.

Kurulum Kontrol Listesi

Yeni bir ortam kurarken veya mevcut bir ortamı güncellerken bu listeyi sırayla geçin. Her madde bağımsız bir hata kaynağını temsil eder.

Hızlı Tanı Komutları

Sorun yaşadığınızda çalıştırmanız gereken komutları tek bir yerde topladık. Destek talebinde bu komutların çıktılarını her zaman ekleyin.

# ── Sürücü ve GPU ──────────────────────────────────
nvidia-smi                              # Sürücü, CUDA max, GPU durumu
nvidia-smi -q | grep "Driver Version\|CUDA Version"
nvidia-smi topo --matrix                # NVLink / PCIe topolojisi

# ── CUDA Toolkit ───────────────────────────────────
nvcc --version                          # Gerçek kurulu CUDA sürümü
ls /usr/local/ | grep cuda              # Tüm kurulu CUDA versiyonları
echo $PATH | tr ':' '\n' | grep cuda   # PATH'teki CUDA konumu

# ── cuDNN ──────────────────────────────────────────
cat /usr/include/cudnn_version.h | grep "CUDNN_MAJOR\|CUDNN_MINOR\|CUDNN_PATCHLEVEL"
ldconfig -p | grep libcudnn             # cuDNN kütüphane yolları
python3 -c "import ctypes; ctypes.cdll.LoadLibrary('libcudnn.so.9')"

# ── PyTorch ────────────────────────────────────────
python3 -c "import torch; print(
  'PyTorch:', torch.__version__,
  '| CUDA available:', torch.cuda.is_available(),
  '| CUDA version:', torch.version.cuda,
  '| cuDNN version:', torch.backends.cudnn.version(),
  '| GPU:', torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'N/A'
)"

# ── TensorFlow ─────────────────────────────────────
python3 -c "import tensorflow as tf; print(
  'TF:', tf.__version__,
  '| GPUs:', tf.config.list_physical_devices('GPU'),
  '| CUDA:', tf.sysconfig.get_build_info()['cuda_version'],
  '| cuDNN:', tf.sysconfig.get_build_info()['cudnn_version']
)"

# ── Docker ─────────────────────────────────────────
docker run --rm --gpus all nvidia/cuda:12.6.0-base-ubuntu22.04 nvidia-smi