5060~5090 GPU pytorch tensorflow 설치 가이드

 

최근 5060ti로 GPU를 업그레이드했는데, pytorch와 tensorflow를 설치하는 데 있어 여러 난관이 있었다. 설치는 되는데 import 시 에러가 발생하는 경우도 있었고, gpu available 확인은 되지만 실제로 텐서를 gpu에 할당하면 에러가 발생하는 경우도 있었다. 여러 자료를 참고하여 정상 동작하는 버전과 그 설치법을 공유하여 5000번대 GPU를 구입한 분들께 도움이 되고자 글을 작성한다.

• 정상동작 테스트 버전 요약

 wsl ubuntu 22.04
 cuda 12.8
 python 3.10
 torch 2.8.0+cu128
 torchvision 0.23.0+cu128
 tf_nightly 2.21.0.dev20250920

1. 제어판 설정

 제어판 > 프로그램 > 프로그램 > 프로그램 및 기능 > Windows 기능 켜기/끄기

'Linux용 Windows 하위 시스템' 체크

2. WSL 우분투 설치

파워쉘 또는 cmd 창에서 다음 명령어 입력하여 ubuntu 22.04 설치

wsl --install "Ubuntu-22.04"

(Microsoft Store에서 설치해도 무관하지만 설치 오류 잦음)

3. NVIDIA driver 업데이트

엔비디아 공식 홈페이지에서 본인의 GPU에 맞게 드라이버 업데이트

https://www.nvidia.com/drivers/

4. CUDA 설치

CUDA 12.8 버전 설치 페이지로 이동

https://developer.nvidia.com/cuda-12-8-0-download-archive

위와 같이 선택하면 나오는 명령어를 WSL에서 실행하여 설치

5. pip 및 cudnn 설치

sudo apt-get install python3-pip
pip3 install nvidia-cudnn-cu12

6. .bashrc 설정

vim ~/.bashrc

위와 같이 입력해 .bashrc 파일을 열고 아래 설정을 복사하여 붙여넣기

export PATH=$PATH:/usr/local/cuda-12.8/bin

export CUDADIR=/usr/local/cuda-12.8

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.8/lib64

vim 편집기에서 i 키를 눌러야 입력할 수 있게 되고, 수정을 마치면 esc 키를 누른 뒤 :q 를 입력하고 엔터를 눌러 저장하고 파일을 닫을 수 있다.

7. pytorch 설치

pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu128

CUDA 12.6 설치 시 sm_120 관련 에러 발생하며, 13.0 설치 시 현재 pytorch가 정식 지원되지 않으므로 12.8 버전이 유일한 선택으로 보인다.

• 참고: 파이토치 공식 홈페이지 다운로드 페이지
• 참고: [discuss] NVIDIA GeForce RTX 5070 Ti with CUDA capability sm_120

8. tensorflow 설치

pip install tf-nightly[and-cuda]

현재 tensorflow가 5000번대 GPU를 정식 지원하지 않는 것으로 보이지만, tf-nightly (preview) 버전을 설치하면 정상적으로 사용할 수 있다.

• 참고: 텐서플로우 공식 홈페이지 다운로드 페이지
• 참고: [reddit] Tensorflow GPU on RTX 5000 series not working