[윈도우] 엔비디아 CUDA Toolkit, cuDNN 드라이버 설치

GPU 호환 확인

먼저 본인이 사용하는 그래픽카드의 SDK 지원 버전을 확인합니다.

CUDA GPUs - Compute Capability

 
 
저는 4070ti super를 사용 중이기 때문에 최신 CUDA 드라이버를 사용할 수 있으니 최신 버전을 기준으로 설명합니다.

 
 
 

CUDA 드라이버 설치

CUDA Toolkit 12.1 Downloads

 
해당 홈페이지에서 CUDA Toolkit을 설치해 줍니다.
Install Type은 가능하면 exe(Local)로 선택해 줍니다. Local 타입은 내부 데이터파일들이 포함된 상태로 다운로드되며
Network 타입은 설치 프로그램에서 인터넷으로 데이터 파일을 받는 거기 때문에 만약 인터넷이 불안정할 경우 설치에 실패할 수도 있습니다.

 
기본적으로 전부 다음다음을 눌러서 설치해 주면 됩니다.
다만 설치 위치는 가능하면 절대 변경하지 않습니다.

 
 
이제 CUDA 드라이버는 설치되었습니다. 다만 아직 끝난 것이 아니기 때문에 해당 경로를 기억해 둡니다.

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6

 
 
 

cuDNN 설치

해당 사이트로 들어가줍니다.(로그인 필요)

cuDNN 9.5.0 Downloads

 
아까 CUDA v12.6을 설치하였기 때문에 똑같이 최신 v9.5를 설치하면 됩니다.
설치 옵션은 프로그램 설치 말고 일반 파일로 받습니다.

 
이제 다운로드한 cuDDN 파일을 아까 설치한 CUDA 폴더에 붙여 넣기 합니다.

 
 
 

최종 설치 확인

이제 환경변수로 들어가 CUDA 경로가 정상적으로 적용되었는지 확인합니다.

 
 
이제 터미널에서 해당 커멘트를 입력해 정상적으로 설치되었는지를 확인합니다.

nvcc --version

 
 
 

오류 해결

정상적으로 모든 설치를 진행했지만 머신러닝 프로그램에서 오류가 발생할 경우의 해결법입니다.

 
해당 오류는 CUDA와 torch의 버전이 맞지 않아 생기는 문제입니다.
 
먼저 여기서 cuBLAS를 아까 설치한 CUDA 버전에 맞는 걸로 다운로드해 줍니다.

Release cuBLAS and cuDNN · Purfview/whisper-standalone-win

 
압축을 풀고 머신러닝 프로그램의 torch 폴더 안 bin 폴더에 붙여 넣기 하면 오류가 해결됩니다.