카카오클라우드 4탄-22.VM NVIDIA GPU환경
VM GPU를 만들고 사용해보자.
<0> 시작전 준비
<1> GPU 인스턴스 생성
<2> Public IP 연결
<3> cuDNN 설치
<4> 참고 자료
<0> 시작전 준비
1
사이트 계정 생성
https://developer.nvidia.com/cudnn
topas@naver.com
2
NVIDIA GPU 드라이버와 라이브러리의 설치부터, 기본 이미지를 사용한 인스턴스 생성 및 GPU 드라이버 추가 과정을 상세하게 설명
3
카카오클라우드에서 제공하는 기본 이미지인 Ubuntu 20.04 - 5.4.0-164 (NVIDIA 470.199.02)를 통해 GPU 인스턴스를 생성하는 방법은 다음과 같습니다. 이 이미지에는 NVIDIA Driver Version 470.199.02, CUDA Version 11.4이 포함되어 있으므로, 별도의 NVIDIA Drive 또는 CUDA 설치가 필요하지 않습니다.
4
특정 NVIDIA/CUDA 버전 설치가 필요할 경우
Ubuntu 20.04 - 5.4.0-164 (NVIDIA 470.199.02) 이미지 이외에 다른 버전의 이미지를 사용할 경우에는 부록.
특정 NVIDIA 또는 CUDA 버전 설치 문서를 참고하시기 바랍니다.
<1> GPU 인스턴스 생성
1
kr-central-2
Virtual Machine
agame-gpu-web01
Ubuntu 20.04 - 5.4.0-164(NVIDIA)
p2i.6xlarge
50
# 우분트 지원함.
<2> Public IP 연결
GPU 메뉴를 선택
Public IP 연결
<3> cuDNN 설치
딥 뉴럴 네트워크를 위한 GPU 가속화 라이브러리인 NVIDIA cuDNN(NVIDIA CUDA Deep Neural Network library)을 설치합니다.
자세한 설명은 NVIDIA 공식 홈페이지를 참고하시기 바랍니다.
1
cuDNN 로그인
https://developer.nvidia.com/cudnn
CUDA 11.x 버전의 Local Installer for Linux x86_64 (Tar) 버전을 사용
2
사용자 로컬 환경에 설치된 cuDNN 파일을 해당 인스턴스로 옮깁니다.
sudo scp -i ${PRIVATE_KEY_FILE}.pem ${CUDNN_INSTALL_FILE} ubuntu@${HOST_PUBLIC_IP}:~/
# 예제) sudo scp -i ~/Downloads/test.pem ~/Downloads/cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz ubuntu@210.100.00.000:~/
3
ssh 접속
ssh ubuntu@${HOST_PUBLIC_IP} -i ${PRIVATE_KEY_FILE}.pem
#예제) ssh ubuntu@210.100.00.000 -i test.pem
4
tar -xvf cudnn-linux-x86_64*.tar.xz
5
cuDNN 파일을 CUDA가 설치된 디렉터리에 설치합니다. 기본 설치 경로를 /usr/local/cuda/
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include
sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
6
정상 설치된 cuDNN을 확인
cat /usr/local/cuda/include/cudnn_version.h | grep "CUDNN_MAJOR"
# define CUDNN_MAJOR 8
<4> 참고 자료
https://docs.kakaocloud.com/tutorial/gpu/vm-nvidia-gpu-setting
몰아보기
https://brunch.co.kr/@topasvga/3651
감사합니다.
