카카오클라우드 4탄-22.VM NVIDIA GPU환경

VM GPU를 만들고 사용해보자.

<0> 시작전 준비

<1> GPU 인스턴스 생성

<2> Public IP 연결

<3> cuDNN 설치

<4> 참고 자료

<0> 시작전 준비

1

사이트 계정 생성

https://developer.nvidia.com/cudnn

topas@naver.com

2

NVIDIA GPU 드라이버와 라이브러리의 설치부터, 기본 이미지를 사용한 인스턴스 생성 및 GPU 드라이버 추가 과정을 상세하게 설명

3

카카오클라우드에서 제공하는 기본 이미지인 Ubuntu 20.04 - 5.4.0-164 (NVIDIA 470.199.02)를 통해 GPU 인스턴스를 생성하는 방법은 다음과 같습니다. 이 이미지에는 NVIDIA Driver Version 470.199.02, CUDA Version 11.4이 포함되어 있으므로, 별도의 NVIDIA Drive 또는 CUDA 설치가 필요하지 않습니다.

4

특정 NVIDIA/CUDA 버전 설치가 필요할 경우

Ubuntu 20.04 - 5.4.0-164 (NVIDIA 470.199.02) 이미지 이외에 다른 버전의 이미지를 사용할 경우에는 부록. 

특정 NVIDIA 또는 CUDA 버전 설치 문서를 참고하시기 바랍니다.

https://docs.kakaocloud.com/tutorial/gpu/vm-nvidia-gpu-setting#%EB%B6%80%EB%A1%9D-%ED%8A%B9%EC%A0%95-nvidia-%EB%98%90%EB%8A%94-cuda-%EB%B2%84%EC%A0%84-%EC%84%A4%EC%B9%98

<1> GPU 인스턴스 생성

1

kr-central-2

Virtual Machine

agame-gpu-web01

Ubuntu 20.04 - 5.4.0-164(NVIDIA)

p2i.6xlarge

50

# 우분트 지원함.

<2> Public IP 연결

GPU 메뉴를 선택

Public IP 연결

<3> cuDNN 설치

딥 뉴럴 네트워크를 위한 GPU 가속화 라이브러리인 NVIDIA cuDNN(NVIDIA CUDA Deep Neural Network library)을 설치합니다. 

자세한 설명은 NVIDIA 공식 홈페이지를 참고하시기 바랍니다.

https://www.nvidia.com/ko-kr/

1

cuDNN 로그인 

https://developer.nvidia.com/cudnn

CUDA 11.x 버전의 Local Installer for Linux x86_64 (Tar) 버전을 사용

2

사용자 로컬 환경에 설치된 cuDNN 파일을 해당 인스턴스로 옮깁니다.

sudo scp -i ${PRIVATE_KEY_FILE}.pem ${CUDNN_INSTALL_FILE} ubuntu@${HOST_PUBLIC_IP}:~/

# 예제) sudo scp -i ~/Downloads/test.pem ~/Downloads/cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz ubuntu@210.100.00.000:~/

3

ssh 접속

ssh ubuntu@${HOST_PUBLIC_IP} -i ${PRIVATE_KEY_FILE}.pem

#예제) ssh ubuntu@210.100.00.000 -i test.pem

4

tar -xvf cudnn-linux-x86_64*.tar.xz

5

cuDNN 파일을 CUDA가 설치된 디렉터리에 설치합니다. 기본 설치 경로를 /usr/local/cuda/

sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include 

sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64 

sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

6

정상 설치된 cuDNN을 확인 

cat /usr/local/cuda/include/cudnn_version.h | grep "CUDNN_MAJOR"

# define CUDNN_MAJOR 8

<4> 참고 자료

https://docs.kakaocloud.com/tutorial/gpu/vm-nvidia-gpu-setting

NVIDIA GPU 환경 설정 | 카카오클라우드 기술문서

몰아보기

https://brunch.co.kr/@topasvga/3651

(모음) 4탄- 카카오 클라우드 - 기술문서-2024

감사합니다.