greatsangho의 이야기

도커를 활용한 colab 로컬 런타임 연결 본문

프로그래밍/SK AI 캠프

도커를 활용한 colab 로컬 런타임 연결

greatsangho 2024. 10. 12. 01:57

충분한 컴퓨터 자원과 로컬 파일을 활용하면서 Gemini의 도움을 받고 싶으면 코랩 도커 런타임 이미지를 사용하면 된다.

 

https://research.google.com/colaboratory/local-runtimes.html

 

Google Colab

Colaboratory 로컬 런타임 Colab을 사용하면 로컬 런타임에 연결할 수 있습니다. 이렇게 하면 로컬 하드웨어에서 코드를 실행할 수 있습니다. 보안 고려사항 실행하기 전에 신뢰하는 사람이 만든 노

research.google.com

Docker 이미지는 linux/amd64 플랫폼용으로 제공된다고 한다.

 

먼저 Doker를 설치한다.

https://docs.docker.com/get-started/get-docker/

 

Get Docker

Download and install Docker on the platform of your choice, including Mac, Linux, or Windows.

docs.docker.com

 

아시아 지역 기준으로 다음 코드를 Powershell에서 실행해준다.

CPU 기준으로

docker run -p 127.0.0.1:9000:8080 asia-docker.pkg.dev/colab-images/public/runtime

GPU 기준으로 

docker run --gpus=all -p 127.0.0.1:9000:8080 us-docker.pkg.dev/colab-images/public/runtime

를 실행한다. 이때 GPU는 NVIDIA 드라이버 및 Toolkit이 설치되어 있어야 한다.

 

도커 엔진이 켜진 상태에서 해당 코드를 실행하면 자동으로 container까지 생성되어 실행된다.

도커가 실행되면 로그에 다음과 같이 토큰이 포함된 값이 보이는데 이를 코랩에서 로컬 런타임에 연결에 들어가서 해당 주소를 연결해준다.

연결을 진행하면 쉽게 로컬 런타임에 연결되는 것을 확인할 수 있다.

로컬 자원과 Gemini의 도움을 받으며 코딩을 하고 싶을 때 유용할 듯 싶다.

반응형