컨테이너 대여하기

liqpod에서는 온디맨드 방식으로 GPU 컨테이너를 즉시 대여하고, 사용자가 정의한 환경에서 작업을 수행할 수 있습니다.

1. 노드 선택하기

노드 리스트 확인

liqpod의 노드 리스트에서는 다음 정보를 확인할 수 있습니다:

  • GPU 종류 (예: RTX 6000, A100, L40 등)

  • VRAM 용량

  • 기본 사양 (TFLOPS, RAM, DISK 등)

  • 가격 (시간, 일, 30일 기준)

  • 현재 사용 가능 여부

노드 선택 기준

  • 사용하려는 딥러닝 프레임워크, 모델 크기, 연산량에 따라 적절한 GPU 성능 및 VRAM을 선택합니다.

  • 연동할 스토리지가 있는 경우, 반드시 스토리지의 지역(리전)과 노드의 IDC 코드가 일치하는지 확인합니다.

    • 리전이 다르면 스토리지를 연결할 수 없습니다.

📌 노드를 선택하면 해당 노드에 컨테이너가 배치되며, 선택 후 [대여하기] 버튼을 클릭하여 다음 단계로 이동합니다.


2. 컨테이너 설정 항목 작성

1. 컨테이너 이름

컨테이너를 식별할 수 있는 이름입니다. 계정 내에서 중복이 불가능합니다.

2. 컨테이너 설명 (선택)

컨테이너의 용도나 실행 내용 등을 자유롭게 입력할 수 있는 설명란입니다.

3. 템플릿

컨테이너 실행에 사용할 사전 구성된 템플릿을 선택합니다. 템플릿에는 다음 정보가 포함되어 있으며, 선택 시 자동으로 하단 항목에 반영됩니다.

  • Docker 이미지

  • 시작 커맨드

  • 환경 변수

  • 포트 설정

📌 템플릿 선택 후에는 각 항목을 자유롭게 수정할 수 있습니다.

4. 스토리지 (선택)

생성된 스토리지를 컨테이너에 마운트할 수 있습니다.

  • 최대 3개의 스토리지를 하나의 컨테이너에 연결할 수 있으며,

  • 선택한 노드와 동일한 지역(리전)의 스토리지만 표시되고 선택할 수 있습니다.

📌 스토리지는 /data/volumes/{마운트이름} 경로로 자동 마운트됩니다.

5. 시작 커맨드 (선택)

컨테이너 실행 시 자동으로 실행할 커맨드를 입력하는 항목입니다. 학습 스크립트, 서버 실행 등 원하는 명령어를 자유롭게 입력할 수 있습니다.

  • 예:

    • python train.py

    • uvicorn main:app --host 0.0.0.0 --port 7860

※ 해당 명령어는 컨테이너의 Entrypoint 또는 CMD를 덮어씁니다. 사전에 이미지에 설정된 Entrypoint 또는 CMD가 무시될 수 있습니다.

6. 환경변수 (선택)

최대 10개의 Key-Value 쌍을 등록할 수 있으며, 컨테이너 실행 시 환경에 주입됩니다.

  • 예:

    • MODEL_NAME = llama-2-13b

    • HF_TOKEN = [your_token_here]

※ 민감한 정보는 가능한 템플릿에 직접 입력하기보다는 컨테이너 실행 시 수정하여 입력하는 것을 권장합니다. 템플릿에는 placeholder로 작성해주세요.

7. 포트 설정 (선택)

컨테이너 내부에서 사용하는 포트를 지정합니다. 입력한 내부 포트는 외부 접근이 가능하도록 자동 바인딩되며, 외부 포트는 시스템에서 자동 배정됩니다.

  • 예:

    • 입력: 7860 → 결과: https://t001.liqpod.cloud:49123 (외부 접속용 URL 자동 생성)

  • 여러 포트 입력 가능 (최대 5개)

  • SSH 혹은 WEB 포트로 타입을 지정하시면 컨테이너 생성 시 엔드포인트(접속정보)란에 표시됩니다.

Last updated