NVIDIA Tesla P40(24GB VRAM, Pascal 아키텍처)에서 풀 루트 액세스로 PyTorch 모델을 훈련하고 실행합니다. GPU 서버는 아직 주문할 수 없습니다. 주문할 수 있을 때 알림을 받으려면 당사에 문의하십시오.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# 설치 명령 예
PyTorch는 널리 사용되는 딥 러닝 프레임워크입니다. GPU 서버는 GPU에서 PyTorch 훈련 및 추론을 실행하며 대부분의 모델에서는 CPU보다 훨씬 빠릅니다.
NVIDIA 드라이버, CUDA, 필요한 PyTorch 빌드를 설치합니다. PyTorch 빌드가 여전히 Pascal GPU(컴퓨팅 기능 6.1)를 지원하는지 확인합니다.
소형 및 중형 모델, LoRA 미세 조정 및 중간 배치 크기를 위한 공간.
서버에서 Jupyter 노트북을 실행하여 GPU에서 대화형 작업을 수행합니다.
프로젝트에 필요한 환경을 정확하게 구성합니다.
PyTorch는 NVIDIA GPU를 사용하여 작업 속도를 높일 수 있습니다. VPS.org GPU 서버는 아직 주문할 수 없습니다. 언제 주문할 수 있을지 문의하십시오. PyTorch는 훈련 / 미세 조정 작업 부하입니다. 장기 실행 작업을 계획: 정기적으로 VPS 스냅샷을 촬영하고 VPS.org 외부에 훈련된 무게의 복사본을 보관하십시오.
GPU servers are not available to order yet. Today you can run PyTorch on a regular CPU plan, where it works far more slowly than on a GPU: SSH in and run pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
7B LLM의 완전한 미세 조정을 위해서는 대략 24~48GB가 필요하며, LoRA/QLoRA는 8~16GB가 필요합니다.
GPU 서버를 주문할 수 있을 때 GPU 가격이 공개됩니다. 이에 대한 정보를 원하시면 Dell에 문의하십시오.
모든 VPS.org 서버는 풀 루트 액세스가 제공되므로 서버의 RAM 및 스토리지 내에서 PyTorch와 함께 다른 도구를 실행할 수 있습니다.
모든 VPS.org 서버는 전체 루트 SSH 액세스와 함께 제공되므로 드라이버, 라이브러리 및 PyTorch를 필요에 따라 설치할 수 있습니다.
아니요. 서버는 CUDA 런타임 또는 NVIDIA 드라이버가 사전 설치되어 있지 않으며 GPU 서버는 아직 주문할 수 없습니다. PyTorch가 필요로하는 버전을 직접 설치하십시오.
VPS.org 서버는 순간적인 인스턴스가 아닌 영구적인 가상 머신입니다. PyTorch 모델, 구성 및 데이터는 삭제할 때까지 서버의 SSD 스토리지에 남아 있습니다.
PyTorch 실행 중에 신속한 액세스를 위해 서버 SSD에 작업 데이터를 유지하고 완료된 아티팩트(중량, 생성, 임베디드)를 VPS.org 외부 스토리지로 복사합니다. 스냅샷과 백업은 동일한 스토리지 클러스터에 남아 있습니다.
제어판에서 VPS.org 서버를 더 큰 플랜으로 업그레이드할 수 있습니다. 크기 조정이 완료되면 PyTorch 설치가 재시작되고 이전됩니다. GPU 서버는 아직 사용할 수 없습니다.
백업은 유료 추가 기능입니다 (일일 +30% 계획 가격, 유지 7 일; 주간 +20%, 유지 28 일) 스냅샷은 무료입니다, 긴 PyTorch 실행 전에 유용한. 둘 다 서버와 동일한 스토리지 클러스터에 남아.
환불을 요청하려면 첫 구매 후 30일 이내에 지원팀에 문의하십시오. GPU 서버는 아직 판매되지 않았으므로 GPU 주문이 포함되지 않습니다.