곧 출시: NVIDIA Tesla P40, 24GB VRAM

AI/ML 교육 GPU 서버

NVIDIA Tesla P40(24GB VRAM, Pascal 아키텍처)에서 모델을 미세 조정하고 트레이닝합니다. LoRA 미세 조정 및 소형 모델에 가장 적합합니다. GPU 서버는 아직 주문할 수 없습니다. 주문할 수 있을 때 알림을 받으려면 당사에 문의하십시오.

$ pip install torch transformers datasets accelerate && python train.py
# 설치 명령 예

GPU VPS에서 AI Training는 무엇입니까?

AI 모델을 훈련하는 데는 GPU가 제공하는 병렬 컴퓨팅이 필요합니다. GPU 서버는 훈련 작업을 위해 하나의 GPU를 제공합니다.

VPS.org GPU 서버에서 AI Training

전체 GPU

24GB VRAM이 있는 풀 Tesla P40 GPU. 공유되거나 초과된 리소스 없음.

프레임워크 선택

PyTorch, TensorFlow, JAX 또는 Pascal GPU를 지원하는 모든 프레임워크.

SSD 스토리지 용량

서버의 SSD 스토리지에 데이터셋, 체크포인트 및 모델 파일을 보관합니다.

SSH 액세스

훈련 환경을 구성하기 위한 풀 루트 액세스.

인기 있는 AI Training 사용 사례

모델 미세 조정
전달 학습
맞춤형 모델 훈련
하이퍼파라미터 튜닝
데이터셋 사전 처리
LoRA 어댑터 1개

계획된 GPU 사양

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA 색상3,840
FP32 플랫폼12 TFLOPS
INT847 TOPS
메모리 흑백346 GB/s
아키텍처Pascal (GP102)
통과PCIe 패스스루

자주 묻는 질문

GPU VPS에서 AI Training은 무엇입니까?

+

AI Training는 NVIDIA GPU를 사용하여 작업 속도를 높일 수 있습니다. VPS.org GPU 서버는 아직 주문할 수 없습니다. 주문할 때 문의하십시오. AI Training는 일반 GPU 가속 워크로드입니다. 소프트웨어가 CUDA 지원을 제공하고 드라이버/런타임 버전이 AI Training의 워크로드 요구 사항과 일치하는지 확인하십시오.

GPU VPS에서 AI Training을 설정하려면 어떻게 합니까?

+

GPU servers are not available to order yet. Today you can run AI Training on a regular CPU plan, where it works far more slowly than on a GPU: SSH in and run pip install torch transformers datasets accelerate && python train.py.

AI Training에 얼마나 많은 VRAM이 필요합니까?

+

AI Training의 VRAM 요구 사항은 모델 및 배치 크기에 따라 다릅니다. 현재 숫자는 프로젝트 문서를 참조하십시오.

AI Training를 위한 GPU 서버는 얼마나 비용이 들까요?

+

GPU 서버를 주문할 수 있을 때 GPU 가격이 공개됩니다. 이에 대한 정보를 원하시면 Dell에 문의하십시오.

AI Training과 함께 다른 도구를 실행할 수 있습니까?

+

모든 VPS.org 서버는 풀 루트 액세스가 제공되므로 서버의 RAM 및 스토리지 내에서 AI Training와 함께 다른 도구를 실행할 수 있습니다.

AI Training GPU VPS에 풀 루트를 얻을 수 있습니까?

+

모든 VPS.org 서버는 전체 루트 SSH 액세스와 함께 제공되므로 드라이버, 라이브러리 및 AI Training를 필요에 따라 설치할 수 있습니다.

VPS.org는 AI Training에 대해 CUDA를 사전 설치합니까?

+

아니요. 서버는 CUDA 런타임 또는 NVIDIA 드라이버가 사전 설치되어 있지 않으며 GPU 서버는 아직 주문할 수 없습니다. AI Training가 필요로하는 버전을 직접 설치하십시오.

내 AI Training GPU VPS는 세션 간에 지속되나요?

+

VPS.org 서버는 순간적인 인스턴스가 아닌 영구적인 가상 머신입니다. AI Training 모델, 구성 및 데이터는 삭제할 때까지 서버의 SSD 스토리지에 남아 있습니다.

AI Training 워크로드의 데이터는 어디에 저장해야 합니까?

+

AI Training 실행 중에 신속한 액세스를 위해 서버 SSD에 작업 데이터를 유지하고 완료된 아티팩트(중량, 생성, 임베디드)를 VPS.org 외부 스토리지로 복사합니다. 스냅샷과 백업은 동일한 스토리지 클러스터에 남아 있습니다.

나중에 AI Training GPU VPS를 확장할 수 있습니까?

+

제어판에서 VPS.org 서버를 더 큰 플랜으로 업그레이드할 수 있습니다. 크기 조정이 완료되면 AI Training 설치가 재시작되고 이전됩니다. GPU 서버는 아직 사용할 수 없습니다.

내 GPU VPS에 대해 백업을 사용할 수 있습니까?

+

백업은 유료 추가 기능입니다 (일일 +30% 계획 가격, 유지 7 일; 주간 +20%, 유지 28 일) 스냅샷은 무료입니다, 긴 AI Training 실행 전에 유용한. 둘 다 서버와 동일한 스토리지 클러스터에 남아.

환불받을 수 있나요?

+

환불을 요청하려면 첫 구매 후 30일 이내에 지원팀에 문의하십시오. GPU 서버는 아직 판매되지 않았으므로 GPU 주문이 포함되지 않습니다.

GPU 서버에서 AI Training를 실행하려면?

GPU 용량은 제한되어 있습니다. 워크로드에 대해 알려주시면 가용성 및 가격을 알려드리겠습니다.