곧 출시되는 GPU 서버

GPU 클라우드 서버, 곧 출시

GPU 서버는 아직 주문할 수 없습니다. NVIDIA Tesla P40(24GB VRAM)을 각 서버에 전달하는 서버를 준비하고 있습니다. 저희에게 연락하시면 배포할 수 있는 시기를 알려드리겠습니다.

✓ 계획: 전체 GPU가 PCIe를 통해 통과
✓ 계획된 하드웨어: 24GB VRAM이 있는 Tesla P40
✓ 풀 루트 액세스( S)
✓ 아직 주문할 수 없습니다: 알림을 받으려면 저희에게 연락하십시오.

계획된 GPU 하드웨어

각 GPU는 PCIe를 통해 단일 서버로 전달됩니다.

아직 주문할 수 없음

NVIDIA Tesla P40

VRAM 24 GB GDDR5
CUDA 색상 3,840
FP32 성능 테스트 12 TFLOPS
INT8 성능 47 TOPS
메모리 대역폭 346 GB/s
아키텍처 Pascal (GP102)

최적화된 용도

AI 추론 모델 미세 조정 비디오 트랜스코딩 3D 렌더링
가용성에 대해 물어보기

GPU 집약적인 워크로드를 위해 제작

주문이 시작되면 단일 24GB GPU가 적합한 워크로드

AI/ML 교육

PyTorch, TensorFlow 또는 JAX를 사용하여 모델을 미세 조정하고 트레이닝합니다. 하나의 24GB Tesla P40은 대규모 트레이닝보다는 소형 모델 및 LoRA 미세 조정에 적합합니다.

가용성에 대해 물어보기 →

모델 추론

하나의 GPU에서 LLM, 이미지 생성, 음성 인식 및 컴퓨터 비전 모델을 제공합니다.

가용성에 대해 물어보기 →

비디오 렌더링( R)

NVENC 하드웨어 인코딩으로 비디오를 트랜스코딩하고 Blender Cycles로 3D 장면을 렌더링합니다.

가용성에 대해 물어보기 →

과학적 컴퓨팅

단일 정밀도로 작동하는 분자 역학, 시뮬레이션 및 기타 CUDA 또는 OpenCL 워크로드를 실행합니다.

가용성에 대해 물어보기 →

데이터 처리 솔루션

GPU에서 CuPy, XGBoost 및 PyTorch를 사용하여 어레이 수학 및 그라디언트 부스팅을 가속화합니다.

가용성에 대해 물어보기 →

AI 개발 솔루션

Jupyter 노트북, VS Code 리모트 및 CUDA 개발 환경을 사용하여 AI 애플리케이션을 구축하고 테스트합니다.

가용성에 대해 물어보기 →

GPU 서버의 작동 방식

1

전체 GPU, 공유되지 않음

PCIe 패스스루는 네이티브 성능에 가까운 전체 GPU를 서버에 제공합니다.

2

먼저 물어보기

GPU 서버는 아직 패널에서 주문할 수 없습니다. 워크로드를 알려주시면 용량이 준비되면 답변을 드리겠습니다.

3

계약 없음

VPS.org 플랜은 계약 없이 시간당 청구되며, 월 672시간까지 제한됩니다. GPU 가격은 주문이 시작될 때 게시됩니다.

4

풀 루트 액세스

모든 프레임워크, 드라이버 버전 또는 CUDA 툴킷을 설치합니다. 첫날부터 SSH 액세스.

모든 GPU 워크로드 실행

인기 AI/ML 프레임워크, 크리에이티브 도구 및 GPU 가속 애플리케이션에 대한 가이드

자주 묻는 질문

GPU VPS 호스팅에 대해 알아야 할 모든 것

GPU VPS란 무엇입니까?

+

A GPU VPS is a virtual server with a physical GPU passed through to it, for work such as AI inference, model fine-tuning, video transcoding and rendering. VPS.org GPU servers are not orderable yet.

어떤 GPU 모델을 사용할 수 있습니까?

+

아직 주문할 수 없습니다. 준비 중인 첫 번째 GPU 서버는 24GB VRAM을 갖춘 NVIDIA Tesla P40 카드를 사용합니다. 열릴 때 알림을 받으려면 저희에게 연락하십시오.

GPU 패스스루란 무엇입니까?

+

PCIe 패스스루를 사용하면 전체 물리적 GPU가 하나의 가상 서버에 할당됩니다. 소프트웨어는 표준 NVIDIA 드라이버를 통해 카드를 직접 사용하여 네이티브 성능에 가깝게 작동하며 GPU는 다른 고객과 공유되지 않습니다.

NVIDIA 드라이버가 사전 설치되어 있습니까?

+

아니요. NVIDIA 드라이버와 필요한 CUDA 툴킷 버전을 완전한 루트 액세스 권한을 갖고 직접 설치합니다. Tesla P40은 Pascal GPU(컴퓨팅 기능 6.1)이므로 프레임워크 버전이 여전히 지원하는지 확인하십시오.

단일 VPS에서 여러 GPU를 사용할 수 있습니까?

+

현재는 아닙니다. GPU 서버에는 하나의 GPU가 있습니다. 워크로드에 더 많은 GPU가 필요한 경우 Microsoft에 문의하십시오.

GPU VPS는 어떤 워크로드에 가장 적합합니까?

+

모델 추론, 소형 및 양자화 모델의 미세 조정, 컴퓨터 비전, 음성 인식, 비디오 트랜스코딩, 3D 렌더링 및 단일 정밀도로 실행되는 과학적 컴퓨팅.

GPU VPS의 청구는 어떻게 작동합니까?

+

GPU 서버는 아직 주문할 수 없으므로 오늘 지불할 필요가 없습니다. 표준 VPS 플랜은 시간당 청구되며 월 672시간까지 제한됩니다. GPU 가격은 주문이 시작될 때 공개됩니다.

표준 VPS에서 GPU VPS로 업그레이드할 수 있습니까?

+

GPU 서버는 별도의 GPU 노드에서 실행되므로 하나로 이동하면 새 서버를 배포하고 데이터를 복사해야 합니다.

공격 완화가 포함되어 있습니까?

+

아니요. VPS.org는 어떤 플랜에도 서비스 거부 완화 기능을 포함하지 않습니다. 필요한 경우 공공 서비스를 프록시 또는 완화 서비스 뒤에 놓으십시오.

어떤 운영 체제가 GPU VPS를 지원합니까?

+

지원되는 운영 체제는 주문이 시작될 때 확인됩니다. Ubuntu LTS 릴리스는 가장 성숙한 NVIDIA 드라이버 패키지를 갖추고 있습니다.

최소 약속 기간이 있습니까?

+

VPS.org 계획에 대한 계약이 없습니다 : 당신은 언제든지 서버를 파괴하고 청구 중지 할 수 있습니다. GPU 조건은 주문이 열릴 때 게시됩니다.

GPU VPS를 어떻게 시작합니까?

+

연락처 페이지를 통해 워크로드 및 필요한 GPU 메모리를 알려주시면 GPU 서버를 주문할 수 있는 시기를 알려드립니다.

GPU 서버를 열 때 원하십니까?

GPU 용량은 제한되어 있습니다. 워크로드에 대해 알려주시면 가용성 및 가격을 알려드리겠습니다.