Máy phục vụ GPU sắp tới

Máy phục vụ đám mây GPU, sắp tới

Các máy chủ GPU chưa được đặt hàng. Chúng tôi đang chuẩn bị các máy chủ với một NVIDIA Tesla P40 (24 GB VRAM) được truyền qua mỗi máy. Liên hệ với chúng tôi và chúng tôi sẽ nói cho bạn khi nào có thể triển khai một.

✓ Kế hoạch: toàn bộ GPU đi qua PCIe
✓ Phần cứng dự kiến: Tesla P40 với 24 GB VRAM
✓ Truy cập toàn bộ & SSH root
✓ Không thể đặt hàng: liên hệ với chúng tôi để được thông báo

Phần cứng GPU dự kiến

Mỗi GPU sẽ được truyền qua một máy chủ đơn trên PCIe.

Chưa có thể sắp xếp

NVIDIA Tesla P40

RAM VRAM 24 GB GDDR5
Màu CUDA 3,840
Hiệu suất FP32 12 TFLOPS
Hiệu suất INT8Name 47 TOPS
Băng thông bộ nhớ 346 GB/s
Kiến trúc Pascal (GP102)

Tốt nhất cho

Thuyết minh AI Điều chỉnh kỹ Trình chuyển mã video Ảnh 3D
Hỏi về khả năng

Được xây dựng cho các tác vụ nặng nề GPU

Tải công việc một GPU 24 GB đơn phù hợp, khi đặt hàng mở

Huấn luyện AI/ML

Fine-tune and train models with PyTorch, TensorFlow or JAX. A single 24 GB Tesla P40 suits small models and LoRA fine-tuning rather than large-scale training.

Hỏi về khả năng →

Mô hình suy luận

Chăm sóc LLM, tạo hình ảnh, nhận dạng giọng nói và mô hình thị giác máy tính từ một GPU.

Hỏi về khả năng →

& Đồ họa

Transcode video với mã hóa phần cứng NVENC và tạo ra các cảnh 3D với Blender Cycles.

Hỏi về khả năng →

Tính toán khoa học

Chạy động lực học phân tử, mô phỏng và các tải trọng CUDA hoặc OpenCL khác hoạt động với độ chính xác đơn.

Hỏi về khả năng →

Xử lý dữ liệu

Tăng tốc toán học ma trận và tăng tốc gradient với CuPy, XGBoost và PyTorch trên GPU.

Hỏi về khả năng →

Phát triển AI

Xây dựng và thử nghiệm các ứng dụng AI với Jupyter notebooks, VS Code remote và môi trường phát triển CUDA của riêng bạn.

Hỏi về khả năng →

Cách máy chủ GPU sẽ hoạt động

1

Toàn bộ GPU, không chia sẻ

PCIe passthrough cho máy chủ của bạn toàn bộ GPU, với gần như hiệu suất bản địa.

2

Hỏi trước

Không thể đặt máy phục vụ GPU từ bảng điều khiển. Hãy liên hệ với chúng tôi với tải trọng của bạn và chúng tôi sẽ trả lời khi khả năng sẵn sàng.

3

Không hợp đồng

VPS.org kế hoạch được tính theo giờ, tối đa 672 giờ một tháng, không có hợp đồng. GPU giá sẽ được công bố khi đặt hàng mở.

4

Truy cập toàn bộ hệ thống

Cài đặt bất kỳ khung, phiên bản trình điều khiển hay bộ công cụ CUDA nào. Truy cập SSH từ ngày đầu tiên.

Chạy bất kỳ tải công việc GPU nào

Hướng dẫn cho các khung AI/ML phổ biến, công cụ sáng tạo và ứng dụng tăng tốc GPU

Câu hỏi thường gặp

Tất cả những gì bạn cần biết về GPU VPS hosting

GPU VPS là gì?

+

Một GPU VPS là một máy chủ ảo với một GPU vật lý được truyền qua nó, cho các công việc như suy luận AI, điều chỉnh mô hình, chuyển mã video và hiển thị. VPS.org GPU servers are not orderable yet.

Các mô hình GPU nào có sẵn?

+

Hiện chưa có gì có thể đặt hàng. Các máy chủ GPU đầu tiên chúng tôi chuẩn bị sử dụng thẻ NVIDIA Tesla P40 với 24 GB VRAM. Hãy liên hệ với chúng tôi để được thông báo khi chúng mở cửa.

GPU passthrough là gì?

+

Với PCIe passthrough, toàn bộ GPU vật lý được gán cho một máy chủ ảo. Phần mềm của bạn sử dụng thẻ trực tiếp qua trình điều khiển NVIDIA tiêu chuẩn, với hiệu suất gần như bản gốc, và GPU không được chia sẻ với khách hàng khác.

Có phải driver NVIDIA đã được cài đặt sẵn không?

+

No. You install the NVIDIA driver and the CUDA toolkit version you need yourself, with full root access. The Tesla P40 is a Pascal GPU (compute capability 6.1), so check that your framework version still supports it.

Tôi có thể sử dụng nhiều GPU trên một VPS?

+

Không phải lúc này. Một máy phục vụ GPU sẽ có một GPU. Liên hệ với chúng tôi nếu công việc của bạn cần nhiều hơn.

Những cấu hình nào là tốt nhất cho GPU VPS?

+

Mô hình suy luận, điều chỉnh tinh tế của các mô hình nhỏ và lượng tử, tầm nhìn máy tính, nhận dạng giọng nói, chuyển mã video, vẽ 3D và tính toán khoa học chạy trong độ chính xác đơn.

Hệ thống thanh toán cho GPU VPS hoạt động như thế nào?

+

Các máy chủ GPU chưa được đặt hàng, vì vậy không có gì phải trả hôm nay. Các kế hoạch VPS tiêu chuẩn được tính theo giờ, tối đa là 672 giờ mỗi tháng; giá GPU sẽ được công bố khi đặt hàng mở.

Tôi có thể nâng cấp từ một VPS tiêu chuẩn sang một GPU VPS không?

+

Không có. Máy chủ GPU chạy trên các nút GPU riêng biệt, vì vậy chuyển sang một trong số đó có nghĩa là triển khai một máy chủ mới và sao chép dữ liệu của bạn.

Có bao gồm cả giảm tấn công không?

+

Không. VPS.org không bao gồm giảm thiểu từ chối dịch vụ trên bất kỳ kế hoạch nào. Nếu bạn cần nó, hãy đặt dịch vụ công cộng sau một dịch vụ ủy nhiệm hoặc giảm thiểu.

Hệ điều hành nào hỗ trợ GPU VPS?

+

Hệ điều hành được hỗ trợ sẽ được xác nhận khi đặt hàng mở. Ubuntu LTS có các gói driver NVIDIA trưởng thành nhất.

Có thời gian cam kết tối thiểu không?

+

Không có hợp đồng nào cho các kế hoạch VPS.org: bạn có thể phá hủy một máy chủ bất cứ lúc nào và việc tính tiền sẽ dừng lại. Các điều khoản GPU sẽ được công bố khi đặt hàng mở.

Làm thế nào để bắt đầu với GPU VPS?

+

Liên hệ với chúng tôi thông qua trang liên hệ với tải trọng công việc và bộ nhớ GPU bạn cần, và chúng tôi sẽ cho bạn biết khi nào máy chủ GPU có thể được đặt hàng.

Muốn một máy chủ GPU khi họ mở cửa?

Khả năng GPU bị giới hạn. Hãy nói cho chúng tôi biết về tải trọng của bạn và chúng tôi sẽ trả lời với khả năng và giá cả.