NVIDIA GPU Cloud

Máy chủ đám mây chạy GPU

GPU NVIDIA chuyên dụng với khả năng truyền qua bằng kim loại. Học mô hình, chạy suy luận, vẽ video, và tăng tốc tính toán khoa học theo yêu cầu.

GPU bare- metal
Tối đa 24 GB VRAM mỗi GPU
Truy cập toàn bộ & SSH root
Không khóa, tính tiền hàng tháng
nvidia-smi
+-------------------------+
| NVIDIA-SMI 550.54.15    |
| Driver: 550.54.15       |
| CUDA Version: 12.4      |
+-------------------------+
| GPU  Name        | Mem  |
|  0   Tesla P40   | 24GB |
+-------------------------+
| GPU Util:   0%          |
| Memory:  0MiB / 24576MiB|
+-------------------------+

$ python train.py --model llama
Loading model... _

Phần cứng GPU sẵn có

GPU NVIDIA chuyên dụng với thông qua PCIe đầy đủ cho hiệu suất tối đa

Có sẵn

NVIDIA Tesla P40

RAM VRAM 24 GB GDDR5X
Màu CUDA 3,840
Hiệu suất FP32 12 TFLOPS
Hiệu suất INT8Name 47 TOPS
Băng thông bộ nhớ 346 GB/s
Kiến trúc Pascal (GP102)

Tốt nhất cho

Thuyết minh AI Điều chỉnh kỹ Trình chuyển mã video Ảnh 3D
Thiết lập với Tesla P40
Sớm thôi

Nhiều GPU hơn

Chúng tôi đang tích cực mở rộng đội tàu GPU của mình. Các mẫu GPU NVIDIA bổ sung với VRAM cao hơn và kiến trúc mới sẽ sớm có sẵn.

Bạn cần GPU cấp doanh nghiệp (A100, H100) hoặc cấu hình đa GPU? Liên hệ với chúng tôi để thảo luận về yêu cầu của bạn.

Liên hệ với chúng tôi

Được xây dựng cho các tác vụ nặng nề GPU

Từ đào tạo mạng thần kinh đến vẽ cảnh 3D, GPU VPS xử lý mọi thứ

Huấn luyện AI/ML

Học các mô hình học sâu với PyTorch, TensorFlow, hoặc JAX. Điều chỉnh các mô hình ngôn ngữ lớn như LLaMA, Mistral, và Stable Diffusion trên phần cứng GPU chuyên dụng.

Bắt đầu →

Mô hình suy luận

Thiết lập các mô hình AI trong sản xuất với suy luận GPU độ trễ thấp. Dịch vụ LLM, tạo hình ảnh, nhận dạng giọng nói, và API thị giác máy tính theo quy mô.

Bắt đầu →

& Đồ họa

Tăng tốc chuyển mã video với NVENC, tạo ra các cảnh 3D với Blender hoặc Maya, và xử lý các ống dẫn truyền thông độ phân giải cao với mã hóa tăng tốc GPU.

Bắt đầu →

Tính toán khoa học

Chạy động lực học phân tử, mô phỏng khí hậu, động lực học chất lỏng tính toán, và các tải trọng HPC khác được tăng tốc bởi GPUs hỗ trợ CUDA.

Bắt đầu →

Xử lý dữ liệu

Tăng tốc các đường ống dữ liệu với RAPIDS, cuDF, và cuML. Xử lý tập dữ liệu lớn, chạy phân tích tăng tốc GPU, và xây dựng các luồng xử lý dữ liệu thời gian thực.

Bắt đầu →

Phát triển AI

Xây dựng và lặp lại các ứng dụng AI với máy tính bảng Jupyter, VS Code từ xa, và môi trường phát triển CUDA đầy đủ. Nguyên mẫu nhanh hơn với các nguồn GPU dành riêng.

Bắt đầu →

Tại sao nên chọn VPS.org cho các tải công việc GPU

1

Trình diễn Bare- Metal

PCIe trực tiếp có nghĩa là không có chi phí ảo hóa. Mã của bạn nói trực tiếp với phần cứng GPU.

2

Chỉ đơn giản

Không cần đặt trước hay gọi điện thoại. Chọn GPU, chọn hệ điều hành, và triển khai trong vài phút.

3

Đơn hàng linh hoạt

Đăng ký hàng tháng không có hợp đồng khóa. Mở rộng khi bạn cần GPU, mở rộng khi không cần.

4

Truy cập toàn bộ hệ thống

Cài đặt bất kỳ khung, phiên bản trình điều khiển, hoặc bộ công cụ CUDA nào. Máy chủ của bạn, luật của bạn. Truy cập SSH từ ngày đầu tiên.

Chạy bất kỳ tải công việc GPU nào

Các hướng dẫn cấu hình sẵn cho các khung AI/ML phổ biến, công cụ sáng tạo, và các ứng dụng tăng tốc GPU

Câu hỏi thường gặp

Tất cả những gì bạn cần biết về GPU VPS hosting

GPU VPS là gì?

+

GPU VPS là một máy chủ riêng ảo được trang bị phần cứng GPU NVIDIA chuyên dụng. Nó cung cấp tính linh hoạt tương tự như một VPS tiêu chuẩn nhưng với khả năng xử lý song song mạnh mẽ cho các công việc đào tạo AI / ML, suy luận, vẽ và tính toán khoa học.

Các mô hình GPU nào có sẵn?

+

Hiện tại chúng tôi cung cấp các GPU NVIDIA Tesla P40 với 24GB VRAM mỗi GPU. Những GPU này xuất sắc trong suy luận AI/ML, điều chỉnh mô hình, chuyển mã video và tính toán khoa học. Các mô hình GPU khác sẽ được thêm vào khi chúng tôi mở rộng cơ sở hạ tầng của mình.

GPU passthrough là gì?

+

GPU passthrough cho phép VPS của bạn truy cập trực tiếp, không cần thiết vào phần cứng GPU vật lý. Không giống như GPU chia sẻ hoặc ảo hóa, bạn có thể sử dụng hiệu suất đầy đủ của GPU mà không cần chi phí. Các ứng dụng của bạn tương tác với GPU như chúng sẽ tương tác trên một máy riêng.

Có phải driver NVIDIA đã được cài đặt sẵn không?

+

Các trường hợp GPU VPS được cung cấp với Ubuntu và tùy chọn cài đặt sẵn trình điều khiển NVIDIA và bộ công cụ CUDA. Bạn cũng có thể cài đặt phiên bản trình điều khiển yêu thích của mình bằng tay. Chúng tôi cung cấp tài liệu để thiết lập các khung ML phổ biến như PyTorch và TensorFlow.

Tôi có thể sử dụng nhiều GPU trên một VPS?

+

Có, bạn có thể gắn nhiều GPU vào một VPS đơn cho các tải công việc có lợi từ đào tạo nhiều GPU hoặc xử lý song song. Liên hệ với đội bán hàng của chúng tôi để cấu hình và giá nhiều GPU.

Những cấu hình nào là tốt nhất cho GPU VPS?

+

GPU VPS là lý tưởng cho đào tạo và suy luận mô hình AI / ML, điều chỉnh mô hình ngôn ngữ lớn, thị giác máy tính, chuyển mã và hiển thị video, mô phỏng khoa học và bất kỳ tải trọng công việc nào có lợi từ năng lượng xử lý song song khổng lồ.

Hệ thống thanh toán cho GPU VPS hoạt động như thế nào?

+

GPU VPS được tính theo tháng, giống như kế hoạch VPS tiêu chuẩn của chúng tôi. Bạn chỉ phải trả cho thời gian máy chủ của bạn được cung cấp. Liên hệ với chúng tôi để biết giá hiện tại khi chúng tôi hoàn thành các gói cấp GPU của chúng tôi.

Tôi có thể nâng cấp từ một VPS tiêu chuẩn sang một GPU VPS không?

+

Các thực thể GPU VPS chạy trên phần cứng có GPU chuyên dụng, vì vậy nâng cấp từ một VPS tiêu chuẩn yêu cầu cung cấp một máy chủ mới. Tuy nhiên, bạn có thể dễ dàng di chuyển dữ liệu và cấu hình của bạn. Nhóm hỗ trợ của chúng tôi có thể giúp bạn với quá trình di chuyển.

Máy chủ GPU VPS có bao gồm bảo vệ DDoS không?

+

Vâng, tất cả các kế hoạch VPS bao gồm GPU VPS đều có bảo vệ DDoS cấp mạng, truy cập root đầy đủ, kết nối IPv4 và IPv6, và các tính năng an toàn tương tự như dịch vụ VPS đám mây tiêu chuẩn của chúng tôi.

Hệ điều hành nào hỗ trợ GPU VPS?

+

GPU VPS có sẵn với Ubuntu 22.04 LTS và Ubuntu 24.04 LTS, có hỗ trợ trình điều khiển NVIDIA tốt nhất. Debian 12 cũng được hỗ trợ. Chúng tôi khuyến cáo Ubuntu 24.04 LTS cho sự tương thích với bộ công cụ CUDA mới nhất.

Có thời gian cam kết tối thiểu không?

+

Không, không có cam kết tối thiểu. GPU VPS được tính theo tháng và bạn có thể hủy bỏ bất cứ lúc nào. Chúng tôi tin vào tính toán đám mây linh hoạt, không bị khóa.

Làm thế nào để bắt đầu với GPU VPS?

+

Chỉ cần tạo một tài khoản, chọn cấu hình GPU VPS, chọn hệ điều hành của bạn, và triển khai. Máy chủ GPU của bạn sẽ sẵn sàng trong vài phút với quyền truy cập root đầy đủ và GPU của bạn có sẵn thông qua nvidia-smi.

Sẵn sàng để triển khai máy chủ GPU của bạn chưa?

Không cần đặt trước, không cần gọi điện thoại.