Sắp tới: NVIDIA Tesla P40, 24 GB VRAM

Máy chủ GPU huấn luyện AI/ML

Điều chỉnh và đào tạo các mô hình trên NVIDIA Tesla P40 (24 GB VRAM, kiến trúc Pascal). Tốt nhất cho việc điều chỉnh LoRA và các mô hình nhỏ. Các máy chủ GPU chưa được đặt hàng; liên hệ với chúng tôi để được thông báo khi có.

$ pip install torch transformers datasets accelerate && python train.py
# Lệnh cài đặt ví dụ

AI Training trên một GPU VPS là gì?

Học mô hình AI cần tính toán song song mà GPU cung cấp. Một máy chủ GPU cho bạn một GPU cho các công việc học tập của riêng bạn.

AI Training trên máy phục vụ GPU VPS.org

Toàn bộ GPU

Một chiếc Tesla P40 với 24GB VRAM, được chuyển đến máy chủ của anh và không được chia sẻ.

Chọn khung

PyTorch, TensorFlow, JAX hoặc bất kỳ khung nào vẫn hỗ trợ GPU Pascal.

Nâng cấp

Giữ tập dữ liệu, điểm kiểm tra và các tập tin mô hình trên lưu trữ SSD của máy chủ.

Truy cập SSH

Truy cập root đầy đủ để cấu hình môi trường huấn luyện.

AI Training dùng phổ biến

Điều chỉnh tinh tế mô hình
Chuyển học
Luyện tập mô hình tùy chỉnh
Điều chỉnh siêu tham số
Bộ xử lý dữ liệu
Lora Adapter

Đặc điểm GPU dự kiến

GPUNVIDIA Tesla P40
RAM VRAM24 GB GDDR5
Màu CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Bộ nhớ đen trắng346 GB/s
Kiến trúcPascal (GP102)
Đường đi quaPCIe kim loại thô

Câu hỏi thường gặp

AI Training là gì trên GPU VPS?

+

AI Training có thể dùng GPU NVIDIA để tăng tốc công việc. Các máy phục vụ GPU VPS.org chưa có sẵn để đặt hàng; liên hệ với chúng tôi để biết khi nào chúng có sẵn. AI Training là một tải công việc tăng tốc GPU chung. Hãy chắc chắn phần mềm của bạn hỗ trợ CUDA và phiên bản trình điều khiển / thời gian chạy của bạn phù hợp với yêu cầu tải công việc cho AI Training.

Làm thế nào để tôi cài đặt AI Training trên một GPU VPS?

+

Các máy chủ GPU chưa có sẵn để đặt hàng. Ngày nay bạn có thể chạy AI Training trên một gói CPU thông thường, nơi nó hoạt động chậm hơn nhiều so với trên GPU: SSH vào và chạy pip install torch transformers datasets accelerate && python train.py.

Tôi cần bao nhiêu VRAM cho AI Training?

+

VRAM cần thiết cho AI Training phụ thuộc vào mẫu và kích thước batch; kiểm tra tài liệu dự án cho các con số hiện tại.

Một máy chủ GPU cho AI Training sẽ tốn bao nhiêu?

+

Giá GPU sẽ được công bố khi máy chủ GPU có thể được đặt hàng. Liên hệ với chúng tôi nếu muốn biết khi điều đó xảy ra.

Tôi có thể chạy các công cụ khác cùng với AI Training không?

+

Mỗi máy chủ VPS.org đều có quyền truy cập root, vì vậy bạn có thể chạy các công cụ khác cùng với AI Training trong RAM và bộ nhớ của máy chủ.

Tôi có thể root toàn bộ trên AI Training GPU VPS không?

+

Mỗi máy chủ VPS.org có quyền truy cập root SSH đầy đủ, vì vậy bạn có thể cài đặt driver, thư viện và AI Training bất cứ khi nào bạn cần.

Có phải VPS.org cài đặt trước CUDA cho AI Training?

+

Không. Không máy chủ nào có trình điều khiển CUDA runtime hay NVIDIA được cài đặt sẵn, và máy chủ GPU chưa có sẵn để đặt hàng. Bạn tự cài đặt các phiên bản AI Training cần.

VPS GPU AI Training của tôi có còn tồn tại giữa các phiên chạy không?

+

Có. Máy chủ VPS.org là máy ảo bền vững, không phải là các trường hợp ngắn hạn: các mô hình AI Training, configs và dữ liệu vẫn ở trong bộ nhớ SSD của máy chủ cho đến khi bạn xóa chúng.

Tôi nên lưu dữ liệu cho AI Training ở đâu?

+

Giữ dữ liệu làm việc trên SSD của máy chủ để truy cập nhanh trong khi chạy AI Training, và sao chép các tác phẩm hoàn thành (nặng, thế hệ, nhúng) để lưu trữ bên ngoài VPS.org; snapshots và bản sao lưu vẫn ở trên cùng một cụm lưu trữ.

Tôi có thể nâng cấp AI Training GPU VPS của tôi sau này không?

+

Bạn có thể nâng cấp bất kỳ máy chủ VPS.org nào lên một kế hoạch lớn hơn từ bảng điều khiển; kích thước thay đổi khởi động lại nó và cài đặt AI Training của bạn sẽ được chuyển sang. Các máy chủ GPU chưa có sẵn.

Có thể sao lưu cho GPU VPS của tôi không?

+

Có. Bảo vệ là một bổ sung trả phí (mỗi ngày +30% giá kế hoạch, giữ 7 ngày; hàng tuần +20%, giữ 28 ngày) và snapshot miễn phí, hữu ích trước khi chạy AI Training dài. Cả hai đều ở trên cùng một cụm lưu trữ như máy chủ.

Tôi có thể được trả lại không?

+

Liên hệ hỗ trợ trong vòng 30 ngày sau khi mua lần đầu để yêu cầu trả lại tiền. Các máy chủ GPU chưa được bán, vì vậy không có đơn đặt hàng GPU liên quan.

Muốn chạy AI Training trên máy chủ GPU không?

Khả năng GPU bị giới hạn. Hãy nói cho chúng tôi biết về tải trọng của bạn và chúng tôi sẽ trả lời với khả năng và giá cả.