Chăm sóc các mô hình AI từ NVIDIA Tesla P40 (24 GB VRAM, kiến trúc Pascal): LLMs, mô hình hình ảnh và các dự đoán khác. Các máy chủ GPU chưa được đặt hàng; liên hệ với chúng tôi để được thông báo khi chúng được đặt hàng.
$ pip install vllm && vllm serve meta-llama/Llama-3-8B-Instruct
# Lệnh cài đặt ví dụ
Thuyết phục AI có nghĩa là chạy các mô hình được huấn luyện để tạo ra các dự đoán. Một máy chủ suy luận GPU giữ một mô hình được tải lên GPU và trả lời các yêu cầu nhanh hơn nhiều so với CPU.
GPU được truyền qua máy chủ của bạn một mình, vì vậy thời gian đợi không bị ảnh hưởng bởi các công việc GPU của khách hàng khác.
Dùng Ollama, llama. cpp, Triton hoặc API của bạn. Một số khung, như vLLM, cần GPU mới hơn Pascal P40.
Chạy nhiều máy chủ sau cân bằng tải của riêng bạn nếu một GPU không đủ.
Hãy phục vụ một mẫu kích thước trung bình hoặc nhiều mẫu nhỏ hơn.
AI Inference có thể dùng GPU NVIDIA để tăng tốc công việc. Các máy phục vụ GPU VPS.org chưa có sẵn để đặt hàng; liên hệ với chúng tôi để biết khi nào chúng có sẵn. AI Inference là một tải công việc tăng tốc GPU chung. Hãy chắc chắn phần mềm của bạn hỗ trợ CUDA và phiên bản trình điều khiển / thời gian chạy của bạn phù hợp với yêu cầu tải công việc cho AI Inference.
Các máy chủ GPU chưa có sẵn để đặt hàng. Ngày nay bạn có thể chạy AI Inference trên một gói CPU thông thường, nơi nó hoạt động chậm hơn nhiều so với trên GPU: SSH vào và chạy pip install vllm && vllm serve meta-llama/Llama-3-8B-Instruct.
VRAM cần thiết cho AI Inference phụ thuộc vào mẫu và kích thước batch; kiểm tra tài liệu dự án cho các con số hiện tại.
Giá GPU sẽ được công bố khi máy chủ GPU có thể được đặt hàng. Liên hệ với chúng tôi nếu muốn biết khi điều đó xảy ra.
Mỗi máy chủ VPS.org đều có quyền truy cập root, vì vậy bạn có thể chạy các công cụ khác cùng với AI Inference trong RAM và bộ nhớ của máy chủ.
Mỗi máy chủ VPS.org có quyền truy cập root SSH đầy đủ, vì vậy bạn có thể cài đặt driver, thư viện và AI Inference bất cứ khi nào bạn cần.
Không. Không máy chủ nào có trình điều khiển CUDA runtime hay NVIDIA được cài đặt sẵn, và máy chủ GPU chưa có sẵn để đặt hàng. Bạn tự cài đặt các phiên bản AI Inference cần.
Có. Máy chủ VPS.org là máy ảo bền vững, không phải là các trường hợp ngắn hạn: các mô hình AI Inference, configs và dữ liệu vẫn ở trong bộ nhớ SSD của máy chủ cho đến khi bạn xóa chúng.
Giữ dữ liệu làm việc trên SSD của máy chủ để truy cập nhanh trong khi chạy AI Inference, và sao chép các tác phẩm hoàn thành (nặng, thế hệ, nhúng) để lưu trữ bên ngoài VPS.org; snapshots và bản sao lưu vẫn ở trên cùng một cụm lưu trữ.
Bạn có thể nâng cấp bất kỳ máy chủ VPS.org nào lên một kế hoạch lớn hơn từ bảng điều khiển; kích thước thay đổi khởi động lại nó và cài đặt AI Inference của bạn sẽ được chuyển sang. Các máy chủ GPU chưa có sẵn.
Có. Bảo vệ là một bổ sung trả phí (mỗi ngày +30% giá kế hoạch, giữ 7 ngày; hàng tuần +20%, giữ 28 ngày) và snapshot miễn phí, hữu ích trước khi chạy AI Inference dài. Cả hai đều ở trên cùng một cụm lưu trữ như máy chủ.
Liên hệ hỗ trợ trong vòng 30 ngày sau khi mua lần đầu để yêu cầu trả lại tiền. Các máy chủ GPU chưa được bán, vì vậy không có đơn đặt hàng GPU liên quan.
Khả năng GPU bị giới hạn. Hãy nói cho chúng tôi biết về tải trọng của bạn và chúng tôi sẽ trả lời với khả năng và giá cả.