Máy phục vụ GPU Whisper

Whisper có thể dùng một GPU NVIDIA để tăng tốc công việc của nó. VPS.org GPU servers are not available to order yet; contact us to hear when they are. Whisper is a audio/ speech workload. CPU-side I/O matters as much as GPU compute, so make sure your disk read speeds keep up with batch processing.

Các máy chủ GPU chưa có sẵn để đặt hàng. Ngày nay bạn có thể chạy Whisper trên một gói CPU thông thường, nơi nó hoạt động chậm hơn nhiều so với trên GPU: SSH vào và chạy pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.

Whisper Large có thể chứa khoảng 10 GB VRAM, và các mẫu TTS thường cần từ 2 đến 8 GB.

Giá GPU sẽ được công bố khi máy chủ GPU có thể được đặt hàng. Liên hệ với chúng tôi nếu muốn biết khi điều đó xảy ra.

Mỗi máy chủ VPS.org đều có quyền truy cập root, vì vậy bạn có thể chạy các công cụ khác cùng với Whisper trong RAM và bộ nhớ của máy chủ.

Mỗi máy chủ VPS.org có quyền truy cập root SSH đầy đủ, vì vậy bạn có thể cài đặt driver, thư viện và Whisper bất cứ khi nào bạn cần.

Không. Không máy chủ nào có trình điều khiển CUDA runtime hay NVIDIA được cài đặt sẵn, và máy chủ GPU chưa có sẵn để đặt hàng. Bạn tự cài đặt các phiên bản Whisper cần.

Có. Máy chủ VPS.org là máy ảo bền vững, không phải là các trường hợp ngắn hạn: các mô hình Whisper, configs và dữ liệu vẫn ở trong bộ nhớ SSD của máy chủ cho đến khi bạn xóa chúng.

Giữ dữ liệu làm việc trên SSD của máy chủ để truy cập nhanh trong khi chạy Whisper, và sao chép các tác phẩm hoàn thành (nặng, thế hệ, nhúng) để lưu trữ bên ngoài VPS.org; snapshots và bản sao lưu vẫn ở trên cùng một cụm lưu trữ.

Bạn có thể nâng cấp bất kỳ máy chủ VPS.org nào lên một kế hoạch lớn hơn từ bảng điều khiển; kích thước thay đổi khởi động lại nó và cài đặt Whisper của bạn sẽ được chuyển sang. Các máy chủ GPU chưa có sẵn.

Có. Bảo vệ là một bổ sung trả phí (mỗi ngày +30% giá kế hoạch, giữ 7 ngày; hàng tuần +20%, giữ 28 ngày) và snapshot miễn phí, hữu ích trước khi chạy Whisper dài. Cả hai đều ở trên cùng một cụm lưu trữ như máy chủ.

Liên hệ hỗ trợ trong vòng 30 ngày sau khi mua lần đầu để yêu cầu trả lại tiền. Các máy chủ GPU chưa được bán, vì vậy không có đơn đặt hàng GPU liên quan.