Traine si rula modelele PyTorch pe NVIDIA Tesla P40 (24 GB VRAM, arhitectura Pascal), cu acces integral la raiz. Servetele GPU nu sunt încă comandabile; contactați-ne pentru a fi notificate atunci când sunt.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Exemplu de comandă de instalare
PyTorch este un cadru de învăţare profundă folosit larg. Un server GPU execută antrenamentul şi inferenţa PyTorch pe GPU, care este mult mai rapid decât pe un CPU pentru majoritatea modelelor.
Instalați driverul NVIDIA, CUDA și PyTorch de construcție de care aveți nevoie. Verificați că PyTorch build încă suportă Pascal GPUs (capacitatea comuta 6.1).
Camera pentru modele mici si mijlocii, de aranjament fini LoRA si dimensiuni moderate de serie.
Execută notebook-uri Jupyter pe server pentru lucrări interactive pe GPU.
Configurați mediul exact cum are nevoie proiectul.
PyTorch poate folosi un NVIDIA GPU pentru a accelera munca sa. VPS.org serverele GPU nu sunt disponibile pentru a comanda încă; contactați-ne pentru a auzi atunci când sunt. PyTorch este o încărcătură de muncă de instruire / ajustare fină. Plan pentru locuri de muncă de lungă durată: imaginea VPS dvs. în mod regulat și păstra o copie a greutăților antrenate în afara VPS.org.
Serverele GPU nu sunt disponibile pentru a comanda încă. Astăzi puteți rula PyTorch pe un plan regulat de CPU, unde funcționează mult mai încet decât pe o GPU: SSH în și rula pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Formarea VRAM este dominată de starea optimizatoare plus activații. Completă de ajustare a unui LLM 7B are nevoie de aproximativ 24 până la 48 GB; LoRA / QLoRA se potrivește în 8 până la 16 GB.
Preţurile GPU vor fi publicate atunci când serverele GPU pot fi comandate. Contactaţi-ne dacă doriţi să auziţi când se întâmplă asta.
Da. Fiecare server VPS.org vine cu acces complet la rădăcină, astfel încât să puteți rula alte instrumente alături de PyTorch în RAM și stocarea serverului.
Fiecare server VPS.org vine cu acces SSH root complet, astfel încât să puteți instala drivere, biblioteci și PyTorch, oricum ai nevoie.
Nu. Nici un server nu vine cu un CUDA runtime sau driver NVIDIA preinstalat, iar serverele GPU nu sunt disponibile pentru a comanda încă. Instala versiunile PyTorch are nevoie de tine.
Da. serverele VPS.org sunt mașini virtuale persistente, nu instanțele efemere: modele PyTorch, configurații și datele rămân pe stocarea SSD serverului până când le ștergeți.
Păstrați datele de lucru pe SSD serverului pentru acces rapid în timpul rulărilor PyTorch, și copiați artefacte finite (pondere, generații, încorporări) pentru a stoca în afara VPS.org; instantanii și rezerve de rezervă rămân pe același cluster de stocare.
Puteți actualiza orice server VPS.org la un plan mai mare din panou de control; reîncărcarea de redimensionare a acestuia și instalarea PyTorch are peste. Serverele GPU nu sunt disponibile încă.
Da. Backup-urile sunt un adăugare plătit (în fiecare zi +30% din preţul planului, păstrat 7 zile; săptămânal +20%, păstrat 28 zile) şi instantaniile sunt gratuite, care este util înainte de rulează PyTorch lung. Amândoi rămâne pe acelaşi cluster de stocare ca serverul.
Suport de contact în termen de 30 de zile de la prima achiziție pentru a solicita o rambursare. Serverii GPU nu sunt vândute încă, astfel încât nu este implicat comanda GPU.
Capacitatea GPU este limitată. Spune-ne despre încărcătura ta și vom răspunde cu disponibilitate și prețuri.