În curând: NVIDIA Tesla P40, 24 GB VRAM

Server GPU de formare AI/ML

Ajustează modelele și trenul pe un NVIDIA Tesla P40 (24 GB VRAM, arhitectura Pascal). Cel mai bun pentru modelele de ajustare și mici LoRA. Serverii GPU nu sunt încă comandabile; contactați-ne pentru a fi notificați atunci când sunt.

$ pip install torch transformers datasets accelerate && python train.py
# Exemplu de comandă de instalare

Ce este {nume} pe un VPS GPU?

Formarea modelelor IA are nevoie de calcul paralel pe care GPUs le furnizează. Un server GPU vă oferă o GPU pentru propriile locuri de muncă de formare.

AI Training pe un server VPS.org GPU

GPU întreagă

O Tesla P40 cu 24 GB VRAM, a trecut prin serverul dvs. și nu a împărtășit.

Alegerea cadru

PyTorch, TensorFlow, JAX sau orice cadru care încă sprijină Pascal GPUs.

Depoziție SSD

Păstrează seturile de date, punctele de control și fișierele de model pe stocarea SSD serverului.

Acces SSH

Accesul integral al rădăcinii pentru a configura mediul de antrenament.

Cazuri de utilizare populare {nume}

Model de ajustare fină
Învățarea transferului
Pregătirea modelului personalizat
Ajustări hiperparametrice
Preprelucrarea datelor
Adaptatori LoRA

Specificații GPU planificate

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Cores CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memorie BW346 GB/s
ArhitecturăPascal (GP102)
Pass-throughPCIe trece

Întrebări frecvente

Ce este AI Training pe un VPS GPU?

+

AI Training poate folosi un NVIDIA GPU pentru a accelera munca sa. VPS.org serverele GPU nu sunt disponibile pentru a comanda încă; contactați-ne pentru a auzi atunci când sunt. AI Training este o încărcătură generală de muncă accelerată GPU. Asigurați-vă că software-ul dvs. are suport CUDA și că versiunile de driver / runtime corespunde cerințele de încărcare de muncă pentru AI Training.

Cum pot să instalez AI Training pe un VPS GPU?

+

Serverele GPU nu sunt disponibile pentru a comanda încă. Astăzi puteți rula AI Training pe un plan regulat de CPU, unde funcționează mult mai încet decât pe o GPU: SSH în și rula pip install torch transformers datasets accelerate && python train.py.

Cât de mult VRAM am nevoie pentru AI Training?

+

VRAM necesități pentru AI Training depinde de dimensiunile modelului și lotului; verificați documentația proiectului pentru cifrele actuale.

Cât ar costa un server GPU pentru AI Training?

+

Preţurile GPU vor fi publicate atunci când serverele GPU pot fi comandate. Contactaţi-ne dacă doriţi să auziţi când se întâmplă asta.

Pot să conduc alte unelte alături de AI Training?

+

Da. Fiecare server VPS.org vine cu acces complet la rădăcină, astfel încât să puteți rula alte instrumente alături de AI Training în RAM și stocarea serverului.

Am rădăcină completă pe AI Training GPU VPS?

+

Fiecare server VPS.org vine cu acces SSH root complet, astfel încât să puteți instala drivere, biblioteci și AI Training, oricum ai nevoie.

VPS.org preinstalare CUDA pentru AI Training?

+

Nu. Nici un server nu vine cu un CUDA runtime sau driver NVIDIA preinstalat, iar serverele GPU nu sunt disponibile pentru a comanda încă. Instala versiunile AI Training are nevoie de tine.

PVP-ul meu AI Training GPU persistă între sesiuni?

+

Da. serverele VPS.org sunt mașini virtuale persistente, nu instanțele efemere: modele AI Training, configurații și datele rămân pe stocarea SSD serverului până când le ștergeți.

Unde ar trebui să stoc datele pentru munca mea AI Training?

+

Păstrați datele de lucru pe SSD serverului pentru acces rapid în timpul rulărilor AI Training, și copiați artefacte finite (pondere, generații, încorporări) pentru a stoca în afara VPS.org; instantanii și rezerve de rezervă rămân pe același cluster de stocare.

Pot să îmi scară în proporţie AI Training GPU VPS mai târziu?

+

Puteți actualiza orice server VPS.org la un plan mai mare din panou de control; reîncărcarea de redimensionare a acestuia și instalarea AI Training are peste. Serverele GPU nu sunt disponibile încă.

Sunt rezerve disponibile pentru GPU VPS-ul meu?

+

Da. Backup-urile sunt un adăugare plătit (în fiecare zi +30% din preţul planului, păstrat 7 zile; săptămânal +20%, păstrat 28 zile) şi instantaniile sunt gratuite, care este util înainte de rulează AI Training lung. Amândoi rămâne pe acelaşi cluster de stocare ca serverul.

Pot primi o rambursare?

+

Suport de contact în termen de 30 de zile de la prima achiziție pentru a solicita o rambursare. Serverii GPU nu sunt vândute încă, astfel încât nu este implicat comanda GPU.

Vrei să rulezi AI Training pe un server GPU?

Capacitatea GPU este limitată. Spune-ne despre încărcătura ta și vom răspunde cu disponibilitate și prețuri.