Executați formarea TensorFlow și Keras și inferința asupra unei NVIDIA Tesla P40 (24 GB VRAM, arhitectura Pascal). Servetorii GPU nu sunt încă comandabile; contactați-ne pentru a fi notificați atunci când sunt.
$ pip install tensorflow[and-cuda]
# Exemplu de comandă de instalare
TensorFlow este cadrul de învățare a mașinii de surse deschise a Google. Pe un server GPU, TensorFlow își desfășoară operațiunile pe GPU prin CUDA.
TensorFlow folosește GPU prin CUDA odată ce instalați un driver care se potrivește și versiunea CUDA.
Construiește modele cu API Keras pe partea de sus a backend-ului GPU.
Monitorizează antrenamentul cu TensorBoard pe propriul server.
Serviţi modele instruite cu TensorFlow Serve.
TensorFlow poate folosi un NVIDIA GPU pentru a accelera munca sa. VPS.org serverele GPU nu sunt disponibile pentru a comanda încă; contactați-ne pentru a auzi atunci când sunt. TensorFlow este o încărcătură de muncă de instruire / ajustare fină. Plan pentru locuri de muncă de lungă durată: imaginea VPS dvs. în mod regulat și păstra o copie a greutăților antrenate în afara VPS.org.
Serverele GPU nu sunt disponibile pentru a comanda încă. Astăzi puteți rula TensorFlow pe un plan regulat de CPU, unde funcționează mult mai încet decât pe o GPU: SSH în și rula pip install tensorflow[and-cuda].
Formarea VRAM este dominată de starea optimizatoare plus activații. Completă de ajustare a unui LLM 7B are nevoie de aproximativ 24 până la 48 GB; LoRA / QLoRA se potrivește în 8 până la 16 GB.
Preţurile GPU vor fi publicate atunci când serverele GPU pot fi comandate. Contactaţi-ne dacă doriţi să auziţi când se întâmplă asta.
Da. Fiecare server VPS.org vine cu acces complet la rădăcină, astfel încât să puteți rula alte instrumente alături de TensorFlow în RAM și stocarea serverului.
Fiecare server VPS.org vine cu acces SSH root complet, astfel încât să puteți instala drivere, biblioteci și TensorFlow, oricum ai nevoie.
Nu. Nici un server nu vine cu un CUDA runtime sau driver NVIDIA preinstalat, iar serverele GPU nu sunt disponibile pentru a comanda încă. Instala versiunile TensorFlow are nevoie de tine.
Da. serverele VPS.org sunt mașini virtuale persistente, nu instanțele efemere: modele TensorFlow, configurații și datele rămân pe stocarea SSD serverului până când le ștergeți.
Păstrați datele de lucru pe SSD serverului pentru acces rapid în timpul rulărilor TensorFlow, și copiați artefacte finite (pondere, generații, încorporări) pentru a stoca în afara VPS.org; instantanii și rezerve de rezervă rămân pe același cluster de stocare.
Puteți actualiza orice server VPS.org la un plan mai mare din panou de control; reîncărcarea de redimensionare a acestuia și instalarea TensorFlow are peste. Serverele GPU nu sunt disponibile încă.
Da. Backup-urile sunt un adăugare plătit (în fiecare zi +30% din preţul planului, păstrat 7 zile; săptămânal +20%, păstrat 28 zile) şi instantaniile sunt gratuite, care este util înainte de rulează TensorFlow lung. Amândoi rămâne pe acelaşi cluster de stocare ca serverul.
Suport de contact în termen de 30 de zile de la prima achiziție pentru a solicita o rambursare. Serverii GPU nu sunt vândute încă, astfel încât nu este implicat comanda GPU.
Capacitatea GPU este limitată. Spune-ne despre încărcătura ta și vom răspunde cu disponibilitate și prețuri.