Së shpejti: NVIDIA Tesla P40, 24 GB VRAM

Serveri i GPU për trainimin e AI/ML

Përmirëso dhe traino modele në një NVIDIA Tesla P40 (24 GB VRAM, arkitekturë Pascal). Më e mira për përmirësimin e LoRA dhe modele të vogla. Serverët GPU nuk janë ende të porositur; kontakto me ne për të marrë njoftimin kur të jenë.

$ pip install torch transformers datasets accelerate && python train.py
# Shembull i komandës së instalimit

Çfarë është {emri} në një GPU VPS?

Trainimi i modeleve të AI kërkon llogaritje paralele që GPU ofron. Një server GPU ju jep një GPU për punët e trainimit tuaj.

AI Training në një server GPU VPS.org

GPU e plotë

Një Tesla P40 me 24 GB VRAM, i kapërcyer serverit tuaj dhe nuk është ndarë.

Zgjedhja e kornizës

PyTorch, TensorFlow, JAX ose çdo strukturë që ende mbështet GPU-të Pascal.

Ruajtja SSD

Mbaj setët e të dhënave, pikat e kontrollit dhe skedarët e modelit në depozitimin SSD të serverit.

Hyrja SSH

Të drejta të plota root për të konfiguruar mjedisin e trainimit.

AI Training përdorimi i zakonshëm

Modeli i rregullimit të hollësishëm
Transfero mësimdhënie
Modeli i personalizuar
Hiperparametri
Paraprocesimi i dataset
Adaptues LoRA

Specifikimet e planifikuara të GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Ngjyra CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Kujtesa346 GB/s
ArkitekturaPascal (GP102)
PërmesPCIe Passthrough

Pyetje të shpeshta

Çfarë është AI Training në një GPU VPS?

+

AI Training mund të përdorë një GPU NVIDIA për të shpejtuar punën e vet. Serverët GPU VPS.org nuk janë ende në dispozicion për porosi; kontakto me ne për të dëgjuar kur do të jenë në dispozicion. AI Training është një ngarkim i përgjithshëm i përshpejtuar me GPU. Sigurohu që softueri juaj mbështet CUDA dhe që driveri juaj / versionet e kohës së ekzekutimit përputhen me kërkesat e ngarkimit për AI Training.

Si e vendos AI Training në një GPU VPS?

+

Serverët GPU nuk janë ende në dispozicion për porosi. Sot mund të përdorni AI Training në një plan të zakonshëm CPU, ku punon shumë më ngadalë se në një GPU: SSH në dhe pip install torch transformers datasets accelerate && python train.py.

Sa VRAM më duhet për AI Training?

+

Nevojat e VRAM për AI Training varen nga modeli dhe madhësia e lotit; kontrollo dokumentacionin e projektit për shifrat aktuale.

Sa do të kushtojë një server GPU për AI Training?

+

Çmimi i GPU do të publikohet kur serverat GPU të jenë të porositur. Kontaktoni me ne nëse dëshironi të dëgjoni kur të ndodhë kjo.

Mund të përdor edhe instrumente të tjera përveç AI Training?

+

Çdo server VPS.org ka hyrje të plotë root, kështu që mund të përdorësh instrumente të tjera bashkë me AI Training brenda RAM-it dhe depozitimit të serverit.

A mund të marr root të plotë në AI Training GPU VPS?

+

Çdo server VPS.org vjen me hyrje të plotë root SSH, kështu që mund të instaloni driverët, libraritë dhe AI Training si të doni.

A parainstalon VPS.org CUDA për AI Training?

+

Jo. Asnjë server nuk vjen me një runtime CUDA apo driver NVIDIA të parainstaluar, dhe serverat GPU nuk janë ende në dispozicion për porosi. Ju instaloni vetë versionet që AI Training ka nevojë.

A qëndron VPS-ja ime AI Training GPU midis seancave?

+

Po. Serverat VPS.org janë makina virtuale të përhershme, jo raste të shkurtra: modelet AI Training, konfigurimet dhe të dhënat mbeten në SSD të serverit deri sa ti eleminosh ato.

Ku duhet të ruaj të dhënat për ngarkimin tim AI Training?

+

Mbaj të dhënat e punës në SSD të serverit për hyrje të shpejtë gjatë AI Training, dhe kopjo artifaktet e përfunduara (masa, gjenerata, ndërlidhje) në depozitim jashtë VPS.org; fotot dhe backupet qëndrojnë në të njëjtin grup depozitimi.

A mund të zmadhoj AI Training GPU VPS më vonë?

+

Mund të përmirësoni çdo server VPS.org në një plan më të madh nga paneli i kontrollit; ripërmarrje e rinis atë dhe instalimi AI Training i juaj merr mbi. Serverët GPU nuk janë ende në dispozicion.

A janë backup-et në dispozicion për GPU-në time VPS?

+

Po. Backup-et janë një shtesë e paguar (përditë +30% e çmimit të planit, mbajtur 7 ditë; javor +20%, mbajtur 28 ditë) dhe snapshot-et janë pa pagesë, që është e dobishme para se AI Training të ecë gjatë. Të dyja qëndrojnë në të njëjtin cluster të ruajtjes si serveri.

Mund të marr një kthim?

+

Kontakto ndihmën brenda 30 ditëve nga blerja e parë për të kërkuar një kthim parash. Serverët GPU nuk janë shitur ende, kështu që nuk ka porosi GPU.

Dëshiron të ekzekutoj AI Training në një server GPU?

Kapaciteti i GPU është i kufizuar. Na tregoni rreth ngarkesave tuaja të punës dhe do t'ju përgjigjemi me disponueshmërinë dhe çmimin.