Uskoro: NVIDIA Tesla P40, 24 GB VRAM

AI/ML trening GPU server

Fino podešavanje i treniranje modela na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura). Najbolje za LoRA fino podešavanje i male modele. GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da biste bili obaviješteni kada budu dostupni.

$ pip install torch transformers datasets accelerate && python train.py
# Primjer naredbe za instaliranje

Šta je {ime} na GPU VPS-u?

Trening AI modela treba paralelno računanje koje GPU-ovi pružaju. GPU server vam daje jedan GPU za vaše vlastite trening zadatke.

AI Training na VPS.org GPU serveru

Cijeli GPU

Jedan Tesla P40 sa 24 GB VRAM-a, prošao je kroz vaš server i nije dijeljen.

Izbor okvira

PyTorch, TensorFlow, JAX ili bilo koji okvir koji još uvijek podržava Pascal GPU-e.

SSD pohrana

Uključuje i preglednik, preglednik datoteka i preglednik web stranica.

SSH pristup

Potpuni root pristup za konfiguriranje okruženja za trening.

Popularni AI Training slučajevi upotrebe

Model fino podešavanje
Transfer učenje
Prilagođeni trening modela
Hiperparametarska podešavanja
Preprocesiranje skupa podataka
Lora adapteri

Planirane specifikacije GPU-a

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA boje3,840
FP3212 TFLOPS
INT847 TOPS
Memorija346 GB/s
ArhitekturaPascal (GP102)
ProlazBare metal PCIe

Često postavljana pitanja

Šta je AI Training na GPU VPS?

+

AI Training može koristiti NVIDIA GPU da ubrza svoj rad. VPS.org GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da saznate kada će biti dostupni. AI Training je generalni GPU-accelerated workload. Provjerite da li vaš softver podržava CUDA i da li vaš driver / runtime verzije odgovaraju zahtjevima za workload za AI Training.

Kako postavim AI Training na GPU VPS?

+

GPU serveri još nisu dostupni za narudžbu. Danas možete pokrenuti AI Training na redovnom CPU planu, gdje radi mnogo sporije nego na GPU: SSH u i pokrenite pip install torch transformers datasets accelerate && python train.py.

Koliko VRAM-a trebam za AI Training?

+

VRAM potrebe za AI Training ovise o modelu i veličini serije; pogledajte projektnu dokumentaciju za trenutne brojeve.

Koliko bi koštao GPU server za AI Training?

+

Cijene GPU-a će biti objavljene kada se GPU serveri mogu naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.

Mogu li pokrenuti druge alate pored AI Training?

+

Svaki VPS.org server ima potpuni root pristup, tako da možeš pokrenuti druge alate pored AI Training u RAM-u servera i pohrani.

Da li mogu dobiti potpuni root na AI Training GPU VPS?

+

Svaki VPS.org server dolazi sa punim root SSH pristupom, tako da možete instalirati drivere, biblioteke i AI Training kako god vam treba.

Da li VPS.org unaprijed instalira CUDA za AI Training?

+

Ne. Nijedan server ne dolazi s CUDA runtimeom ili NVIDIA driverom unaprijed instaliranim, a GPU serveri još nisu dostupni za narudžbu. Sami instalirajte verzije koje AI Training treba.

Da li moj AI Training GPU VPS traje između sesija?

+

Da. VPS.org serveri su trajne virtualne mašine, a ne efemerne instance: AI Training modeli, konfiguracije i podaci ostaju na SSD pohrani servera dok ih ne izbrišete.

Gdje da pohranim podatke za moj AI Training?

+

Zadržavanje radnih podataka na SSD-u servera za brz pristup tokom AI Training pokretanja, i kopiranje gotovih artefakata (težina, generacije, ugradnje) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom clusteru za pohranu.

Mogu li kasnije skalirati svoj AI Training GPU VPS?

+

Možete nadograditi bilo koji VPS.org server na veći plan iz kontrolne ploče; promjena veličine ga ponovo pokreće i vaša AI Training instalacija se prenosi. GPU serveri još nisu dostupni.

Da li su rezervne kopije dostupne za moj GPU VPS?

+

Da. Sigurnosne kopije su plaćen dodatak (dnevno +30% od cijene plana, čuva se 7 dana; sedmično +20%, čuva se 28 dana) i snimke su besplatne, što je korisno prije dugih AI Training pokretanja. Oba ostaju na istom klasteru pohrane kao i server.

Mogu li dobiti povrat novca?

+

Kontaktirajte podršku u roku od 30 dana od prve kupnje da biste zatražili povrat novca. GPU serveri još nisu prodani, tako da nema narudžbe GPU-a.

Želite li pokrenuti AI Training na GPU serveru?

Kapacitet grafičkog procesora je ograničen. Recite nam o svom opterećenju i odgovorit ćemo s dostupnošću i cijenama.