Uskoro dolazi: NVIDIA Tesla P40, 24 GB VRAM

AI/ML GPU poslužitelj

Fino-tune i vlak modeli na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura). Najbolje za LoRA fino-tuning i male modele. GPU serveri još nisu uređeni; kontaktirajte nas da budemo obaviješteni kada su.

$ pip install torch transformers datasets accelerate && python train.py
# Naredba

Što je {ime} na GPU VPS?

Trening AI modeli trebaju paralelne izračunavanje da GPUs pruža. GPU server vam daje jedan GPU za vlastiti trening poslova.

AI Training na VPS.org GPU poslužitelja

Cijeli GPU

Jedan Tesla P40 s 24 GB VRAM, prošao je preko vašeg servera i nije dijeljen.

Izbor okvira

PyTorch, TensorFlow, JAX ili bilo koji okvir koji još uvijek podržava Pascal GPUs.

SSD spremište

Zadrži skup podataka, kontrolne točke i modelske datoteke u pohrani poslužitelja SSD-a.

SSH pristup

Pun pristup korijenu za konfiguraciju trening okruženja.

Popularne {ime} Slučaji korištenja

Uzorak finog uklapanja
Učenje prijenosa
Prilagođena obuka modela
Prilagodba hiperparametra
Preoblikovanje nabora podataka
LoRA adapteri

Planirane GPU specifikacije

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA jezgre3,840
FP3212 TFLOPS
INT847 TOPS
Memorija BW346 GB/s
ArhitekturaPascal (GP102)
ProlazPCIe prolaz

Česta pitanja

Što je AI Training na GPU VPS?

+

AI Training može koristiti NVIDIA GPU za ubrzanje rada. VPS.org GPU serveri još nisu dostupni za naručivanje; kontaktirajte nas da čujemo kada su. AI Training je opći GPU-prispjeli GPU-a. Provjerite da li vaš softver ima podršku GUDA i da vaš vozač / verzija runtime odgovara zahtjevima za radni rad za AI Training.

Kako da postavim AI Training na GPU VPS?

+

GPU poslužitelji još nisu dostupni za naručivanje. Danas možete pokrenuti AI Training na redoviti CPU plan, gdje radi daleko sporije nego na GPU: SSH in i pokrenuti pip install torch transformers datasets accelerate && python train.py.

Koliko VRAM trebam za AI Training?

+

VRAM potrebe za AI Training ovise o modelu i veličini serije; provjerite projektnu dokumentaciju za trenutne brojke.

Koliko bi GPU poslužitelj za AI Training koštao?

+

GPU cijena će biti objavljena kada GPU poslužitelji mogu biti naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.

Mogu li pokrenuti drugi alat uz AI Training?

+

Da. Svaki VPS.org poslužitelj dolazi s punim pristupom rootu, tako da možete pokrenuti druge alate uz AI Training unutar RAM-a i pohrane poslužitelja.

Mogu li dobiti pun korijen na AI Training GPU VPS?

+

Svaki VPS.org poslužitelj dolazi s punom root SSH pristup, tako da možete instalirati vozače, biblioteke i AI Training kako god vam je potrebno.

Da li VPS.org preinstalirati GUDA za AI Training?

+

Ne. Nijedan poslužitelj ne dolazi s CUDA runtime ili NVIDIA drajver unaprijed instaliran, a GPU poslužitelji još nisu dostupni za naručivanje. Instalirate verzije AI Training treba sebe.

Da li je moje AI Training GPU VPS i dalje između seansi?

+

Da. VPS.org poslužitelji su stalni virtualni strojevi, a ne efemeralni primjerci: AI Training modeli, konfiguracije i podaci ostaju na pohrani SSD poslužitelja dok ih ne izbrišete.

Gdje da spremim podatke za AI Training radnih mjesta?

+

Nastavite raditi na SSD poslužitelja za brz pristup tijekom AI Training pokrenutih, i kopirati završene artefakte (teže, generacije, ugrađivanja) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom pohranjivaču klastera.

Mogu li kasnije proći preko AI Training GPU VPS-a?

+

Možete nadograditi svaki VPS.org poslužitelj na veći plan iz kontrolnog panela; reorganizacija ga ponovno pokreće i vaš AI Training install nosi preko. GPU poslužitelji još nisu dostupni.

Jesu li rezervne kopije dostupne za moj GPU VPS?

+

Da. Rezervne kopije su plaćeni dodatak (dnevno +30% cijene plana, čuvan 7 dana; tjedan +20%, čuvan 28 dana) i snimke su besplatne, što je korisno prije dugog AI Training trčanje. Oba ostaju na istom pohranjivaču klastera kao i poslužitelj.

Mogu li dobiti povrat novca?

+

Kontaktna podrška u roku od 30 dana od vaše prve kupnje zatražiti povrat novca. GPU poslužitelji još nisu prodani, tako da nema GPU narudžbe.

Želite li pokrenuti AI Training na GPU poslužitelj?

GPU kapacitet je ograničen. Recite nam o svom radnom vremenu i odgovorit ćemo s raspoloživošću i cijenama.