Uskoro dolazi: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Pokreni TensorFlow i Keras trening i zaključak na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura). GPU poslužitelji još nisu u redu; kontaktirajte nas da budemo obaviješteni kada su.

$ pip install tensorflow[and-cuda]
# Naredba

Što je {ime} na GPU VPS?

TensorFlow je Googleov otvoreni-izvor strojni okvir za učenje. Na GPU poslužitelju, TensorFlow vodi svoje operacije na GPU kroz CUDA.

TensorFlow na VPS.org GPU poslužitelja

GPU ubrzanje

TensorFlow koristi GPU kroz CCDA kada instalirate odgovarajući vozač i CCDA verziju.

Keras

Izgraditi modele s Keras API na vrhu GPU pozadine.

TensorBoard

Trening monitora s TensorBoardom na vlastitom poslužitelju.

TF servisiranje

Poslužite obučeni modeli s TensorFlow servis.

Popularne {ime} Slučaji korištenja

Klasifikacija slike
Otkrivanje objekta
Prerada prirodnog jezika
Preporučni sustavi
Prognoza vremenskih nizova
Proizvodnja ML cjevovoda

Planirane GPU specifikacije

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA jezgre3,840
FP3212 TFLOPS
INT847 TOPS
Memorija BW346 GB/s
ArhitekturaPascal (GP102)
ProlazPCIe prolaz

Česta pitanja

Što je TensorFlow na GPU VPS?

+

TensorFlow može koristiti NVIDIA GPU za ubrzavanje rada. VPS.org GPU serveri još nisu dostupni za narudžba; kontaktirajte nas da čujemo kada su. TensorFlow je trening / fino uklapanje radnog mjesta. Plan za dugotrajne poslove: snimanje VPS redovito i čuvanje kopije obučenih težina izvan VPS.org.

Kako da postavim TensorFlow na GPU VPS?

+

GPU poslužitelji još nisu dostupni za naručivanje. Danas možete pokrenuti TensorFlow na redoviti CPU plan, gdje radi daleko sporije nego na GPU: SSH in i pokrenuti pip install tensorflow[and-cuda].

Koliko VRAM trebam za TensorFlow?

+

VRAM-u dominira optimatorsko stanje plus aktivacije. Potpuno uklapanje LLM-a 7B treba otprilike 24 do 48 GB; LoRA / QLoRA uklapa se u 8 do 16 GB.

Koliko bi GPU poslužitelj za TensorFlow koštao?

+

GPU cijena će biti objavljena kada GPU poslužitelji mogu biti naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.

Mogu li pokrenuti drugi alat uz TensorFlow?

+

Da. Svaki VPS.org poslužitelj dolazi s punim pristupom rootu, tako da možete pokrenuti druge alate uz TensorFlow unutar RAM-a i pohrane poslužitelja.

Mogu li dobiti pun korijen na TensorFlow GPU VPS?

+

Svaki VPS.org poslužitelj dolazi s punom root SSH pristup, tako da možete instalirati vozače, biblioteke i TensorFlow kako god vam je potrebno.

Da li VPS.org preinstalirati GUDA za TensorFlow?

+

Ne. Nijedan poslužitelj ne dolazi s CUDA runtime ili NVIDIA drajver unaprijed instaliran, a GPU poslužitelji još nisu dostupni za naručivanje. Instalirate verzije TensorFlow treba sebe.

Da li je moje TensorFlow GPU VPS i dalje između seansi?

+

Da. VPS.org poslužitelji su stalni virtualni strojevi, a ne efemeralni primjerci: TensorFlow modeli, konfiguracije i podaci ostaju na pohrani SSD poslužitelja dok ih ne izbrišete.

Gdje da spremim podatke za TensorFlow radnih mjesta?

+

Nastavite raditi na SSD poslužitelja za brz pristup tijekom TensorFlow pokrenutih, i kopirati završene artefakte (teže, generacije, ugrađivanja) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom pohranjivaču klastera.

Mogu li kasnije proći preko TensorFlow GPU VPS-a?

+

Možete nadograditi svaki VPS.org poslužitelj na veći plan iz kontrolnog panela; reorganizacija ga ponovno pokreće i vaš TensorFlow install nosi preko. GPU poslužitelji još nisu dostupni.

Jesu li rezervne kopije dostupne za moj GPU VPS?

+

Da. Rezervne kopije su plaćeni dodatak (dnevno +30% cijene plana, čuvan 7 dana; tjedan +20%, čuvan 28 dana) i snimke su besplatne, što je korisno prije dugog TensorFlow trčanje. Oba ostaju na istom pohranjivaču klastera kao i poslužitelj.

Mogu li dobiti povrat novca?

+

Kontaktna podrška u roku od 30 dana od vaše prve kupnje zatražiti povrat novca. GPU poslužitelji još nisu prodani, tako da nema GPU narudžbe.

Želite li pokrenuti TensorFlow na GPU poslužitelj?

GPU kapacitet je ograničen. Recite nam o svom radnom vremenu i odgovorit ćemo s raspoloživošću i cijenama.