Uskoro: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Pokrenite TensorFlow i Keras trening i zaključivanje na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura). GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da biste bili obaviješteni kada budu dostupni.

$ pip install tensorflow[and-cuda]
# Primjer naredbe za instaliranje

Šta je {ime} na GPU VPS-u?

TensorFlow je Googleov okvir za mašinski učenje otvorenog koda.Na GPU serveru, TensorFlow pokreće svoje operacije na GPU-u preko CUDA-e.

TensorFlow na VPS.org GPU serveru

GPU akceleracija

TensorFlow koristi GPU preko CUDA-e nakon što instalira odgovarajući driver i CUDA verziju.

Hard

Izgradite modele sa Keras API-jem na vrhu GPU backend-a.

TensorBoard

Nadziraj trening sa TensorBoard-om na svom serveru.

TF Serving

Upotrebljavaju se za izradu modela sa tenzorskim kretanjem.

Popularni TensorFlow slučajevi upotrebe

Klasifikacija slika
Detekcija objekta
Prirodni jezik
Preporuka sistema
Time series forecasting
Produkcija ML cjevovoda

Planirane specifikacije GPU-a

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA boje3,840
FP3212 TFLOPS
INT847 TOPS
Memorija346 GB/s
ArhitekturaPascal (GP102)
ProlazBare metal PCIe

Često postavljana pitanja

Šta je TensorFlow na GPU VPS?

+

TensorFlow može koristiti NVIDIA GPU da ubrza svoj rad. VPS.org GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da saznate kada će biti dostupni. TensorFlow je za trening / fino podešavanje radnog opterećenja. Planirajte za dugotrajne poslove: redovito snimajte VPS i držite kopiju treniranih težina izvan VPS.org.

Kako postavim TensorFlow na GPU VPS?

+

GPU serveri još nisu dostupni za narudžbu. Danas možete pokrenuti TensorFlow na redovnom CPU planu, gdje radi mnogo sporije nego na GPU: SSH u i pokrenite pip install tensorflow[and-cuda].

Koliko VRAM-a trebam za TensorFlow?

+

VRAM za trening je dominiran od strane optimizera stanja plus aktivacije. Puna fino podešavanje 7B LLM treba otprilike 24 do 48 GB; LoRA / QLoRA stane u 8 do 16 GB.

Koliko bi koštao GPU server za TensorFlow?

+

Cijene GPU-a će biti objavljene kada se GPU serveri mogu naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.

Mogu li pokrenuti druge alate pored TensorFlow?

+

Svaki VPS.org server ima potpuni root pristup, tako da možeš pokrenuti druge alate pored TensorFlow u RAM-u servera i pohrani.

Da li mogu dobiti potpuni root na TensorFlow GPU VPS?

+

Svaki VPS.org server dolazi sa punim root SSH pristupom, tako da možete instalirati drivere, biblioteke i TensorFlow kako god vam treba.

Da li VPS.org unaprijed instalira CUDA za TensorFlow?

+

Ne. Nijedan server ne dolazi s CUDA runtimeom ili NVIDIA driverom unaprijed instaliranim, a GPU serveri još nisu dostupni za narudžbu. Sami instalirajte verzije koje TensorFlow treba.

Da li moj TensorFlow GPU VPS traje između sesija?

+

Da. VPS.org serveri su trajne virtualne mašine, a ne efemerne instance: TensorFlow modeli, konfiguracije i podaci ostaju na SSD pohrani servera dok ih ne izbrišete.

Gdje da pohranim podatke za moj TensorFlow?

+

Zadržavanje radnih podataka na SSD-u servera za brz pristup tokom TensorFlow pokretanja, i kopiranje gotovih artefakata (težina, generacije, ugradnje) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom clusteru za pohranu.

Mogu li kasnije skalirati svoj TensorFlow GPU VPS?

+

Možete nadograditi bilo koji VPS.org server na veći plan iz kontrolne ploče; promjena veličine ga ponovo pokreće i vaša TensorFlow instalacija se prenosi. GPU serveri još nisu dostupni.

Da li su rezervne kopije dostupne za moj GPU VPS?

+

Da. Sigurnosne kopije su plaćen dodatak (dnevno +30% od cijene plana, čuva se 7 dana; sedmično +20%, čuva se 28 dana) i snimke su besplatne, što je korisno prije dugih TensorFlow pokretanja. Oba ostaju na istom klasteru pohrane kao i server.

Mogu li dobiti povrat novca?

+

Kontaktirajte podršku u roku od 30 dana od prve kupnje da biste zatražili povrat novca. GPU serveri još nisu prodani, tako da nema narudžbe GPU-a.

Želite li pokrenuti TensorFlow na GPU serveru?

Kapacitet grafičkog procesora je ograničen. Recite nam o svom opterećenju i odgovorit ćemo s dostupnošću i cijenama.