Kmalu: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Poženite TensorFlow in Keras trening in ugotovitev na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura). GPU strežniki še niso urejeni; kontaktirajte nas, da se obvesti, ko so.

$ pip install tensorflow[and-cuda]
# Primer namestitve ukaza

Kaj je {ime} na GPU VPS?

TensorFlow je Googleov okvir za odprto učenje strojev. Na GPU strežniku TensorFlow izvaja svoje operacije na GPU prek CUDA.

TensorFlow na strežniku GPU VPS.org

Pospeševanje GPU

TensorFlow uporablja GPU skozi CIDA, ko namestite ujemajoč voznik in različico CIDA.

Keras

Zgradite modele s Keras API na vrhu GPU ozadja.

Tensor Board

Monitor trening z TensorBoard na svojem strežniku.

TF servisiranje

Služite izurjene modele s TensorFlow servisom.

Priljubljeno {ime} Uporabni primeri

Razvrstitev slike
Odkrivanje objekta
Obdelava naravnega jezika
Sistemi priporočil
Napovedovanje časovnih vrst
Proizvodni ML cevovodi

Načrtovane specifikacije GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Jedra CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Spomin BW346 GB/s
ArhitekturaPascal (GP102)
Prehaja skoziPrehod po PCIe

Pogosta vprašanja

Kaj je TensorFlow na GPU VPS?

+

TensorFlow lahko uporabi NVIDIA GPU za pospeševanje svojega dela. VPS.org GPU strežniki še niso na voljo za naročitev; kontaktirajte nas, da slišimo, kdaj so. TensorFlow je usposabljanje / dobro uravnavanje delovne obremenitve. Načrt za dolgotrajna delovna mesta: posnetek VPS redno in obdrži kopijo izurjenih tež zunaj VPS.org.

Kako naj postavim TensorFlow na GPU VPS?

+

Strežniki GPU še niso na voljo za naročilo. Danes lahko poženite TensorFlow na običajnem načrtu CPU, kjer deluje veliko počasneje kot pri GPU: SSH in poženite pip install tensorflow[and-cuda].

Koliko VRAM potrebujem za TensorFlow?

+

VRAM dominira optimatorsko stanje in aktivacije. Polno dopolnjevanje LLM 7B potrebuje približno 24 do 48 GB; LoRA / QLoRA se vklopi v 8 do 16 GB.

Koliko bi strežnik GPU za TensorFlow stala?

+

GPU cenovno obdobje bo objavljeno, ko bo GPU strežniki lahko naročili. Pokličite nas, če želite slišati, kdaj se to zgodi.

Lahko vodim drugo orodje ob TensorFlow?

+

Da. Vsak strežnik VPS.org je s polnim dostopom do korenine, tako da lahko poganjate druga orodja poleg TensorFlow v okviru RAM in shranjevanja strežnika.

Ali sem dobil polno korenine na TensorFlow GPU VPS?

+

Vsak VPS.org strežnik prihaja s polnim root SSH dostopom, tako da lahko namestite voznike, knjižnice in TensorFlow, kolikor potrebujete.

Ali VPS.org prednastavitev CUDA za TensorFlow?

+

Ne. Strežnik ne prihaja z CUDA runtime ali NVIDIA gonilnik vnaprej nameščen, in GPU strežniki še niso na voljo za naročilo. Namestite različice TensorFlow potrebujete sami.

Ali moje TensorFlow GPU VPS še vedno traja med sestanki?

+

Da. strežniki VPS.org so vztrajni virtualni stroji, ne efemeralni primeri: TensorFlow modeli, nastavitve in podatki ostanejo v strežniku SSD shranjevanje, dokler jih ne izbrišete.

Kje naj shranim podatke za svojo delovno obremenitev TensorFlow?

+

Nadaljujte z delom podatkov o strežniku SSD za hiter dostop med tekom TensorFlow in kopirajte končne artefakte (teži, generacije, vgradnje) v shranjevanje zunaj VPS.org; posnetki in kopije ostanejo na istem skladišče grozde.

Smem pomeriti TensorFlow GPU VPS pozneje?

+

Nadogradite lahko kateri koli strežnik VPS.org na večji načrt iz kontrolnega panela; znova ga zaženite z velikostjo in prenesete vaš instalator TensorFlow. Strežniki GPU še niso na voljo.

Ali so rezervne kopije na voljo za moj GPU VPS?

+

Ja. Rezervne kopije so plačano dodatno (dnevno +30% cene načrta, ki je obdržana 7 dni; teden +20%, obdržana 28 dni) in posnetki so brezplačni, kar je koristno pred dolgim TensorFlow. Oba ostaneta na istem skladišče klaster kot strežnik.

Lahko dobim povrnitev?

+

Kontaktna podpora v 30 dneh od prvega nakupa, da zahtevate povračila. GPU strežniki še niso prodani, zato ni vključena nobena naročila GPU.

Bi radi pognali TensorFlow na GPU strežniku?

GPU zmogljivost je omejena. Povejte nam o svoji delovni obremenitvi in odgovorili bomo z razpoložljivostjo in cenami.