Ekzekuto trainimin dhe konkluzionin e TensorFlow dhe Keras në një NVIDIA Tesla P40 (24 GB VRAM, arkitekturë Pascal). Serverët e GPU nuk janë ende të porositshëm; kontakto me ne për të marrë njoftimin kur të jenë.
$ pip install tensorflow[and-cuda]
# Shembull i komandës së instalimit
TensorFlow është kuadri i Google për mësimdhënie automatike me burim të hapur. Në një server GPU, TensorFlow kryen operacionet e tij në GPU nëpërmjet CUDA.
TensorFlow përdor GPU nëpërmjet CUDA pasi instaloni një driver të përshtatshëm dhe versionin CUDA.
Ndërto modele me API Keras në krye të backend GPU.
Monitoro trainimin me TensorBoard në serverin tënd.
Shërbe modele të trajnuara me TensorFlow Serving.
TensorFlow mund të përdorë një GPU NVIDIA për të shpejtuar punën e vet. VPS.org serverët GPU nuk janë ende në dispozicion për porosi; kontakto me ne për të dëgjuar kur janë. TensorFlow është një ngarkim trainimi / rregullimi i hollësishëm. Plani për punët e gjatë: bëj foto të VPS-it tënd rregullisht dhe mbaj një kopje të peshës së trainuar jashtë VPS.org.
Serverët GPU nuk janë ende në dispozicion për porosi. Sot mund të përdorni TensorFlow në një plan të zakonshëm CPU, ku punon shumë më ngadalë se në një GPU: SSH në dhe pip install tensorflow[and-cuda].
Trainimi i VRAM dominohet nga gjendja e optimizuesit plus aktivizimet. Për rregullimin e plotë të një 7B LLM nevojiten rreth 24 deri 48 GB; LoRA / QLoRA përshtatet në 8 deri 16 GB.
Çmimi i GPU do të publikohet kur serverat GPU të jenë të porositur. Kontaktoni me ne nëse dëshironi të dëgjoni kur të ndodhë kjo.
Çdo server VPS.org ka hyrje të plotë root, kështu që mund të përdorësh instrumente të tjera bashkë me TensorFlow brenda RAM-it dhe depozitimit të serverit.
Çdo server VPS.org vjen me hyrje të plotë root SSH, kështu që mund të instaloni driverët, libraritë dhe TensorFlow si të doni.
Jo. Asnjë server nuk vjen me një runtime CUDA apo driver NVIDIA të parainstaluar, dhe serverat GPU nuk janë ende në dispozicion për porosi. Ju instaloni vetë versionet që TensorFlow ka nevojë.
Po. Serverat VPS.org janë makina virtuale të përhershme, jo raste të shkurtra: modelet TensorFlow, konfigurimet dhe të dhënat mbeten në SSD të serverit deri sa ti eleminosh ato.
Mbaj të dhënat e punës në SSD të serverit për hyrje të shpejtë gjatë TensorFlow, dhe kopjo artifaktet e përfunduara (masa, gjenerata, ndërlidhje) në depozitim jashtë VPS.org; fotot dhe backupet qëndrojnë në të njëjtin grup depozitimi.
Mund të përmirësoni çdo server VPS.org në një plan më të madh nga paneli i kontrollit; ripërmarrje e rinis atë dhe instalimi TensorFlow i juaj merr mbi. Serverët GPU nuk janë ende në dispozicion.
Po. Backup-et janë një shtesë e paguar (përditë +30% e çmimit të planit, mbajtur 7 ditë; javor +20%, mbajtur 28 ditë) dhe snapshot-et janë pa pagesë, që është e dobishme para se TensorFlow të ecë gjatë. Të dyja qëndrojnë në të njëjtin cluster të ruajtjes si serveri.
Kontakto ndihmën brenda 30 ditëve nga blerja e parë për të kërkuar një kthim parash. Serverët GPU nuk janë shitur ende, kështu që nuk ka porosi GPU.
Kapaciteti i GPU është i kufizuar. Na tregoni rreth ngarkesave tuaja të punës dhe do t'ju përgjigjemi me disponueshmërinë dhe çmimin.