Paleisti TensorFlow ir Keras mokymo ir išvadų apie NVIDIA Tesla P40 (24 GB VRAM, Pascal architektūra). GPU serveriai dar nėra užsakomi; susisiekite su mumis, kad būtų pranešta, kai jie yra.
$ pip install tensorflow[and-cuda]
# Pavyzdžio įdiegimo komanda
TensorFlow yra "Google" atvirojo kodo mašinų mokymosi sistema. GPU serveryje "TensorFlow" vykdo savo operacijas GPU per CUDA.
TensorFlow naudoja GPU per CUDA kai diegiate atitikimo vairuotojas ir CUDA versija.
Sukurti modelius su Keras API virš GPU programinės sąsajos.
Stebėti mokymą su TensorBoard savo serveryje.
Sergė apmokyti modeliai su TensorFlow Servise.
TensorFlow can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. TensorFlow is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.
GPU serverius dar galima užsisakyti. Šiandien galite paleisti TensorFlow pagal reguliarų procesoriaus planą, kuriame jis veikia daug lėčiau nei GPU: SSH įjungti ir paleisti pip install tensorflow[and-cuda].
Mokymas VRAM dominuoja optimizatoriaus būsena plius aktyvacijos. Visas patikslinimas 7B LLM reikia maždaug 24-48 GB; LoRA / QLora tinka 8-16 GB.
Kainos GPU bus paskelbtos, kai GPU serveriai bus užsakyti. Jei norite, susisiekite su mumis, kai tai įvyks.
Taip. Kiekvienas VPS.org serveris ateina su visiška root prieiga, todėl jūs galite paleisti kitus įrankius kartu su TensorFlow serverio RAM ir saugojimo.
Kiekvienas VPS.org serveris ateina su pilna šaknis SSH prieigą, todėl jūs galite įdiegti tvarkyklės, bibliotekos ir TensorFlow, tačiau jums reikia.
Ne. Nėra serverio su CUDA darbo laiku arba NVIDIA tvarkykle, įdiegta, o GPU serveriai dar nėra prieinami užsisakyti. Jūs turite įdiegti versijas TensorFlow.
Taip. VPS.org serveriai yra nuolat virtualios mašinos, o ne efemeral incidentai: TensorFlow modeliai, konfigūracijos ir duomenys likti ant serverio SSD saugojimo, kol jūs juos ištrinti.
Laikyti serverio SSD darbo duomenis, kad būtų galima greitai pasiekti TensorFlow paleidimo metu, ir nukopijuoti baigtus artefaktus (svorius, kartas, įterpimus) į saugojimą išorėje, išorėje, VPS.org; vaizdai ir atsarginės kopijos lieka tame pačiame saugojimo klaselyje.
Galite atnaujinti bet kurį VPS.org serverį į didesnį planą iš valdymo pulto; jo dydis atnaujinamas, o jūsų TensorFlow įdiegimas atlieka perėjimus. GPU serverių dar nėra.
Taip. Atsarginės dalys yra apmokamas papildomas (dienos +30% plano kainos, saugomi 7 dienas; kas savaitę +20%, laikomi 28 dienas) ir vaizdai yra nemokamas, tai yra naudinga prieš ilgai TensorFlow bėgti. Abu likti ant to paties saugojimo klasterio kaip serveris.
Kontaktinė parama per 30 dienų nuo pirmojo pirkimo prašyti grąžinti. GPU serveriai dar nėra parduodami, todėl nėra GPU užsakymo.
GPU pajėgumas ribotas. Praneškite mums apie savo darbo krūvį ir atsakysime į tai, ar bus galima naudotis ir ar bus nustatyta kaina.