Netrukus: NVIDIA Tesla P40, 24 GB VRAM

AI/ML mokymo GPU serveris

NVIDIA Tesla P40 (24 GB VRAM, Pascal architektūra) treniruoklių ir traukinių modelių. Geriausias LoRA koreguojamiesiems ir mažiems modeliams. GPU serveriai dar neužsakomi; susisiekite su mumis, kai jie bus informuoti.

$ pip install torch transformers datasets accelerate && python train.py
# Pavyzdžio įdiegimo komanda

Kas yra {pavadinimas} ant GPU VPS?

Mokymas AI modeliai turi lygiagrečiai apskaičiuoti, kad GPU. GPU serveris suteikia jums vieną GPU savo mokymo darbams.

AI Training ant VPS.org GPU serverio

Visas GPU

Vienas Tesla P40 su 24 GB VRAM, perdavė į jūsų serverį ir nebendrino.

Bendrosios nuostatos

PyTorch, TensorFlow, JAX arba bet kokia sistema, kuri vis dar palaiko Pascal GPU.

SSD saugykla

Duomenų rinkinius, kontrolinės taškus ir modelių failus laikyti serverio SSD saugykloje.

SSH prieiga

Pilna root prieiga konfigūruoti mokymo aplinką.

Populiarūs {vardas} Naudoti bylas

Pavyzdinis patikslinimas
Mokymasis apie perkėlimą
Individualūs modelių mokymai
Hiperparametrų reguliavimas
Pirminis duomenų rinkinio apdorojimas
LoRA adapteriai

Planuojamos GPU specifikacijos

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA branduoliai3,840
32BP12 TFLOPS
INT847 TOPS
Atmintis BW346 GB/s
ArchitektūraPascal (GP102)
PraleidimasPKI praleidimas per

Dažnai užduodami klausimai

Kas yra AI Training su GPU VPS?

+

AI Training can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. AI Training is a general GPU-accelerated workload. Make sure your software has CUDA support and that your driver / runtime versions match the workload requirements for AI Training.

Kaip sukurti AI Training GPU VPS?

+

GPU serverius dar galima užsisakyti. Šiandien galite paleisti AI Training pagal reguliarų procesoriaus planą, kuriame jis veikia daug lėčiau nei GPU: SSH įjungti ir paleisti pip install torch transformers datasets accelerate && python train.py.

Kiek VRAM man reikia AI Training?

+

VRAM poreikiai AI Training priklauso nuo modelio ir partijos dydžio; patikrinkite projekto dokumentus esamiems duomenims.

Kiek kainuotų GPU serveris AI Training?

+

Kainos GPU bus paskelbtos, kai GPU serveriai bus užsakyti. Jei norite, susisiekite su mumis, kai tai įvyks.

Ar galiu paleisti kitus įrankius šalia AI Training?

+

Taip. Kiekvienas VPS.org serveris ateina su visiška root prieiga, todėl jūs galite paleisti kitus įrankius kartu su AI Training serverio RAM ir saugojimo.

Ar aš gausiu visą root AI Training GPU VPS?

+

Kiekvienas VPS.org serveris ateina su pilna šaknis SSH prieigą, todėl jūs galite įdiegti tvarkyklės, bibliotekos ir AI Training, tačiau jums reikia.

Ar VPS.org iš anksto įdiegė CUDA, skirta AI Training?

+

Ne. Nėra serverio su CUDA darbo laiku arba NVIDIA tvarkykle, įdiegta, o GPU serveriai dar nėra prieinami užsisakyti. Jūs turite įdiegti versijas AI Training.

Ar tarp seansų išlieka mano AI Training GPU VPS?

+

Taip. VPS.org serveriai yra nuolat virtualios mašinos, o ne efemeral incidentai: AI Training modeliai, konfigūracijos ir duomenys likti ant serverio SSD saugojimo, kol jūs juos ištrinti.

Kur saugoti duomenis už savo AI Training darbo krūvį?

+

Laikyti serverio SSD darbo duomenis, kad būtų galima greitai pasiekti AI Training paleidimo metu, ir nukopijuoti baigtus artefaktus (svorius, kartas, įterpimus) į saugojimą išorėje, išorėje, VPS.org; vaizdai ir atsarginės kopijos lieka tame pačiame saugojimo klaselyje.

Ar vėliau galiu sumažinti savo AI Training GPU VPS?

+

Galite atnaujinti bet kurį VPS.org serverį į didesnį planą iš valdymo pulto; jo dydis atnaujinamas, o jūsų AI Training įdiegimas atlieka perėjimus. GPU serverių dar nėra.

Ar galima naudoti atsargines kopijas mano GPU VPS?

+

Taip. Atsarginės dalys yra apmokamas papildomas (dienos +30% plano kainos, saugomi 7 dienas; kas savaitę +20%, laikomi 28 dienas) ir vaizdai yra nemokamas, tai yra naudinga prieš ilgai AI Training bėgti. Abu likti ant to paties saugojimo klasterio kaip serveris.

Ar galiu gauti pinigų?

+

Kontaktinė parama per 30 dienų nuo pirmojo pirkimo prašyti grąžinti. GPU serveriai dar nėra parduodami, todėl nėra GPU užsakymo.

Norite paleisti AI Training GPU serveryje?

GPU pajėgumas ribotas. Praneškite mums apie savo darbo krūvį ir atsakysime į tai, ar bus galima naudotis ir ar bus nustatyta kaina.