Drīz nāk: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Palaist TensorFlow un Keras apmācību un izdarīt secinājumus par NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). GPU serveri vēl nav pasūtāmi; sazinieties ar mums, lai saņemtu paziņojumu, kad tie ir.

$ pip install tensorflow[and-cuda]
# Piemēru instalēšanas komanda

Kas ir {nosaukums} uz GPU VPS?

TensorFlow ir Google atvērtā pirmkoda mašīnmācīšanās sistēma. Uz GPU servera TensorFlow veic savas darbības GPU caur CUDA.

TensorFlow uz VPS.org GPU servera

GPU paātrinājums

TensorFlow izmanto GPU caur CUDA, kad jūs instalēt atbilstošu draiveri un CUDA versiju.

Keras

Veidot modeļus ar Keras API virs GPU aizmugures.

TensorBoard

Uzraudzīt apmācību ar TensorBoard uz savu serveri.

TF servings

Serve apmācīti modeļi ar TensorFlow Servising.

Populārs {nosaukums} Lietot gadījumus

Attēlu klasifikācija
Objektu noteikšana
Dabisko valodu apstrāde
Ieteikumu sistēmas
Laika rindu prognozēšana
Ražošanas ML cauruļvadi

Plānotās GPU specifikācijas

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA kodoli3,840
PP3212 TFLOPS
INT847 TOPS
Atmiņa BW346 GB/s
ArhitektūraPascal (GP102)
CaurlaidībaPCIe caurlaidība

Bieži uzdoti jautājumi

Kas ir TensorFlow uz GPU VPS?

+

TensorFlow can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. TensorFlow is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.

Kā izveidot TensorFlow GPU VPS?

+

GPU serveri vēl nav pieejami pasūtīt. Šodien jūs varat palaist TensorFlow uz regulāra CPU plāna, kur tas darbojas daudz lēnāk nekā GPU: SSH iekšā un palaist pip install tensorflow[and-cuda].

Cik daudz VRAM man vajag TensorFlow?

+

Mācības VRAM dominē optimizatora stāvoklī plus aktivācijas. Pilnīga 7B LLM regulēšana nepieciešama aptuveni 24 līdz 48 GB; LoRA / QLora ietilpst 8 līdz 16 GB.

Cik daudz GPU serveris maksā TensorFlow?

+

GPU tarifikācija tiks publicēta, kad GPU serveri varēs pasūtīt. Sazinieties ar mums, ja vēlaties dzirdēt, kad tas notiks.

Vai es varu palaist citus instrumentus līdzās TensorFlow?

+

Jā. Katrs VPS.org serveris nāk ar pilnu root piekļuvi, lai jūs varētu palaist citus rīkus blakus TensorFlow ietvaros servera RAM un glabāšanu.

Vai es saņemu pilnu sakni par TensorFlow GPU VPS?

+

Katrs VPS.org serveris nāk ar pilnu root SSH piekļuvi, lai jūs varētu instalēt draiveri, bibliotēkas un TensorFlow tomēr jums ir nepieciešams.

Vai VPS.org iepriekš instalēt CUDA priekš TensorFlow?

+

Nē. Neviens serveris nāk ar CUDA darba laiku vai NVIDIA draiveris instalēts, un GPU serveri nav pieejami, lai pasūtītu vēl. Jūs instalēt versijas TensorFlow ir nepieciešams pats.

Vai starp sesijām pastāv mans TensorFlow GPU VPS?

+

Jā. VPS.org serveri ir pastāvīga virtuālās mašīnas, nevis ephemmeral instances: TensorFlow modeļi, konfigurācijas un dati palikt uz servera SSD glabāšanas līdz jūs tos dzēst.

Kur man jāglabā dati par savu TensorFlow darba slodzi?

+

Saglabāt servera SSD darba datus ātrai piekļuvei TensorFlow paužu laikā, un kopēt pabeigtos artefaktus (svarus, paaudzes, iegultos datus) uz glabāšanu ārpus VPS.org; momentuzņēmumus un rezerves kopijas palikt uz tā paša datu glabāšanas klastera.

Vai es varu samazināt savu TensorFlow GPU VPS vēlāk?

+

Jūs varat uzlabot jebkuru VPS.org serveri uz lielāku plānu no vadības paneļa; mainot izmēru, tas tiek atjaunots, un jūsu TensorFlow instalācija pārpilda vairāk. GPU serveri vēl nav pieejami.

Vai ir pieejami dublējumi maniem GPU VPS?

+

Jā. Backups ir apmaksāts papildmaksa (dienas +30% no plāna cenas, saglabāts 7 dienas; iknedēļas +20%, saglabāts 28 dienas) un fotogrāfijām ir bezmaksas, kas ir noderīga, pirms ilgi TensorFlow iet. Abi palikt uz tā paša glabāšanas klasterī kā serveris.

Vai varu saņemt kompensāciju?

+

Kontaktu atbalsts 30 dienu laikā pēc pirmā pirkuma pieprasīt kompensāciju. GPU serveri vēl netiek pārdoti, tāpēc nav iesaistīts GPU pasūtījums.

Vai vēlaties palaist TensorFlow uz GPU servera?

GPU jauda ir ierobežota. Pastāsti mums par savu darba slodzi, un mēs atbildēsim ar pieejamību un cenu noteikšanu.