Snart: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Kör TensorFlow och Keras utbildning och slutsatser på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur). GPU-servrar är ännu inte beställas; kontakta oss för att bli underrättade när de är.

$ pip install tensorflow[and-cuda]
# Exempel på installationskommando

Vad är {namn} på en GPU VPS?

TensorFlow är Googles ramverk för lärande av maskiner med öppen källkod. På en GPU-server kör TensorFlow sin verksamhet på GPU via CUDA.

TensorFlow på en GPU-server för VPS.org

GPU-acceleration

TensorFlow använder GPU via CUDA när du installerar en matchande drivrutin och CUDA-version.

Keras Ordförande

Bygg modeller med Keras API ovanpå GPU-gränssnittet.

TensorBoard Ordförande

Övervaka träningen med TensorBoard på din egen server.

TF-tjänster

Servera utbildade modeller med TensorFlow Serving.

Populärt {namn} Användningsfall

Bildklassificering
Objektdetektering
Behandling av naturligt språk
Rekommendationssystem
Tidsserieprognoser
Produktion ML rörledningar

Planerade specifikationer för GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA- kärnor3,840
FP3212 TFLOPS
INT8 Ordförande47 TOPS
Minne BW346 GB/s
ArkitekturPascal (GP102)
GenomströmningGenomströmning av PCIe

Vanliga frågor

Vad är TensorFlow på en GPU VPS?

+

TensorFlow kan använda en NVIDIA GPU för att snabba upp sitt arbete. VPS.org GPU-servrar är inte tillgängliga för beställning ännu, kontakta oss för att höra när de är. TensorFlow är en utbildning / finjusterande arbetsbelastning. Planera för långvariga jobb: ögonblicksbilda din VPS regelbundet och spara en kopia av tränade vikter utanför VPS.org.

Hur sätter jag upp TensorFlow på en GPU VPS?

+

GPU- servrar är inte tillgängliga för beställning ännu. Idag kan du köra TensorFlow på en vanlig CPU- plan, där det fungerar mycket långsammare än på en GPU: SSH i och kör pip install tensorflow[and-cuda].

Hur mycket VRAM behöver jag för TensorFlow?

+

Utbildning VRAM domineras av optimizer state plus aktiveringar. Full finjustering av en 7B LLM behöver ungefär 24 till 48 GB; LoRA / QLoRA passar i 8 till 16 GB.

Hur mycket skulle en GPU-server för TensorFlow kosta?

+

GPU-pris publiceras när GPU-servrar kan beställas. Kontakta oss om du vill höra när det händer.

Kan jag köra andra verktyg tillsammans med TensorFlow?

+

Ja. Varje VPS.org-server har full åtkomst till root, så att du kan köra andra verktyg tillsammans med TensorFlow inom serverns RAM-minne och lagring.

Får jag full rot på TensorFlow GPU VPS?

+

Varje VPS.org-server kommer med full åtkomst till roten SSH, så att du kan installera drivrutiner, bibliotek och TensorFlow hur du än behöver.

Förinstallerar VPS.org CUDA för TensorFlow?

+

Nej. Ingen server levereras med en CUDA-runtime eller NVIDIA-drivrutin förinstallerad, och GPU-servrar är inte tillgängliga för beställning ännu. Du installerar versionerna TensorFlow behöver dig själv.

Håller mina TensorFlow GPU-VPS kvar mellan sessionerna?

+

Ja. VPS.org-servrar är ihållande virtuella maskiner, inte efemära instanser: TensorFlow-modeller, konfigurationer och data stannar på serverns SSD-lagring tills du tar bort dem.

Var ska jag lagra data för min TensorFlow arbetsbelastning?

+

Fortsätt att arbeta data på serverns SSD för snabb åtkomst under TensorFlow körningar, och kopiera färdiga artefakter (vikter, generationer, inbäddningar) för att lagra utanför VPS.org; ögonblicksbilder och säkerhetskopior stannar på samma lagringskluster.

Kan jag skala min TensorFlow GPU VPS senare?

+

Du kan uppgradera vilken VPS.org-server som helst till en större plan från kontrollpanelen. Omstorleken startar om den och installationen av TensorFlow överförs. GPU-servrar är ännu inte tillgängliga.

Är säkerhetskopior tillgängliga för min GPU VPS?

+

Ja. Säkerhetskopiering är ett betalt tillägg (dagligen +30% av planens pris, som hålls 7 dagar; veckovis +20%, som hålls 28 dagar) och ögonblicksbilder är gratis, vilket är användbart innan långa TensorFlow körs. Båda stannar på samma lagringskluster som servern.

Kan jag få tillbaka pengarna?

+

Kontakta supporten inom 30 dagar efter ditt första köp för att begära återbetalning. GPU-servrar säljs inte ännu, så ingen GPU-beställning är inblandad.

Vill du köra TensorFlow på en GPU-server?

GPU-kapaciteten är begränsad. Berätta om din arbetsbelastning och vi svarar med tillgänglighet och prissättning.