Snart: NVIDIA Tesla P40, 24 GB VRAM

AI/ML Utbildning GPU Server

Finjustera och träna modeller på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur). Bäst för LoRA finjustering och små modeller. GPU-servrar är ännu inte beställningsbara; kontakta oss för att bli underrättade när de är.

$ pip install torch transformers datasets accelerate && python train.py
# Exempel på installationskommando

Vad är {namn} på en GPU VPS?

Utbildning AI-modeller behöver parallell beräkning som GPUs ger. En GPU-server ger dig en GPU för dina egna utbildningsuppgifter.

AI Training på en GPU-server för VPS.org

Hela GPU

En Tesla P40 med 24 GB VRAM, passerade till din server och inte delade.

Ramval

PyTorch, TensorFlow, JAX eller något ramverk som fortfarande stöder Pascal GPUs.

SSD-lagring

Behåll datauppsättningar, kontrollpunkter och modellfiler på serverns SSD-lagring.

SSH-åtkomst

Full root-åtkomst för att konfigurera träningsmiljön.

Populärt {namn} Användningsfall

Modell finjustering
Överföringslärande
Anpassad modellutbildning
Inställning av hyperparameter
Datauppsättning förbehandling
LoRA-adaptrar

Planerade specifikationer för GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA- kärnor3,840
FP3212 TFLOPS
INT8 Ordförande47 TOPS
Minne BW346 GB/s
ArkitekturPascal (GP102)
GenomströmningGenomströmning av PCIe

Vanliga frågor

Vad är AI Training på en GPU VPS?

+

AI Training kan använda en NVIDIA GPU för att snabba upp sitt arbete. VPS.org GPU-servrar är inte tillgängliga för beställning ännu. Kontakta oss för att höra när de är. AI Training är en allmän GPU-accelererad arbetsbelastning. Se till att din programvara har stöd för CUDA och att dina drivrutins-/runtime-versioner matchar arbetsbelastningskraven för AI Training.

Hur sätter jag upp AI Training på en GPU VPS?

+

GPU- servrar är inte tillgängliga för beställning ännu. Idag kan du köra AI Training på en vanlig CPU- plan, där det fungerar mycket långsammare än på en GPU: SSH i och kör pip install torch transformers datasets accelerate && python train.py.

Hur mycket VRAM behöver jag för AI Training?

+

VRAM-behoven för AI Training beror på modellen och partistorleken; kontrollera projektdokumentationen för aktuella siffror.

Hur mycket skulle en GPU-server för AI Training kosta?

+

GPU-pris publiceras när GPU-servrar kan beställas. Kontakta oss om du vill höra när det händer.

Kan jag köra andra verktyg tillsammans med AI Training?

+

Ja. Varje VPS.org-server har full åtkomst till root, så att du kan köra andra verktyg tillsammans med AI Training inom serverns RAM-minne och lagring.

Får jag full rot på AI Training GPU VPS?

+

Varje VPS.org-server kommer med full åtkomst till roten SSH, så att du kan installera drivrutiner, bibliotek och AI Training hur du än behöver.

Förinstallerar VPS.org CUDA för AI Training?

+

Nej. Ingen server levereras med en CUDA-runtime eller NVIDIA-drivrutin förinstallerad, och GPU-servrar är inte tillgängliga för beställning ännu. Du installerar versionerna AI Training behöver dig själv.

Håller mina AI Training GPU-VPS kvar mellan sessionerna?

+

Ja. VPS.org-servrar är ihållande virtuella maskiner, inte efemära instanser: AI Training-modeller, konfigurationer och data stannar på serverns SSD-lagring tills du tar bort dem.

Var ska jag lagra data för min AI Training arbetsbelastning?

+

Fortsätt att arbeta data på serverns SSD för snabb åtkomst under AI Training körningar, och kopiera färdiga artefakter (vikter, generationer, inbäddningar) för att lagra utanför VPS.org; ögonblicksbilder och säkerhetskopior stannar på samma lagringskluster.

Kan jag skala min AI Training GPU VPS senare?

+

Du kan uppgradera vilken VPS.org-server som helst till en större plan från kontrollpanelen. Omstorleken startar om den och installationen av AI Training överförs. GPU-servrar är ännu inte tillgängliga.

Är säkerhetskopior tillgängliga för min GPU VPS?

+

Ja. Säkerhetskopiering är ett betalt tillägg (dagligen +30% av planens pris, som hålls 7 dagar; veckovis +20%, som hålls 28 dagar) och ögonblicksbilder är gratis, vilket är användbart innan långa AI Training körs. Båda stannar på samma lagringskluster som servern.

Kan jag få tillbaka pengarna?

+

Kontakta supporten inom 30 dagar efter ditt första köp för att begära återbetalning. GPU-servrar säljs inte ännu, så ingen GPU-beställning är inblandad.

Vill du köra AI Training på en GPU-server?

GPU-kapaciteten är begränsad. Berätta om din arbetsbelastning och vi svarar med tillgänglighet och prissättning.