Snart: NVIDIA Tesla P40, 24 GB VRAM

PyTorch GPU VPS

Tåga och kör PyTorch-modeller på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur), med full root-åtkomst. GPU-servrar är ännu inte beställas; kontakta oss för att bli underrättade när de är.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Exempel på installationskommando

Vad är {namn} på en GPU VPS?

PyTorch är en allmänt använd djupinlärning ram. En GPU-server kör PyTorch utbildning och slutsatser på GPU, som är mycket snabbare än på en CPU för de flesta modeller.

PyTorch på en GPU-server för VPS.org

Installera din CUDA-stacken

Du installerar NVIDIA-drivrutinen, CUDA och PyTorch-bygget du behöver. Kontrollera att din PyTorch-bygge fortfarande stöder Pascal GPUs (kompilera kapacitet 6.1).

24 GB VRAM

Rum för små och medelstora modeller, LoRA finjustering och måttliga satsstorlekar.

Jupiter

Kör Jupyter bärbara datorer på servern för interaktivt arbete på GPU.

Fullständig åtkomst till roten

Anpassa miljön exakt som ditt projekt behöver.

Populärt {namn} Användningsfall

Utbildning i neurala nätverk
Modeller för datorseende
NLP- och transformatormodeller
Generativ AI-forskning
Modell finjustering
Tillverkningsslut

Planerade specifikationer för GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA- kärnor3,840
FP3212 TFLOPS
INT8 Ordförande47 TOPS
Minne BW346 GB/s
ArkitekturPascal (GP102)
GenomströmningGenomströmning av PCIe

Vanliga frågor

Vad är PyTorch på en GPU VPS?

+

PyTorch kan använda en NVIDIA GPU för att snabba upp sitt arbete. VPS.org GPU-servrar är inte tillgängliga för beställning ännu, kontakta oss för att höra när de är. PyTorch är en utbildning / finjusterande arbetsbelastning. Planera för långvariga jobb: ögonblicksbilda din VPS regelbundet och spara en kopia av tränade vikter utanför VPS.org.

Hur sätter jag upp PyTorch på en GPU VPS?

+

GPU- servrar är inte tillgängliga för beställning ännu. Idag kan du köra PyTorch på en vanlig CPU- plan, där det fungerar mycket långsammare än på en GPU: SSH i och kör pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.

Hur mycket VRAM behöver jag för PyTorch?

+

Utbildning VRAM domineras av optimizer state plus aktiveringar. Full finjustering av en 7B LLM behöver ungefär 24 till 48 GB; LoRA / QLoRA passar i 8 till 16 GB.

Hur mycket skulle en GPU-server för PyTorch kosta?

+

GPU-pris publiceras när GPU-servrar kan beställas. Kontakta oss om du vill höra när det händer.

Kan jag köra andra verktyg tillsammans med PyTorch?

+

Ja. Varje VPS.org-server har full åtkomst till root, så att du kan köra andra verktyg tillsammans med PyTorch inom serverns RAM-minne och lagring.

Får jag full rot på PyTorch GPU VPS?

+

Varje VPS.org-server kommer med full åtkomst till roten SSH, så att du kan installera drivrutiner, bibliotek och PyTorch hur du än behöver.

Förinstallerar VPS.org CUDA för PyTorch?

+

Nej. Ingen server levereras med en CUDA-runtime eller NVIDIA-drivrutin förinstallerad, och GPU-servrar är inte tillgängliga för beställning ännu. Du installerar versionerna PyTorch behöver dig själv.

Håller mina PyTorch GPU-VPS kvar mellan sessionerna?

+

Ja. VPS.org-servrar är ihållande virtuella maskiner, inte efemära instanser: PyTorch-modeller, konfigurationer och data stannar på serverns SSD-lagring tills du tar bort dem.

Var ska jag lagra data för min PyTorch arbetsbelastning?

+

Fortsätt att arbeta data på serverns SSD för snabb åtkomst under PyTorch körningar, och kopiera färdiga artefakter (vikter, generationer, inbäddningar) för att lagra utanför VPS.org; ögonblicksbilder och säkerhetskopior stannar på samma lagringskluster.

Kan jag skala min PyTorch GPU VPS senare?

+

Du kan uppgradera vilken VPS.org-server som helst till en större plan från kontrollpanelen. Omstorleken startar om den och installationen av PyTorch överförs. GPU-servrar är ännu inte tillgängliga.

Är säkerhetskopior tillgängliga för min GPU VPS?

+

Ja. Säkerhetskopiering är ett betalt tillägg (dagligen +30% av planens pris, som hålls 7 dagar; veckovis +20%, som hålls 28 dagar) och ögonblicksbilder är gratis, vilket är användbart innan långa PyTorch körs. Båda stannar på samma lagringskluster som servern.

Kan jag få tillbaka pengarna?

+

Kontakta supporten inom 30 dagar efter ditt första köp för att begära återbetalning. GPU-servrar säljs inte ännu, så ingen GPU-beställning är inblandad.

Vill du köra PyTorch på en GPU-server?

GPU-kapaciteten är begränsad. Berätta om din arbetsbelastning och vi svarar med tillgänglighet och prissättning.