Binnenkort te zien: NVIDIA Tesla P40, 24 GB VRAM

AI/ML Training GPU Server

Fine-tune en treinmodellen op een NVIDIA Tesla P40 (24 GB VRAM, Pascal architectuur). Beste voor LoRA fine-tuning en kleine modellen. GPU servers zijn nog niet te bestellen; neem contact met ons op om geïnformeerd te worden wanneer ze zijn.

$ pip install torch transformers datasets accelerate && python train.py
# Voorbeeld installatiecommando

Wat is {naam} op een GPU VPS?

Trainings-AI-modellen moeten parallel berekend worden dat GPU's bieden. Een GPU-server geeft je één GPU voor je eigen trainingstaken.

AI Training op een VPS.org GPU-server

Gehele GPU

Eén Tesla P40 met 24 GB VRAM, doorgegeven aan uw server en niet gedeeld.

Kaderkeuze

PyTorch, TensorFlow, JAX of elk kader dat nog steeds Pascal GPU's ondersteunt.

SSD-opslag

Bewaar datasets, controlepunten en modelbestanden op de SSD-opslag van de server.

SSH-toegang

Volledige root toegang tot de training omgeving configureren.

Popular AI Training Cases gebruiken

Model voor de fine-tuning
Transfer learning
Aangepaste modelopleiding
Hyperparameterstemming
Voorverwerking van gegevens
LoRA-adapters

Geplande GPU-specificaties

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA-kernen3,840
KP3212 TFLOPS
INT847 TOPS
Geheugen BW346 GB/s
ArchitectuurPascal (GP102)
DoorvoerenBare-metal PCIe

Veelgestelde vragen

Wat is AI Training op een GPU VPS?

+

AI Training kan een NVIDIA GPU gebruiken om zijn werk te versnellen. VPS.org GPU servers zijn nog niet beschikbaar om te bestellen; neem contact met ons op om te horen wanneer ze zijn. AI Training is een algemene GPU-versnelde werklast. Zorg ervoor dat uw software CUDA ondersteuning heeft en dat uw driver / runtime versies overeenkomen met de werkbelasting eisen voor AI Training.

Hoe kan ik AI Training instellen op een GPU VPS?

+

GPU-servers zijn nog niet beschikbaar om te bestellen. Vandaag kunt u AI Training uitvoeren op een regelmatig CPU-plan, waar het veel langzamer werkt dan op een GPU: SSH in en draaien pip install torch transformers datasets accelerate && python train.py.

Hoeveel VRAM heb ik nodig voor AI Training?

+

VRAM-behoeften voor AI Training zijn afhankelijk van het model en de batchgrootte; controleer de projectdocumentatie voor de huidige cijfers.

Hoeveel zou een GPU-server voor AI Training kosten?

+

GPU-prijzen worden gepubliceerd wanneer GPU-servers kunnen worden besteld. Neem contact met ons op als u wilt horen wanneer dat gebeurt.

Kan ik andere tools naast AI Training draaien?

+

Ja. Elke VPS.org server wordt geleverd met volledige root toegang, zodat u andere tools kunt draaien naast AI Training in het RAM-geheugen en opslag van de server.

Krijg ik volledige root op de AI Training GPU VPS?

+

Elke VPS.org server wordt geleverd met volledige root SSH toegang, zodat u kunt drivers, bibliotheken en AI Training te installeren, zoals u nodig hebt.

Heeft VPS.org CUDA voor AI Training voorgeinstalleerd?

+

Nee. Er wordt geen server meegeleverd met een CUDA runtime of NVIDIA driver vooraf geïnstalleerd, en GPU servers zijn nog niet beschikbaar om te bestellen. U installeert de versies AI Training heeft u zelf nodig.

Houdt mijn AI Training GPU VPS aan tussen sessies?

+

VPS.org servers zijn aanhoudende virtuele machines, niet efemerale instanties: AI Training modellen, configuraties en gegevens blijven op de SSD-opslag van de server totdat u ze verwijdert.

Waar moet ik gegevens opslaan voor mijn AI Training werklast?

+

Blijf werken aan gegevens over de SSD van de server voor snelle toegang tijdens AI Training-runs, en kopieer voltooide artefacten (gewichten, generaties, inbeddingen) naar opslag buiten VPS.org; snapshots en back-ups blijven op hetzelfde opslagcluster.

Kan ik mijn AI Training GPU VPS later opschalen?

+

U kunt elke VPS.org-server upgraden naar een groter plan vanuit het bedieningspaneel; de grootte van de server herstart het en uw AI Training installatie draagt over. GPU-servers zijn nog niet beschikbaar.

Zijn er back-ups beschikbaar voor mijn GPU VPS?

+

Ja. Back-ups zijn een betaalde add-on (dagelijks +30% van de planprijs, 7 dagen gehouden; wekelijks +20%, 28 dagen gehouden) en snapshots zijn gratis, die nuttig is voordat lange AI Training draait. Beide blijven op dezelfde opslag cluster als de server.

Kan ik een terugbetaling krijgen?

+

Neem binnen 30 dagen na uw eerste aankoop contact op met ondersteuning om een terugbetaling te vragen. GPU-servers worden nog niet verkocht, dus er is geen GPU-order bij betrokken.

Wil je AI Training uitvoeren op een GPU-server?

GPU capaciteit is beperkt. Vertel ons over uw werklast en we zullen antwoorden met beschikbaarheid en prijzen.