Kommer snart: NVIDIA Tesla P40, 24 GB VRAM

AI/ML-trænings-GPU-server

Fintune og tog modeller på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur). Bedst for LoRA finjustering og små modeller. GPU-servere er ikke bestilles endnu; kontakt os for at blive informeret, når de er.

$ pip install torch transformers datasets accelerate && python train.py
# Eksempel på installationskommando

Hvad er {navn} på en GPU VPS?

Træning AI modeller har brug for parallel compute at GPU'er giver. En GPU server giver dig en GPU til dine egne træning job.

AI Training på en VPS.org GPU- server

Hele GPU

En Tesla P40 med 24 GB VRAM, passeret igennem til din server og ikke delt.

Rammevalg

PyTorch, TensorFlow, JAX eller enhver ramme, der stadig understøtter Pascal GPU'er.

SSD- opbevaring

Hold datasæt, checkpoints og modelfiler på serverens SSD-lagring.

SSH- adgang

Fuld root adgang til at konfigurere træningsmiljøet.

Populære {navn} Brugstilfælde

Model til finjustering
Overfør læring
Brugerdefineret modeltræning
Hyperparameter tuning
Forbehandling af datasæt
LoRA-adaptere

Planlagte GPU-specifikationer

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Cores3,840
FP3212 TFLOPS
INT847 TOPS
Hukommelse BW346 GB/s
ArkitekturPascal (GP102)
GennemløbPCIe- gennemløb

Ofte stillede spørgsmål

Hvad er AI Training på en GPU VPS?

+

AI Training kan bruge en NVIDIA GPU til at fremskynde sit arbejde. VPS.org GPU-servere er ikke tilgængelige til bestilling endnu; kontakt os for at høre, når de er. AI Training er en generel GPU-accelereret arbejdsbyrde. Sørg for, at din software har CUDA-understøttelse, og at din driver / runtime versioner matcher arbejdsbyrden krav til AI Training.

Hvordan sætter jeg AI Training op på en GPU VPS?

+

GPU-servere er ikke tilgængelige for bestilling endnu. I dag kan du køre AI Training på en almindelig CPU-plan, hvor det virker langt langsommere end på en GPU: SSH i og køre pip install torch transformers datasets accelerate && python train.py.

Hvor meget VRAM skal jeg bruge til AI Training?

+

VRAM-behov for AI Training afhænger af model og batchstørrelse; tjek projektdokumentationen for aktuelle tal.

Hvor meget ville en GPU-server for AI Training koste?

+

GPU priser vil blive offentliggjort, når GPU-servere kan bestilles. Kontakt os, hvis du ønsker at høre, når det sker.

Kan jeg køre andre værktøjer sammen med AI Training?

+

Ja. Hver VPS.org server leveres med fuld root adgang, så du kan køre andre værktøjer sammen AI Training i serverens RAM og opbevaring.

Får jeg fuld rod på AI Training GPU VPS?

+

Hver VPS.org server leveres med fuld rod SSH adgang, så du kan installere drivere, biblioteker og AI Training dog du har brug for.

Er VPS.org præinstallere CUDA for AI Training?

+

Nej. Ingen server leveres med en CUDA runtime eller NVIDIA driver forudinstalleret, og GPU-servere er ikke tilgængelige til at bestille endnu. Du installerer versionerne AI Training har brug for dig selv.

Bliver min AI Training GPU VPS ved mellem sessioner?

+

Ja. VPS.org servere er vedvarende virtuelle maskiner, ikke efemerale tilfælde: AI Training modeller, configs og data forbliver på serverens SSD-lagring, indtil du sletter dem.

Hvor skal jeg gemme data for min AI Training arbejdsbyrde?

+

Hold arbejder data på serverens SSD for hurtig adgang under AI Training kører, og kopier færdige artefakter (vægte, generationer, indlejringer) til opbevaring uden for VPS.org; snapshots og backups forbliver på den samme lagerklynge.

Kan jeg skalere min AI Training GPU VPS senere?

+

Du kan opgradere enhver VPS.org server til en større plan fra kontrolpanelet; resize genstarter den og din AI Training installation bærer over. GPU-servere er ikke tilgængelige endnu.

Er sikkerhedskopier tilgængelige for min GPU VPS?

+

Ja. Backups er en betalt tilføjelse (daglig +30% af planens pris, holdt 7 dage; ugentligt +20%, holdt 28 dage) og snapshots er gratis, hvilket er nyttigt, før længe AI Training kører. Begge bo på samme lagerklynge som serveren.

Kan jeg få en refusion?

+

Kontakt support inden for 30 dage efter dit første køb for at anmode om en tilbagebetaling. GPU-servere er ikke solgt endnu, så der er ingen GPU-ordre involveret.

Vil du køre AI Training på en GPU-server?

GPU kapacitet er begrænset. Fortæl os om din arbejdsbyrde, og vi vil svare med tilgængelighed og prissætning.