Kommer snart: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Kør TensorFlow og Keras træning og konsekvens på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur). GPU-servere er ikke bestilles endnu; kontakt os for at blive informeret, når de er.

$ pip install tensorflow[and-cuda]
# Eksempel på installationskommando

Hvad er {navn} på en GPU VPS?

TensorFlow er Googles open source machine learning framework. På en GPU-server kører TensorFlow sine operationer på GPU'en gennem CUDA.

TensorFlow på en VPS.org GPU- server

GPU- acceleration

TensorFlow bruger GPU gennem CUDA, når du installerer en matchende driver og CUDA version.

Keras

Byg modeller med Keras API på toppen af GPU-motoren.

TensorBoard

Overvåg træning med TensorBoard på din egen server.

TF- tjeneste

Serverer trænede modeller med TensorFlow Servering.

Populære {navn} Brugstilfælde

Billedklassifikation
Objektdetektion
Behandling af naturligt sprog
Anbefalingssystemer
Tidsseriers prognoser
Produktion ML rørledninger

Planlagte GPU-specifikationer

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Cores3,840
FP3212 TFLOPS
INT847 TOPS
Hukommelse BW346 GB/s
ArkitekturPascal (GP102)
GennemløbPCIe- gennemløb

Ofte stillede spørgsmål

Hvad er TensorFlow på en GPU VPS?

+

TensorFlow kan bruge en NVIDIA GPU til at fremskynde sit arbejde. VPS.org GPU-servere er ikke tilgængelige til bestilling endnu; kontakt os for at høre, når de er. TensorFlow er en uddannelse / finjustering arbejdsbyrde. Planlæg for langvarige job: snapshot din VPS regelmæssigt og holde en kopi af trænede vægte uden for VPS.org.

Hvordan sætter jeg TensorFlow op på en GPU VPS?

+

GPU-servere er ikke tilgængelige for bestilling endnu. I dag kan du køre TensorFlow på en almindelig CPU-plan, hvor det virker langt langsommere end på en GPU: SSH i og køre pip install tensorflow[and-cuda].

Hvor meget VRAM skal jeg bruge til TensorFlow?

+

Træning VRAM domineres af optimeringsstat plus aktiveringer. Fuld finjustering af en 7B LLM behov omkring 24 til 48 GB; LoRA / QLoRA passer i 8 til 16 GB.

Hvor meget ville en GPU-server for TensorFlow koste?

+

GPU priser vil blive offentliggjort, når GPU-servere kan bestilles. Kontakt os, hvis du ønsker at høre, når det sker.

Kan jeg køre andre værktøjer sammen med TensorFlow?

+

Ja. Hver VPS.org server leveres med fuld root adgang, så du kan køre andre værktøjer sammen TensorFlow i serverens RAM og opbevaring.

Får jeg fuld rod på TensorFlow GPU VPS?

+

Hver VPS.org server leveres med fuld rod SSH adgang, så du kan installere drivere, biblioteker og TensorFlow dog du har brug for.

Er VPS.org præinstallere CUDA for TensorFlow?

+

Nej. Ingen server leveres med en CUDA runtime eller NVIDIA driver forudinstalleret, og GPU-servere er ikke tilgængelige til at bestille endnu. Du installerer versionerne TensorFlow har brug for dig selv.

Bliver min TensorFlow GPU VPS ved mellem sessioner?

+

Ja. VPS.org servere er vedvarende virtuelle maskiner, ikke efemerale tilfælde: TensorFlow modeller, configs og data forbliver på serverens SSD-lagring, indtil du sletter dem.

Hvor skal jeg gemme data for min TensorFlow arbejdsbyrde?

+

Hold arbejder data på serverens SSD for hurtig adgang under TensorFlow kører, og kopier færdige artefakter (vægte, generationer, indlejringer) til opbevaring uden for VPS.org; snapshots og backups forbliver på den samme lagerklynge.

Kan jeg skalere min TensorFlow GPU VPS senere?

+

Du kan opgradere enhver VPS.org server til en større plan fra kontrolpanelet; resize genstarter den og din TensorFlow installation bærer over. GPU-servere er ikke tilgængelige endnu.

Er sikkerhedskopier tilgængelige for min GPU VPS?

+

Ja. Backups er en betalt tilføjelse (daglig +30% af planens pris, holdt 7 dage; ugentligt +20%, holdt 28 dage) og snapshots er gratis, hvilket er nyttigt, før længe TensorFlow kører. Begge bo på samme lagerklynge som serveren.

Kan jeg få en refusion?

+

Kontakt support inden for 30 dage efter dit første køb for at anmode om en tilbagebetaling. GPU-servere er ikke solgt endnu, så der er ingen GPU-ordre involveret.

Vil du køre TensorFlow på en GPU-server?

GPU kapacitet er begrænset. Fortæl os om din arbejdsbyrde, og vi vil svare med tilgængelighed og prissætning.