Voer TensorFlow en Keras training en gevolgtrekkingen uit op een NVIDIA Tesla P40 (24 GB VRAM, Pascal architectuur). GPU servers zijn nog niet te bestellen; neem contact met ons op om op de hoogte te worden gesteld wanneer ze dat zijn.
$ pip install tensorflow[and-cuda]
# Voorbeeld installatiecommando
TensorFlow is het open-source systeem learning framework van Google. Op een GPU-server draait TensorFlow zijn activiteiten op de GPU via CUDA.
TensorFlow gebruikt de GPU via CUDA zodra u een bijpassende driver en CUDA versie installeert.
Bouw modellen met de Keras API bovenop de GPU backend.
Monitor training met TensorBoard op uw eigen server.
Serveer getrainde modellen met TensorFlow Serving.
TensorFlow kan een NVIDIA GPU gebruiken om zijn werk te versnellen. VPS.org GPU servers zijn nog niet beschikbaar om te bestellen; neem contact met ons op om te horen wanneer ze zijn. TensorFlow is een training / fine-tuning werklast. Plan voor lang lopende jobs: snapshot uw VPS regelmatig en houd een kopie van getrainde gewichten buiten VPS.org.
GPU-servers zijn nog niet beschikbaar om te bestellen. Vandaag kunt u TensorFlow uitvoeren op een regelmatig CPU-plan, waar het veel langzamer werkt dan op een GPU: SSH in en draaien pip install tensorflow[and-cuda].
Training VRAM wordt gedomineerd door de optimalisatiestaat plus activeringen. Volledige fine-tuning van een 7B LLM heeft ongeveer 24 tot 48 GB nodig; LoRA / QLoRA past in 8 tot 16 GB.
GPU-prijzen worden gepubliceerd wanneer GPU-servers kunnen worden besteld. Neem contact met ons op als u wilt horen wanneer dat gebeurt.
Ja. Elke VPS.org server wordt geleverd met volledige root toegang, zodat u andere tools kunt draaien naast TensorFlow in het RAM-geheugen en opslag van de server.
Elke VPS.org server wordt geleverd met volledige root SSH toegang, zodat u kunt drivers, bibliotheken en TensorFlow te installeren, zoals u nodig hebt.
Nee. Er wordt geen server meegeleverd met een CUDA runtime of NVIDIA driver vooraf geïnstalleerd, en GPU servers zijn nog niet beschikbaar om te bestellen. U installeert de versies TensorFlow heeft u zelf nodig.
VPS.org servers zijn aanhoudende virtuele machines, niet efemerale instanties: TensorFlow modellen, configuraties en gegevens blijven op de SSD-opslag van de server totdat u ze verwijdert.
Blijf werken aan gegevens over de SSD van de server voor snelle toegang tijdens TensorFlow-runs, en kopieer voltooide artefacten (gewichten, generaties, inbeddingen) naar opslag buiten VPS.org; snapshots en back-ups blijven op hetzelfde opslagcluster.
U kunt elke VPS.org-server upgraden naar een groter plan vanuit het bedieningspaneel; de grootte van de server herstart het en uw TensorFlow installatie draagt over. GPU-servers zijn nog niet beschikbaar.
Ja. Back-ups zijn een betaalde add-on (dagelijks +30% van de planprijs, 7 dagen gehouden; wekelijks +20%, 28 dagen gehouden) en snapshots zijn gratis, die nuttig is voordat lange TensorFlow draait. Beide blijven op dezelfde opslag cluster als de server.
Neem binnen 30 dagen na uw eerste aankoop contact op met ondersteuning om een terugbetaling te vragen. GPU-servers worden nog niet verkocht, dus er is geen GPU-order bij betrokken.
GPU capaciteit is beperkt. Vertel ons over uw werklast en we zullen antwoorden met beschikbaarheid en prijzen.