Tulossa: NVIDIA Tesla P40, 24 Gt VRAM

TensorFlow GPU VPS

Suorita TensorFlow- ja Keras-koulutus ja -inferenssi NVIDIA Tesla P40 (24 GB VRAM, Pascal) -arkkitehtuurin avulla. GPU-palvelimet eivät ole vielä tilattavissa, ota yhteyttä, jotta niistä ilmoitetaan.

$ pip install tensorflow[and-cuda]
# Esimerkkiasennuskomento

Mitä {nimi} on GPU:n VPS:ssä?

TensorFlow on Googlen avoimen lähdekoodin koneoppimisen kehys. GPU-palvelimella TensorFlow pyörittää GPU:n toimintoja CUDA:n kautta.

TensorFlow VPS.org GPU-palvelimella

GPU-kiihdytys

TensorFlow käyttää GPU:ta CUDAn kautta, kun asentaa vastaavan ajurin ja CUDA-version.

Keras

Rakenna mallit, joissa on Kerasin API GPU-taustaosan päälle.

TensorBoard

Seuraa harjoittelua omalla palvelimellasi TensorBoardin kanssa.

TF-palvelu

Tarjoile koulutettuja malleja TensorFlow Serve -palvelulla.

Suosittuja {nimi} Käytä tapauksia

Kuvan luokittelu
Objektinhavaitseminen
Luonnollinen kielenkäsittely
Suositusjärjestelmät
Aikasarjojen ennustaminen
Tuotanto ML-putkistot

Suunnitellut GPU-erittelyt

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA-ytimet3,840
FP3212 TFLOPS
INT847 TOPS
Muisti BW346 GB/s
ArkkitehtuuriPascal (GP102)
LäpikulkuPCI:n läpikulku

Usein kysyttyjä kysymyksiä

Mitä TensorFlow on GPU:n VPS:ssä?

+

TensorFlow can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. TensorFlow is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.

Miten pystytän TensorFlow GPU:n VPS:n?

+

GPU-palvelimia ei ole vielä tilattavissa. Tänään voit ajaa TensorFlow-suoritinta tavallisella CPU-ohjelmalla, jossa se toimii paljon hitaammin kuin GPU-palvelimella: SSH-ohjausta ja pip install tensorflow[and-cuda]-ohjausta.

Kuinka paljon VRAM-muistia tarvitsen TensorFlow:aan?

+

Harjoitusvakautusjärjestelmää hallitsevat optimointitila sekä aktivaatiot. 7B LLM:n täydellinen hienosäätö tarvitsee noin 24-48 GB:n taajuuksia, LoRA / QLORA sopii 8-16 GB:n taajuuksiin.

Paljonko GPU-palvelin maksaisi TensorFlow:lle?

+

GPU-hinnoittelu julkaistaan, kun GPU-palvelimet voidaan tilata. Ota yhteyttä, jos haluat kuulla, milloin se tapahtuu.

Voinko käyttää muita työkaluja TensorFlow:n rinnalla?

+

Kyllä. Jokaisessa VPS.org-palvelimessa on täysi juurikäyttö, joten voit käyttää muita työkaluja TensorFlow-palvelimen RAM-muistin ja tallennustilan rinnalla.

Onko TensorFlow GPU:n VPS täysillä mukana?

+

Jokainen VPS.org-palvelin sisältää SSH-järjestelmän, joten voit asentaa ajurit, kirjastot ja TensorFlow:n, mitä tarvitset.

Asentaako VPS.org CUDA-järjestelmän TensorFlow:lle?

+

Ei. Ei serveriä, jossa on CUDA-ajoaika tai NVIDIA-ajuri valmiiksi asennettuna, eikä GPU-palvelimia ole vielä tilattavissa. Asennat versiot TensorFlow, joita tarvitset itse.

Kestääkö TensorFlow GPU VPS:ni istuntojen välillä?

+

Kyllä. VPS.org-palvelimet ovat pysyviä virtuaalisia koneita, eivät ohimeneviä tapauksia: TensorFlow-malleja, konfiguraatioita ja dataa säilytetään palvelimen SSD-tallennustilassa, kunnes ne poistetaan.

Mihin minun pitäisi tallentaa tietoja TensorFlow työmäärääni varten?

+

Jatka palvelimen SSD-tietojen käsittelyä, jotta pääset nopeasti käsiksi TensorFlow-ajojen aikana, ja kopioi valmiita esineitä (painoja, sukupolvia, upotuksia) VPS.org-järjestelmän ulkopuolelle; kuvakaappaukset ja varmuuskopiot pysyvät samassa tallennusjoukossa.

Voinko skaalata TensorFlow GPU VPS:ni myöhemmin?

+

Voit päivittää minkä tahansa VPS.org-palvelimen suuremmaksi suunnitelmaksi ohjauspaneelista; kokomuutos käynnistää sen uudelleen ja TensorFlow-asennussarjasi siirtyy eteenpäin. GPU-palvelimia ei ole vielä saatavilla.

Ovatko varmuuskopiot saatavilla GPU VPS:ään?

+

Kyllä. Apujoukot ovat maksullinen lisäosa (päivittäin +30 % suunnitelman hinnasta, pidetään 7 päivää; viikoittain +20 %, pidetään 28 päivää) ja kuvakaappaukset ovat ilmaisia, mikä on hyödyllistä ennen kuin TensorFlow kulkee. Molemmat pysyvät samassa säilytysjoukossa kuin palvelin.

Saanko takaisin?

+

Ota yhteyttä tukeen 30 päivän kuluessa ensimmäisestä ostoksestasi. GPU-palvelimia ei ole vielä myyty, joten GPU-tilaus ei ole mukana.

Want to Run TensorFlow on a GPU Server?

GPU:n kapasiteetti on rajallinen. Kerro työmäärästäsi, niin vastaamme hintaan ja käytettävyyteen.