Tulossa: NVIDIA Tesla P40, 24 Gt VRAM

NVIDIA Tesla P40 VPS

24 GB VRAM, 3 840 CUDA-ydintä, siirtyy yhdelle palvelimelle PCIe-palvelimen kautta. GPU-palvelimet eivät ole vielä tilattavissa; ota yhteyttä, jotta niistä ilmoitetaan, kun ne ovat.

$ nvidia-smi
# Esimerkkiasennuskomento

Mitä {nimi} on GPU:n VPS:ssä?

NVIDIA Tesla P40 on Pascal-sukupolven datakeskus GPU, joka on suunniteltu päättelyyn. Siinä on 24 GB GDDR5-muistia ja 3 840 CUDA-ydintä. Se on vanhempi kuin nykyiset GPU-muistit, eikä mikään uudempi järjestelmä enää tue sitä.

NVIDIA Tesla P40 VPS.org GPU-palvelimella

24 GB GDDR5

VRAM riittää keskikokoisiin malleihin ja suurempiin tietokokonaisuuksiin.

3 840 CUDA-ydintä

GPU-kiihdytystyömäärän rinnakkaiskäsittely.

FP32 ja INT8

NVIDIA arvioi P40:n 12 TFLOPS:ksi 32. FP:ssä ja 47 TOP:ksi INT8:ssa.

Laske voimakkuus 6.1

Tarkista, että kehysversiosi tukee yhä Pascal GPU:ta, ennen kuin suunnittelet sen ympäri.

Suosittuja {nimi} Käytä tapauksia

Ainokaisen päättely
LLM-hosting (Ollama, lama.cpp)
Kuvasukupolvi
Videotranskoodaus
3D-renderointi
Tieteellinen laskenta

Suunnitellut GPU-erittelyt

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA-ytimet3,840
FP3212 TFLOPS
INT847 TOPS
Muisti BW346 GB/s
ArkkitehtuuriPascal (GP102)
LäpikulkuPCI:n läpikulku

Usein kysyttyjä kysymyksiä

Mitä NVIDIA Tesla P40 on GPU:n VPS:ssä?

+

NVIDIA Tesla P40 can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. NVIDIA Tesla P40 is a general GPU-accelerated workload. Make sure your software has CUDA support and that your driver / runtime versions match the workload requirements for NVIDIA Tesla P40.

Miten pystytän NVIDIA Tesla P40 GPU:n VPS:n?

+

GPU-palvelimia ei ole vielä tilattavissa. Tänään voit ajaa NVIDIA Tesla P40-suoritinta tavallisella CPU-ohjelmalla, jossa se toimii paljon hitaammin kuin GPU-palvelimella: SSH-ohjausta ja nvidia-smi-ohjausta.

Kuinka paljon VRAM-muistia tarvitsen NVIDIA Tesla P40:aan?

+

VRAM-tarpeet NVIDIA Tesla P40:lle riippuvat mallista ja eräkoosta; tarkista projektin dokumentointi nykyluvuista.

Paljonko GPU-palvelin maksaisi NVIDIA Tesla P40:lle?

+

GPU-hinnoittelu julkaistaan, kun GPU-palvelimet voidaan tilata. Ota yhteyttä, jos haluat kuulla, milloin se tapahtuu.

Voinko käyttää muita työkaluja NVIDIA Tesla P40:n rinnalla?

+

Kyllä. Jokaisessa VPS.org-palvelimessa on täysi juurikäyttö, joten voit käyttää muita työkaluja NVIDIA Tesla P40-palvelimen RAM-muistin ja tallennustilan rinnalla.

Onko NVIDIA Tesla P40 GPU:n VPS täysillä mukana?

+

Jokainen VPS.org-palvelin sisältää SSH-järjestelmän, joten voit asentaa ajurit, kirjastot ja NVIDIA Tesla P40:n, mitä tarvitset.

Asentaako VPS.org CUDA-järjestelmän NVIDIA Tesla P40:lle?

+

Ei. Ei serveriä, jossa on CUDA-ajoaika tai NVIDIA-ajuri valmiiksi asennettuna, eikä GPU-palvelimia ole vielä tilattavissa. Asennat versiot NVIDIA Tesla P40, joita tarvitset itse.

Kestääkö NVIDIA Tesla P40 GPU VPS:ni istuntojen välillä?

+

Kyllä. VPS.org-palvelimet ovat pysyviä virtuaalisia koneita, eivät ohimeneviä tapauksia: NVIDIA Tesla P40-malleja, konfiguraatioita ja dataa säilytetään palvelimen SSD-tallennustilassa, kunnes ne poistetaan.

Mihin minun pitäisi tallentaa tietoja NVIDIA Tesla P40 työmäärääni varten?

+

Jatka palvelimen SSD-tietojen käsittelyä, jotta pääset nopeasti käsiksi NVIDIA Tesla P40-ajojen aikana, ja kopioi valmiita esineitä (painoja, sukupolvia, upotuksia) VPS.org-järjestelmän ulkopuolelle; kuvakaappaukset ja varmuuskopiot pysyvät samassa tallennusjoukossa.

Voinko skaalata NVIDIA Tesla P40 GPU VPS:ni myöhemmin?

+

Voit päivittää minkä tahansa VPS.org-palvelimen suuremmaksi suunnitelmaksi ohjauspaneelista; kokomuutos käynnistää sen uudelleen ja NVIDIA Tesla P40-asennussarjasi siirtyy eteenpäin. GPU-palvelimia ei ole vielä saatavilla.

Ovatko varmuuskopiot saatavilla GPU VPS:ään?

+

Kyllä. Apujoukot ovat maksullinen lisäosa (päivittäin +30 % suunnitelman hinnasta, pidetään 7 päivää; viikoittain +20 %, pidetään 28 päivää) ja kuvakaappaukset ovat ilmaisia, mikä on hyödyllistä ennen kuin NVIDIA Tesla P40 kulkee. Molemmat pysyvät samassa säilytysjoukossa kuin palvelin.

Saanko takaisin?

+

Ota yhteyttä tukeen 30 päivän kuluessa ensimmäisestä ostoksestasi. GPU-palvelimia ei ole vielä myyty, joten GPU-tilaus ei ole mukana.

Want to Run NVIDIA Tesla P40 on a GPU Server?

GPU:n kapasiteetti on rajallinen. Kerro työmäärästäsi, niin vastaamme hintaan ja käytettävyyteen.