Tulossa: NVIDIA Tesla P40, 24 Gt VRAM

AI/ML-koulutus GPU-palvelin

Hienosäädä ja harjoittele mallit NVIDIA Tesla P40 (24 GB VRAM, Pascal arkkitehtuuri). Paras LoRA hienosäätö ja pienet mallit. GPU-palvelimet eivät ole vielä tilattavissa; ota yhteyttä, jotta saat niistä ilmoituksen.

$ pip install torch transformers datasets accelerate && python train.py
# Esimerkkiasennuskomento

Mitä {nimi} on GPU:n VPS:ssä?

Harjoittelun tekoälymallit tarvitsevat GPU:n tarjoamat rinnakkaiset laskelmat. GPU-palvelimen avulla saat yhden GPU:n omiin koulutustehtäviin.

AI Training VPS.org GPU-palvelimella

Koko GPU

Täysi Tesla P40 GPU 24GB VRAM:lla. Ei jaettuja tai ohjattuja resursseja.

Puitteet

PyTorch, TensorFlow, JAX tai mikä tahansa kehys, joka tukee Pascal GPU:ta.

SSD-varastointi

Pidä tietokannat, tarkastuspisteet ja mallitiedostot palvelimen SSD-tallennustilassa.

SSH Access

Täysi juurikäyttö koulutusympäristön määrittelyyn.

Suosittuja {nimi} Käytä tapauksia

Mallin hienosäätö
Siirto-oppiminen
Custom-mallikoulutus
Hyperparametrin viritys
Tietojen esikäsittely
LoRA-adapterit

Suunnitellut GPU-erittelyt

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA-ytimet3,840
FP3212 TFLOPS
INT847 TOPS
Muisti BW346 GB/s
ArkkitehtuuriPascal (GP102)
LäpikulkuPCI:n läpikulku

Usein kysyttyjä kysymyksiä

Mitä AI Training on GPU:n VPS:ssä?

+

AI Training can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. AI Training is a general GPU-accelerated workload. Make sure your software has CUDA support and that your driver / runtime versions match the workload requirements for AI Training.

Miten pystytän AI Training GPU:n VPS:n?

+

GPU-palvelimia ei ole vielä tilattavissa. Tänään voit ajaa AI Training-suoritinta tavallisella CPU-ohjelmalla, jossa se toimii paljon hitaammin kuin GPU-palvelimella: SSH-ohjausta ja pip install torch transformers datasets accelerate && python train.py-ohjausta.

Kuinka paljon VRAM-muistia tarvitsen AI Training:aan?

+

VRAM-tarpeet AI Training:lle riippuvat mallista ja eräkoosta; tarkista projektin dokumentointi nykyluvuista.

Paljonko GPU-palvelin maksaisi AI Training:lle?

+

GPU-hinnoittelu julkaistaan, kun GPU-palvelimet voidaan tilata. Ota yhteyttä, jos haluat kuulla, milloin se tapahtuu.

Voinko käyttää muita työkaluja AI Training:n rinnalla?

+

Kyllä. Jokaisessa VPS.org-palvelimessa on täysi juurikäyttö, joten voit käyttää muita työkaluja AI Training-palvelimen RAM-muistin ja tallennustilan rinnalla.

Onko AI Training GPU:n VPS täysillä mukana?

+

Jokainen VPS.org-palvelin sisältää SSH-järjestelmän, joten voit asentaa ajurit, kirjastot ja AI Training:n, mitä tarvitset.

Asentaako VPS.org CUDA-järjestelmän AI Training:lle?

+

Ei. Ei serveriä, jossa on CUDA-ajoaika tai NVIDIA-ajuri valmiiksi asennettuna, eikä GPU-palvelimia ole vielä tilattavissa. Asennat versiot AI Training, joita tarvitset itse.

Kestääkö AI Training GPU VPS:ni istuntojen välillä?

+

Kyllä. VPS.org-palvelimet ovat pysyviä virtuaalisia koneita, eivät ohimeneviä tapauksia: AI Training-malleja, konfiguraatioita ja dataa säilytetään palvelimen SSD-tallennustilassa, kunnes ne poistetaan.

Mihin minun pitäisi tallentaa tietoja AI Training työmäärääni varten?

+

Jatka palvelimen SSD-tietojen käsittelyä, jotta pääset nopeasti käsiksi AI Training-ajojen aikana, ja kopioi valmiita esineitä (painoja, sukupolvia, upotuksia) VPS.org-järjestelmän ulkopuolelle; kuvakaappaukset ja varmuuskopiot pysyvät samassa tallennusjoukossa.

Voinko skaalata AI Training GPU VPS:ni myöhemmin?

+

Voit päivittää minkä tahansa VPS.org-palvelimen suuremmaksi suunnitelmaksi ohjauspaneelista; kokomuutos käynnistää sen uudelleen ja AI Training-asennussarjasi siirtyy eteenpäin. GPU-palvelimia ei ole vielä saatavilla.

Ovatko varmuuskopiot saatavilla GPU VPS:ään?

+

Kyllä. Apujoukot ovat maksullinen lisäosa (päivittäin +30 % suunnitelman hinnasta, pidetään 7 päivää; viikoittain +20 %, pidetään 28 päivää) ja kuvakaappaukset ovat ilmaisia, mikä on hyödyllistä ennen kuin AI Training kulkee. Molemmat pysyvät samassa säilytysjoukossa kuin palvelin.

Saanko takaisin?

+

Ota yhteyttä tukeen 30 päivän kuluessa ensimmäisestä ostoksestasi. GPU-palvelimia ei ole vielä myyty, joten GPU-tilaus ei ole mukana.

Want to Run AI Training on a GPU Server?

GPU:n kapasiteetti on rajallinen. Kerro työmäärästäsi, niin vastaamme hintaan ja käytettävyyteen.