Juna- ja junamallit ovat NVIDIA Tesla P40 (24 GB VRAM, Pascal) -mallistossa, jossa on täysi juuriyhteys. GPU-palvelimet eivät ole vielä tilattavissa, ota yhteyttä, jotta ne ilmoitetaan.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Esimerkkiasennuskomento
PyTorch on laajalti käytetty syväoppimiskehys. GPU-palvelin ohjaa PyTorch-koulutusta ja päättelyä GPU:ssa, mikä on paljon nopeampi kuin useimpien mallien suorittimella.
Asennat tarvitsemasi NVIDIA-ajurin, CUDA-ajurin ja Pytorch-rakennuksen. Tarkista, että Pytorch-rakenne tukee edelleen Pascal GPU:ta (laske ominaisuus 6.1).
Tila pienille ja keskisuurille malleille, LoRA hienosäätöön ja maltillisiin eräkokoihin.
Suorita Jupyterin muistikirjoja palvelimella GPU:n vuorovaikutteista työtä varten.
Määritä ympäristö juuri sen mukaan, mitä projektisi tarvitsee.
PyTorch can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. PyTorch is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.
GPU-palvelimia ei ole vielä tilattavissa. Tänään voit ajaa PyTorch-suoritinta tavallisella CPU-ohjelmalla, jossa se toimii paljon hitaammin kuin GPU-palvelimella: SSH-ohjausta ja pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124-ohjausta.
Harjoitusvakautusjärjestelmää hallitsevat optimointitila sekä aktivaatiot. 7B LLM:n täydellinen hienosäätö tarvitsee noin 24-48 GB:n taajuuksia, LoRA / QLORA sopii 8-16 GB:n taajuuksiin.
GPU-hinnoittelu julkaistaan, kun GPU-palvelimet voidaan tilata. Ota yhteyttä, jos haluat kuulla, milloin se tapahtuu.
Kyllä. Jokaisessa VPS.org-palvelimessa on täysi juurikäyttö, joten voit käyttää muita työkaluja PyTorch-palvelimen RAM-muistin ja tallennustilan rinnalla.
Jokainen VPS.org-palvelin sisältää SSH-järjestelmän, joten voit asentaa ajurit, kirjastot ja PyTorch:n, mitä tarvitset.
Ei. Ei serveriä, jossa on CUDA-ajoaika tai NVIDIA-ajuri valmiiksi asennettuna, eikä GPU-palvelimia ole vielä tilattavissa. Asennat versiot PyTorch, joita tarvitset itse.
Kyllä. VPS.org-palvelimet ovat pysyviä virtuaalisia koneita, eivät ohimeneviä tapauksia: PyTorch-malleja, konfiguraatioita ja dataa säilytetään palvelimen SSD-tallennustilassa, kunnes ne poistetaan.
Jatka palvelimen SSD-tietojen käsittelyä, jotta pääset nopeasti käsiksi PyTorch-ajojen aikana, ja kopioi valmiita esineitä (painoja, sukupolvia, upotuksia) VPS.org-järjestelmän ulkopuolelle; kuvakaappaukset ja varmuuskopiot pysyvät samassa tallennusjoukossa.
Voit päivittää minkä tahansa VPS.org-palvelimen suuremmaksi suunnitelmaksi ohjauspaneelista; kokomuutos käynnistää sen uudelleen ja PyTorch-asennussarjasi siirtyy eteenpäin. GPU-palvelimia ei ole vielä saatavilla.
Kyllä. Apujoukot ovat maksullinen lisäosa (päivittäin +30 % suunnitelman hinnasta, pidetään 7 päivää; viikoittain +20 %, pidetään 28 päivää) ja kuvakaappaukset ovat ilmaisia, mikä on hyödyllistä ennen kuin PyTorch kulkee. Molemmat pysyvät samassa säilytysjoukossa kuin palvelin.
Ota yhteyttä tukeen 30 päivän kuluessa ensimmäisestä ostoksestasi. GPU-palvelimia ei ole vielä myyty, joten GPU-tilaus ei ole mukana.
GPU:n kapasiteetti on rajallinen. Kerro työmäärästäsi, niin vastaamme hintaan ja käytettävyyteen.