Vonat és futtatás PyTorch modellek NVIDIA Tesla P40 (24 GB VRAM, Pascal architektúra), teljes gyökér hozzáférés. GPU szerverek még nem rendelhető; lépjen kapcsolatba velünk, hogy értesítést, amikor azok.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Példa telepítési parancs
A PyTorch széles körben használt mélytanulási keret. A legtöbb modellnél a GPU szerver a PyTorch képzését és a GPU-n való következtetéseket végzi, ami sokkal gyorsabb, mint a CPU-n.
Az NVIDIA meghajtót, a CUDA-t és a PyTorch-ot telepíti. Ellenőrizze, hogy a PyTorch-építménye még támogatja-e a Pascal GPU-kat (kompute képesség 6.1).
Kis méretű és közepes méretű modellek, LoRA finomhangoló és közepes gyártási méretek.
Futtassa Jupyter notebooks a szerver interaktív munka a GPU.
A környezet beállítása a projekt igényeinek megfelelően.
A PyTorch egy NVIDIA GPU segítségével felgyorsíthatja a munkáját. VPS.org GPU szerverek még nem rendelhetők; lépjen kapcsolatba velünk, hogy mikor halljuk őket. PyTorch egy edzés / finomhangoló munka. Terv hosszú távú munkák: pillanatfelvétel a VPS rendszeresen, és tartsa a másolatot a képzett súlyokat kívül VPS.org.
GPU szerverek még nem érhetők el. Ma már futtathatod a PyTorch-t egy rendszeres CPU terven, ahol sokkal lassabban működik, mint a GPU-n: SSH in and run pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
A VRAM képzését az optimalizáló állapot és az aktiválások uralják. A 7B LLM teljes finomhangolása körülbelül 24-48 GB-ot igényel; a LoRA / QLoRA 8-16 GB-ban illeszkedik.
A GPU árazása akkor kerül közzétételre, amikor a GPU szerverek rendelhetők. Lépjen velünk kapcsolatba, ha azt szeretné hallani, amikor ez megtörténik.
Igen. Minden VPS.org szerver teljes gyökér-hozzáféréssel rendelkezik, így más eszközöket is futtathat a PyTorch mellett a szerver RAM-ján és tárolóján belül.
Minden VPS.org szerver teljes gyökér SSH hozzáféréssel rendelkezik, így telepítheti a illesztőprogramokat, könyvtárakat és PyTorch-t, bármennyire is kell.
Nem. Nincs szerver jön egy CUDA runtime vagy NVIDIA vezérlő előre telepített, és GPU szerverek még nem érhető el, hogy rendeljen. Telepíteni a verziók PyTorch szüksége van magad.
Igen. A VPS.org szerverek állandó virtuális gépek, nem pedig efemerális esetek: PyTorch modellek, konfigok és adatok maradnak a szerver SSD-tárolójában, amíg nem törli őket.
A PyTorch futtatások során a szerver SSD-jén tárolt adatok megőrzése a gyors hozzáférés érdekében, valamint a kész tárgyak (súlyok, generációk, beágyazódások) másolása a VPS.org-en kívüli tárolóba; a fényképek és biztonsági másolatok ugyanazon a tárolóhalmazon maradnak.
A VPS.org szervereket a vezérlőpanelről egy nagyobb tervre frissítheted; az átméretezés újraindítja és a PyTorch telepítése továbbviszi. A GPU szerverek még nem állnak rendelkezésre.
Igen. A biztonsági mentések fizetett kiegészítő (napi +30%-a a terv ár, tartott 7 nap; heti +20%, tartott 28 nap) és pillanatfelvételek ingyenesek, ami hasznos, mielőtt hosszú PyTorch fut. Mindkettő maradjon ugyanabban a tároló klaszterben, mint a szerver.
Kapcsolatfelvételi támogatás az első vásárlás után 30 napon belül, hogy visszatérítést kérjen. GPU szerverek még nem értékesített, így GPU megrendelés nem szerepel.
A GPU kapacitása korlátozott. Meséljen a munkaterheléséről, és a rendelkezésre állás és az árak segítségével válaszolunk.