Hamarosan: NVIDIA Tesla P40, 24 GB VRAM

AI/ML tréning GPU szerver

Fine-tune and train models on an NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). Best for LoRA fine-tuning and small models. GPU servers are not orderable yet; contact us to be notified when they are.

$ pip install torch transformers datasets accelerate && python train.py
# Példa telepítési parancs

Mi az a {név} a GPU VPS-en?

A képzési AI modelleknek párhuzamos számításra van szükségük, amit a GPU-k nyújtanak. A GPU szerver egy GPU-t ad a saját edzési állásokhoz.

AI Training egy VPS.org GPU szerveren

Teljes GPU

Teljes Tesla P40 GPU 24GB VRAM-mal. Nincs megosztott vagy fojtott erőforrás.

Keretválasztás

PyTorch, TensorFlow, JAX vagy bármilyen olyan keret, amely még mindig támogatja a Pascal GPU-kat.

SSD tárolás

Az adatkészleteket, ellenőrzőpontokat és modellfájlokat a szerver SSD-tárolóján kell tartani.

SSH hozzáférés

Teljes gyökér hozzáférés a képzési környezet konfigurálásához.

Népszerű {név} Esetek használata

Finomhangoló modell
Transzfertanulás
Egyedi modellképzés
Hiperparaméter-tuning
Adatalapú előfeldolgozás
LoRA-adapterek

Tervezett GPU előírások

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA magok3,840
FP3212 TFLOPS
INT847 TOPS
BW memória346 GB/s
ÉpítészetPascal (GP102)
ÁthaladásPCIe passz through

Gyakran ismételt kérdések

Mi az a AI Training egy GPU VPS-en?

+

A AI Training egy NVIDIA GPU segítségével felgyorsíthatja a munkáját. VPS.org GPU szerverek még nem rendelhetők; lépjen kapcsolatba velünk, hogy mikor halljuk. AI Training egy általános GPU-gyorsított munkaterhelés. Győződjön meg arról, hogy a szoftver rendelkezik CUDA támogatással, és hogy a driver / runtime verziók megfelelnek a AI Training munkaterhelési követelményeinek.

Hogyan állítok fel AI Training-at egy GPU VPS-re?

+

GPU szerverek még nem érhetők el. Ma már futtathatod a AI Training-t egy rendszeres CPU terven, ahol sokkal lassabban működik, mint a GPU-n: SSH in and run pip install torch transformers datasets accelerate && python train.py.

Mennyi VRAM kell a AI Training-hoz?

+

A AI Training VRAM-igényei a modelltől és a gyártási tétel méretétől függenek; a projekt dokumentációjának ellenőrzése az aktuális számokról.

Mennyibe kerülne egy GPU szerver a AI Training-ért?

+

A GPU árazása akkor kerül közzétételre, amikor a GPU szerverek rendelhetők. Lépjen velünk kapcsolatba, ha azt szeretné hallani, amikor ez megtörténik.

Lefuttathatok más szerszámokat is a AI Training mellett?

+

Igen. Minden VPS.org szerver teljes gyökér-hozzáféréssel rendelkezik, így más eszközöket is futtathat a AI Training mellett a szerver RAM-ján és tárolóján belül.

Teljes rootot kapok a AI Training GPU VPS-en?

+

Minden VPS.org szerver teljes gyökér SSH hozzáféréssel rendelkezik, így telepítheti a illesztőprogramokat, könyvtárakat és AI Training-t, bármennyire is kell.

Vajon a VPS.org preinstall CUDA a AI Training?

+

Nem. Nincs szerver jön egy CUDA runtime vagy NVIDIA vezérlő előre telepített, és GPU szerverek még nem érhető el, hogy rendeljen. Telepíteni a verziók AI Training szüksége van magad.

Az én AI Training GPU VPS-em továbbra is tart az ülések között?

+

Igen. A VPS.org szerverek állandó virtuális gépek, nem pedig efemerális esetek: AI Training modellek, konfigok és adatok maradnak a szerver SSD-tárolójában, amíg nem törli őket.

Hol kell tárolni adatokat a AI Training munkateher?

+

A AI Training futtatások során a szerver SSD-jén tárolt adatok megőrzése a gyors hozzáférés érdekében, valamint a kész tárgyak (súlyok, generációk, beágyazódások) másolása a VPS.org-en kívüli tárolóba; a fényképek és biztonsági másolatok ugyanazon a tárolóhalmazon maradnak.

Megmérhetem a AI Training GPU VPS-t később?

+

A VPS.org szervereket a vezérlőpanelről egy nagyobb tervre frissítheted; az átméretezés újraindítja és a AI Training telepítése továbbviszi. A GPU szerverek még nem állnak rendelkezésre.

Van tartalék a GPU VPS-emhez?

+

Igen. A biztonsági mentések fizetett kiegészítő (napi +30%-a a terv ár, tartott 7 nap; heti +20%, tartott 28 nap) és pillanatfelvételek ingyenesek, ami hasznos, mielőtt hosszú AI Training fut. Mindkettő maradjon ugyanabban a tároló klaszterben, mint a szerver.

Kaphatok visszatérítést?

+

Kapcsolatfelvételi támogatás az első vásárlás után 30 napon belül, hogy visszatérítést kérjen. GPU szerverek még nem értékesített, így GPU megrendelés nem szerepel.

Szeretné futtatni a AI Training egy GPU szerver?

A GPU kapacitása korlátozott. Meséljen a munkaterheléséről, és a rendelkezésre állás és az árak segítségével válaszolunk.