Hamarosan: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Futtasd a TensorFlow és Keras tréninget és következtetéseket egy NVIDIA Tesla P40 (24 GB VRAM, Pascal architektúra) alapján. A GPU szerverek még nem rendelhetők meg; lépj velünk kapcsolatba, hogy értesítsenek minket, ha azok meg vannak.

$ pip install tensorflow[and-cuda]
# Példa telepítési parancs

Mi az a {név} a GPU VPS-en?

A TensorFlow a Google nyílt forráskódú gépi tanulási kerete. A TensorFlow GPU szerverén a GPU-n keresztül futtatja működését.

TensorFlow egy VPS.org GPU szerveren

GPU gyorsulás

TensorFlow a GPU-t CUDA-n keresztül használja, ha telepít egy megfelelő vezérlőt és CUDA-t.

Keras

A Keras API-val rendelkező modelleket a GPU-s háttéren építsünk.

TensorBoardCity name (optional, probably does not need a translation)

Monitor képzés TensorBoard a saját szerverén.

TF szolgáltatás

Szolgált modellek TensorFlow szerving.

Népszerű {név} Esetek használata

Képosztályozás
Objektumfelismerés
Természetes nyelvi feldolgozás
Ajánlási rendszerek
Idősor-előrejelzés
ML csővezetékek gyártása

Tervezett GPU előírások

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA magok3,840
FP3212 TFLOPS
INT847 TOPS
BW memória346 GB/s
ÉpítészetPascal (GP102)
ÁthaladásPCIe passz through

Gyakran ismételt kérdések

Mi az a TensorFlow egy GPU VPS-en?

+

A TensorFlow egy NVIDIA GPU segítségével felgyorsíthatja a munkáját. VPS.org GPU szerverek még nem rendelhetők; lépjen kapcsolatba velünk, hogy mikor halljuk őket. TensorFlow egy edzés / finomhangoló munka. Terv hosszú távú munkák: pillanatfelvétel a VPS rendszeresen, és tartsa a másolatot a képzett súlyokat kívül VPS.org.

Hogyan állítok fel TensorFlow-at egy GPU VPS-re?

+

GPU szerverek még nem érhetők el. Ma már futtathatod a TensorFlow-t egy rendszeres CPU terven, ahol sokkal lassabban működik, mint a GPU-n: SSH in and run pip install tensorflow[and-cuda].

Mennyi VRAM kell a TensorFlow-hoz?

+

A VRAM képzését az optimalizáló állapot és az aktiválások uralják. A 7B LLM teljes finomhangolása körülbelül 24-48 GB-ot igényel; a LoRA / QLoRA 8-16 GB-ban illeszkedik.

Mennyibe kerülne egy GPU szerver a TensorFlow-ért?

+

A GPU árazása akkor kerül közzétételre, amikor a GPU szerverek rendelhetők. Lépjen velünk kapcsolatba, ha azt szeretné hallani, amikor ez megtörténik.

Lefuttathatok más szerszámokat is a TensorFlow mellett?

+

Igen. Minden VPS.org szerver teljes gyökér-hozzáféréssel rendelkezik, így más eszközöket is futtathat a TensorFlow mellett a szerver RAM-ján és tárolóján belül.

Teljes rootot kapok a TensorFlow GPU VPS-en?

+

Minden VPS.org szerver teljes gyökér SSH hozzáféréssel rendelkezik, így telepítheti a illesztőprogramokat, könyvtárakat és TensorFlow-t, bármennyire is kell.

Vajon a VPS.org preinstall CUDA a TensorFlow?

+

Nem. Nincs szerver jön egy CUDA runtime vagy NVIDIA vezérlő előre telepített, és GPU szerverek még nem érhető el, hogy rendeljen. Telepíteni a verziók TensorFlow szüksége van magad.

Az én TensorFlow GPU VPS-em továbbra is tart az ülések között?

+

Igen. A VPS.org szerverek állandó virtuális gépek, nem pedig efemerális esetek: TensorFlow modellek, konfigok és adatok maradnak a szerver SSD-tárolójában, amíg nem törli őket.

Hol kell tárolni adatokat a TensorFlow munkateher?

+

A TensorFlow futtatások során a szerver SSD-jén tárolt adatok megőrzése a gyors hozzáférés érdekében, valamint a kész tárgyak (súlyok, generációk, beágyazódások) másolása a VPS.org-en kívüli tárolóba; a fényképek és biztonsági másolatok ugyanazon a tárolóhalmazon maradnak.

Megmérhetem a TensorFlow GPU VPS-t később?

+

A VPS.org szervereket a vezérlőpanelről egy nagyobb tervre frissítheted; az átméretezés újraindítja és a TensorFlow telepítése továbbviszi. A GPU szerverek még nem állnak rendelkezésre.

Van tartalék a GPU VPS-emhez?

+

Igen. A biztonsági mentések fizetett kiegészítő (napi +30%-a a terv ár, tartott 7 nap; heti +20%, tartott 28 nap) és pillanatfelvételek ingyenesek, ami hasznos, mielőtt hosszú TensorFlow fut. Mindkettő maradjon ugyanabban a tároló klaszterben, mint a szerver.

Kaphatok visszatérítést?

+

Kapcsolatfelvételi támogatás az első vásárlás után 30 napon belül, hogy visszatérítést kérjen. GPU szerverek még nem értékesített, így GPU megrendelés nem szerepel.

Szeretné futtatni a TensorFlow egy GPU szerver?

A GPU kapacitása korlátozott. Meséljen a munkaterheléséről, és a rendelkezésre állás és az árak segítségével válaszolunk.