Pociągnij i uruchomij modele PyTorch na NVIDIA Tesla P40 (24 GB VRAM, Pascal architektura), z pełnym dostępem do koron. Serwery GPU są jeszcze nierozporządzone; skontaktuj się z nami, aby być powiadomione, kiedy są.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Przykład polecenia instalacyjnego
PyTorch jest szeroko używane ramy uczenia się. Serwer GPU uruchomił szkolenie PyTorch i wynik na GPU, który jest znacznie szybszy niż w CPU dla większości modeli.
Zainstalujesz sterownik NVIDIA, CUDA i budowę PyTorch, które potrzebujesz. Sprawdź, czy Twoja budowla PyTorch nadal obsługuje Pascal GPUs (zdolność komputu 6.1).
Pokój dla małych i średnich modeli, LoRA drobne dostosowywanie i umiarkowane rozmiary partii.
Uruchom notebook Jupyter na serwerze dla interaktywnej pracy na GPU.
Konfiguracja środowiska dokładnie tak jak wymaga twój projekt.
PyTorch może używać NVIDIA GPU do przyspieszenia jego pracy. VPS.org GPU serwery nie są jeszcze dostępne do zamówienia; skontaktuj się z nami, aby usłyszeć kiedy są. PyTorch jest treningiem / zadaniem do dostosowywania. Plan dla długotrwalych zadań: zdjęć regularnie i zachować kopię wyszkolonych wag poza VPS.org.
Serwery GPU nie są jeszcze dostępne. Dzisiaj można uruchomić PyTorch w ramach regularnego planu procesora, gdzie działa on znacznie powoli niż w GPU: SSH w i uruchomić pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Szkolenie VRAM dominuje przez stan optymalizacji plus aktywacje. Pełne dostosowywanie LLM 7B wymaga około 24 do 48 GB; LoRA / QLoRA pasuje do 8 do 16 GB.
GPU ceny zostaną opublikowane, gdy serwery GPU będą mogły być zamówione. Skontaktuj się z nami, jeśli chcesz usłyszeć, kiedy to się stanie.
Tak. Każdy serwer VPS.org ma pełny dostęp do korzeni, więc można uruchomić inne narzędzia obok PyTorch w pamięci i przechowywaniu serwera.
Każdy serwer VPS.org przychodzi z pełnym dostępem SSH root, więc możesz zainstalować sterowniki, biblioteki i PyTorch, jak tylko chcesz.
Nie. Nie ma serwera z uruchomieniem CIDA lub NVIDIA sterownik wstępnie zainstalowany, a serwery GPU nie są jeszcze dostępne do zamówienia. Zainstalowałeś wersje PyTorch potrzebują siebie.
Tak. serwery VPS.org to uporcze maszyny wirtualne, a nie efemeralne przykłady: modele PyTorch, konfiguracje i dane pozostają na pamięci SSD serwera, aż je usuniesz.
Zachować prace nad SSD serwera w celu szybkiego dostępu podczas uruchamiania PyTorch i kopiować gotowe artefakty (wagi, pokolenia, wbudowy) do przechowywania poza VPS.org; zdjęcia i kopie kopii pozostają na tym samym gronie.
Możesz uaktualnić każdy serwer VPS.org do większego planu z panelu sterowania; zmiana rozmiaru ponownie go i instalacja PyTorch przenosi. Serwery GPU nie są jeszcze dostępne.
Tak. Kopia kopii to dodatek (dnia +30% ceny planu, zatrzymane 7 dni; tydzień +20%, przechowywane 28 dni) i zrzuty są bezpłatne, co jest użyte przed długim uruchomieniem PyTorch. Oba pozostań na tym samym gronie co serwer.
Wsparcie kontaktowe w ciągu 30 dni od pierwszego zakupu, aby zażądać zwrotu. Serwery GPU nie są jeszcze sprzedawane, więc nie ma zamówienia GPU.
Pojemność GPU jest ograniczona. Opowiedz nam o swojej pracy i będziemy odpowiedzieć na to za pomocą dostępności i cen.