Abbinate è eseguite i mudelli PyTorch supra a NVIDIA Tesla P40 (24 GB VRAM, architettura Pascal), cu accessu di root cumpletu. I servituri GPU nun si ponnu ancora ordinà; cuntattateci pi aviri nutizia quannu si ponu ordinà.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Comandi d'installazione d'esempiu
PyTorch è un framework di apprendimentu prufunnu assai usatu. Un servituri GPU esegue l'addestramentu è l'infirienza di PyTorch supra a GPU, chi è assai cchiù veloci ca supra a CPU pi la magghiuranza di i mudelli.
Installate u driver NVIDIA, CUDA e a custruzzioni di PyTorch di cui avete bisognu. Verificate ca a vostra custruzzioni di PyTorch supporta ancora GPU Pascal (capacità di calculu 6.1).
Spaziu per i mudelli di dimensioni piccule è medie, LoRA fine-tuning è dimensioni di lotti moderati.
Esegui i quaderni Jupyter supra lu servituri pi travagghiari in manera ntirattiva supra a GPU.
Cunfigura l'ambienti esattamenti comu ci vole u vostru prugettu.
PyTorch pò aduprà una GPU NVIDIA per accelerà u so travagliu. VPS.org i servitori GPU ùn sò micca ancora dispunibili per ordinà; cuntattateci per sapè quandu sò. PyTorch hè un caricu di travagliu di furmazione / fine-tuning. Pianu per i travaglii long-running: snapshot u vostru VPS regularmente è mantene una copia di pesi addestrati fora VPS.org.
I servituri GPU ùn ponu ancora esse ordinati. Oghje pudete eseguisce PyTorch nant'à un pianu CPU regulare, unni funziona assai cchiù lentamente ca nta na GPU: Accedi SSH è esegui pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
A VRAM di furmazione hè dominata da u statu ottimizatore più attivazioni. A regolazione fine completa di un 7B LLM hà bisognu di circa 24 à 48 GB; LoRA / QLoRA si adatta in 8 à 16 GB.
U prezzu di a GPU sarà publicatu quannu i servitori GPU ponu esse ordinati. Cuntattateci si vulete sapiri quannu accadrà.
Sì. Ogni servitore VPS.org vene cù accessu root cumpletu, cusì pudete eseguisce altri strumenti incù PyTorch in a RAM è u almacenamentu di u servitore.
Ogni servituri VPS.org veni cun accessu SSH di root, cosi ca si pò installari drivers, libbirtati e PyTorch comu ti servi.
No. Nudda servera veni cun un runtime CUDA o un driver NVIDIA pre-installatu, e li servera GPU nun sunnu ancora dispunìbbili pi' ordinà. Tu installi li versioni PyTorch di cui ti servi.
Sì. i servitori VPS.org sò macchine virtuali persistenti, micca istanze effimere: i mudelli PyTorch, i cunfigurazioni è i dati restanu in u almacenamentu SSD di u servitore finu à chì li sguassàte.
Mantene i dati di travagliu in u SSD di u servitore per un accessu veloce durante l'esecuzioni di PyTorch, è copia l'artefatti finiti (peso, generazioni, incorporazioni) à u almacenamentu fora di VPS.org; snapshots e backups restanu in u listessu cluster di almacenamentu.
Potete aghjurnari ogni servituri VPS.org a un pianu cchiù granni di u pannellu di cuntrollu; a ridimensionamentu lu riavvia e l'installazione PyTorch si trasfirisci. I servituri GPU nun sunnu ancora dispunibbili.
Sì. I backup sò un add-on pagatu (quotidianu +30% di u prezzu di u pianu, mantenutu 7 ghjorni; settimanale +20%, mantenutu 28 ghjorni) è istantanee sò liberi, chì hè utile prima di longu PyTorch corre. Entrambi restanu in u listessu cluster di almacenamentu cum'è u servitore.
Cuntattate u supportu entro 30 ghjorni da u vostru primu acquistu per dumandà un rimborsu. I servitori GPU ùn sò micca ancora venduti, dunque ùn ci hè micca ordine GPU implicatu.
A capacità di a GPU hè limitata. Diteci di u vostru caricu di travagliu è vi rispondemu cu a disponibilità è u prezzu.