Eseguite l'addestramentu è l'infirienza di TensorFlow e Keras supra a NVIDIA Tesla P40 (24 GB VRAM, architettura Pascal). I servituri GPU ùn si ponu ancora ordinà; cuntattateci pi riciviri una notifica quannu si ponu ordinà.
$ pip install tensorflow[and-cuda]
# Comandi d'installazione d'esempiu
TensorFlow hè u framework di apprendimentu automaticu di Google. In un servitore GPU, TensorFlow esegue e so operazioni in u GPU attraversu CUDA.
U TensorFlow usa a GPU attraversu CUDA una volta chì installate un driver currispondenti è una versione CUDA.
Costruisce i mudelli cù l'API Keras supra u backend di a GPU.
Monitorate l'addestramentu cù TensorBoard in u vostru propiu servitore.
Servite i mudelli addestrati cù TensorFlow Serving.
TensorFlow pò aduprà una GPU NVIDIA per accelerà u so travagliu. VPS.org i servitori GPU ùn sò micca ancora dispunibili per ordinà; cuntattateci per sapè quandu sò. TensorFlow hè un caricu di travagliu di furmazione / fine-tuning. Pianu per i travaglii long-running: snapshot u vostru VPS regularmente è mantene una copia di pesi addestrati fora VPS.org.
I servituri GPU ùn ponu ancora esse ordinati. Oghje pudete eseguisce TensorFlow nant'à un pianu CPU regulare, unni funziona assai cchiù lentamente ca nta na GPU: Accedi SSH è esegui pip install tensorflow[and-cuda].
A VRAM di furmazione hè dominata da u statu ottimizatore più attivazioni. A regolazione fine completa di un 7B LLM hà bisognu di circa 24 à 48 GB; LoRA / QLoRA si adatta in 8 à 16 GB.
U prezzu di a GPU sarà publicatu quannu i servitori GPU ponu esse ordinati. Cuntattateci si vulete sapiri quannu accadrà.
Sì. Ogni servitore VPS.org vene cù accessu root cumpletu, cusì pudete eseguisce altri strumenti incù TensorFlow in a RAM è u almacenamentu di u servitore.
Ogni servituri VPS.org veni cun accessu SSH di root, cosi ca si pò installari drivers, libbirtati e TensorFlow comu ti servi.
No. Nudda servera veni cun un runtime CUDA o un driver NVIDIA pre-installatu, e li servera GPU nun sunnu ancora dispunìbbili pi' ordinà. Tu installi li versioni TensorFlow di cui ti servi.
Sì. i servitori VPS.org sò macchine virtuali persistenti, micca istanze effimere: i mudelli TensorFlow, i cunfigurazioni è i dati restanu in u almacenamentu SSD di u servitore finu à chì li sguassàte.
Mantene i dati di travagliu in u SSD di u servitore per un accessu veloce durante l'esecuzioni di TensorFlow, è copia l'artefatti finiti (peso, generazioni, incorporazioni) à u almacenamentu fora di VPS.org; snapshots e backups restanu in u listessu cluster di almacenamentu.
Potete aghjurnari ogni servituri VPS.org a un pianu cchiù granni di u pannellu di cuntrollu; a ridimensionamentu lu riavvia e l'installazione TensorFlow si trasfirisci. I servituri GPU nun sunnu ancora dispunibbili.
Sì. I backup sò un add-on pagatu (quotidianu +30% di u prezzu di u pianu, mantenutu 7 ghjorni; settimanale +20%, mantenutu 28 ghjorni) è istantanee sò liberi, chì hè utile prima di longu TensorFlow corre. Entrambi restanu in u listessu cluster di almacenamentu cum'è u servitore.
Cuntattate u supportu entro 30 ghjorni da u vostru primu acquistu per dumandà un rimborsu. I servitori GPU ùn sò micca ancora venduti, dunque ùn ci hè micca ordine GPU implicatu.
A capacità di a GPU hè limitata. Diteci di u vostru caricu di travagliu è vi rispondemu cu a disponibilità è u prezzu.