Eseguire TensorFlow e Keras formazione e inferenza su un NVIDIA Tesla P40 (24 GB VRAM, architettura Pascal). server GPU non sono ancora ordinabili; contattaci per essere avvisato quando lo sono.
$ pip install tensorflow[and-cuda]
# Esempio di comando di installazione
TensorFlow è il framework di apprendimento automatico open-source di Google. Su un server GPU, TensorFlow esegue le sue operazioni sulla GPU attraverso CUDA.
TensorFlow utilizza la GPU tramite CUDA una volta installato un driver corrispondente e la versione CUDA.
Costruisci modelli con l'API Keras sopra il backend GPU.
Monitorare l'allenamento con TensorBoard sul proprio server.
Servire modelli addestrati con TensorFlow Serving.
TensorFlow può usare una GPU NVIDIA per velocizzare il suo lavoro. I server GPU VPS.org non sono ancora disponibili per l'ordine; contattaci per sentire quando lo sono. TensorFlow è un carico di lavoro di allenamento / fine-tuning. Pianifica lavori a lungo termine: istantanea il VPS regolarmente e mantenere una copia di pesi allenati fuori VPS.org.
I server GPU non sono ancora disponibili per l'ordine. Oggi è possibile eseguire TensorFlow su un piano normale della CPU, dove funziona molto più lentamente che su una GPU: SSH dentro e eseguire pip install tensorflow[and-cuda].
La VRAM di allenamento è dominata dallo stato ottimizzatore più le attivazioni. La messa a punto completa di un LLM 7B richiede approssimativamente 24 a 48 GB; LORA / QLORA si adatta in 8 a 16 GB.
I prezzi GPU saranno pubblicati quando i server GPU possono essere ordinati. Contattaci se vuoi sentire quando ciò accade.
Sì. Ogni server VPS.org è dotato di accesso root completo, in modo da poter eseguire altri strumenti insieme a TensorFlow all'interno della RAM e dello storage del server.
Ogni server VPS.org è dotato di accesso SSH completo, in modo da poter installare driver, librerie e TensorFlow comunque ti servano.
No. Nessun server viene fornito con un runtime CUDA o driver NVIDIA preinstallato, e i server GPU non sono ancora disponibili per l'ordine. Si installano le versioni TensorFlow ha bisogno di te.
Sì. i server VPS.org sono macchine virtuali persistenti, non istanze effimere: modelli TensorFlow, config e dati rimangono sullo storage SSD del server fino a quando non li cancelli.
Continuare a lavorare i dati sull'SSD del server per un accesso veloce durante le corse di TensorFlow e copiare manufatti finiti (pesi, generazioni, inserzioni) per lo storage fuori da VPS.org; le istantanee e i backup rimangono sullo stesso cluster di storage.
È possibile aggiornare qualsiasi server VPS.org a un piano più grande dal pannello di controllo; il ridimensionamento lo riavvia e l'installazione TensorFlow porta a termine. I server GPU non sono ancora disponibili.
Sì. I backup sono un add-on a pagamento (al giorno +30% del prezzo del piano, mantenuto 7 giorni; settimanale +20%, mantenuto 28 giorni) e le istantanee sono gratuite, che è utile prima di lunghe corse TensorFlow. Entrambi rimangono sullo stesso cluster di archiviazione del server.
Contatta il supporto entro 30 giorni dal tuo primo acquisto per richiedere un rimborso. I server GPU non sono ancora venduti, quindi non è coinvolto alcun ordine GPU.
La capacità della GPU è limitata. Raccontaci il tuo carico di lavoro e ti risponderemo con disponibilità e prezzi.