I modelli di fine-tune e treno su una NVIDIA Tesla P40 (24 GB di VRAM, architettura Pascal). Migliore per la messa a punto LORA e piccoli modelli. I server GPU non sono ancora ordinabili; contattaci per essere avvisati quando lo sono.
$ pip install torch transformers datasets accelerate && python train.py
# Esempio di comando di installazione
I modelli di formazione AI hanno bisogno di calcolo parallelo che le GPU forniscono. Un server GPU ti dà una GPU per i tuoi lavori di formazione.
Una Tesla P40 con VRAM da 24 GB, passata al server e non condivisa.
PyTorch, TensorFlow, JAX o qualsiasi framework che supporti ancora le GPU Pascal.
Mantieni set di dati, checkpoint e file di modelli sullo storage SSD del server.
Accesso completo root per configurare l'ambiente di allenamento.
AI Training può usare una GPU NVIDIA per velocizzare il suo lavoro. i server GPU VPS.org non sono ancora disponibili per l'ordine; contattaci per sentire quando lo sono. AI Training è un carico di lavoro generalmente accelerato dalla GPU. Assicurati che il tuo software abbia il supporto CUDA e che le versioni driver/runtime corrispondano ai requisiti di carico di lavoro per AI Training.
I server GPU non sono ancora disponibili per l'ordine. Oggi è possibile eseguire AI Training su un piano normale della CPU, dove funziona molto più lentamente che su una GPU: SSH dentro e eseguire pip install torch transformers datasets accelerate && python train.py.
Le esigenze di VRAM per AI Training dipendono dal modello e dalle dimensioni del lotto; controllare la documentazione del progetto per le cifre attuali.
I prezzi GPU saranno pubblicati quando i server GPU possono essere ordinati. Contattaci se vuoi sentire quando ciò accade.
Sì. Ogni server VPS.org è dotato di accesso root completo, in modo da poter eseguire altri strumenti insieme a AI Training all'interno della RAM e dello storage del server.
Ogni server VPS.org è dotato di accesso SSH completo, in modo da poter installare driver, librerie e AI Training comunque ti servano.
No. Nessun server viene fornito con un runtime CUDA o driver NVIDIA preinstallato, e i server GPU non sono ancora disponibili per l'ordine. Si installano le versioni AI Training ha bisogno di te.
Sì. i server VPS.org sono macchine virtuali persistenti, non istanze effimere: modelli AI Training, config e dati rimangono sullo storage SSD del server fino a quando non li cancelli.
Continuare a lavorare i dati sull'SSD del server per un accesso veloce durante le corse di AI Training e copiare manufatti finiti (pesi, generazioni, inserzioni) per lo storage fuori da VPS.org; le istantanee e i backup rimangono sullo stesso cluster di storage.
È possibile aggiornare qualsiasi server VPS.org a un piano più grande dal pannello di controllo; il ridimensionamento lo riavvia e l'installazione AI Training porta a termine. I server GPU non sono ancora disponibili.
Sì. I backup sono un add-on a pagamento (al giorno +30% del prezzo del piano, mantenuto 7 giorni; settimanale +20%, mantenuto 28 giorni) e le istantanee sono gratuite, che è utile prima di lunghe corse AI Training. Entrambi rimangono sullo stesso cluster di archiviazione del server.
Contatta il supporto entro 30 giorni dal tuo primo acquisto per richiedere un rimborso. I server GPU non sono ancora venduti, quindi non è coinvolto alcun ordine GPU.
La capacità della GPU è limitata. Raccontaci il tuo carico di lavoro e ti risponderemo con disponibilità e prezzi.