Trascrivere audio e video con OpenAI Whisper su NVIDIA Tesla P40 (24 GB VRAM, architettura Pascal), con audio mantenuto sul proprio server. I server GPU non sono ancora ordinabili; contattaci per essere avvisati quando lo sono.
$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Esempio di comando di installazione
OpenAI Whisper è un modello di riconoscimento vocale open-source. Eseguirlo su una GPU è molto più veloce che su una CPU e mantiene il vostro audio sul proprio server.
Whisper gira molto più velocemente su una GPU che su una CPU.
Whisper trascrive e traduce il discorso in 99 lingue.
L'audio rimane sul server.
Lavorare attraverso grandi librerie audio in lotti.
Whisper può usare una GPU NVIDIA per velocizzare il suo lavoro. I server GPU VPS.org non sono ancora disponibili per l'ordine; contattaci per sentire quando lo sono. Whisper è un carico di lavoro audio/disco. L'I/O lato della CPU conta tanto quanto la GPU calcola, quindi assicurati che la velocità di lettura del disco continui con l'elaborazione in batch.
I server GPU non sono ancora disponibili per l'ordine. Oggi è possibile eseguire Whisper su un piano normale della CPU, dove funziona molto più lentamente che su una GPU: SSH dentro e eseguire pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.
I modelli audio sono generalmente leggeri VRAM. Whisper Large si adatta a circa 10 GB di VRAM, e i modelli TTS hanno bisogno di 2 a 8 GB.
I prezzi GPU saranno pubblicati quando i server GPU possono essere ordinati. Contattaci se vuoi sentire quando ciò accade.
Sì. Ogni server VPS.org è dotato di accesso root completo, in modo da poter eseguire altri strumenti insieme a Whisper all'interno della RAM e dello storage del server.
Ogni server VPS.org è dotato di accesso SSH completo, in modo da poter installare driver, librerie e Whisper comunque ti servano.
No. Nessun server viene fornito con un runtime CUDA o driver NVIDIA preinstallato, e i server GPU non sono ancora disponibili per l'ordine. Si installano le versioni Whisper ha bisogno di te.
Sì. i server VPS.org sono macchine virtuali persistenti, non istanze effimere: modelli Whisper, config e dati rimangono sullo storage SSD del server fino a quando non li cancelli.
Continuare a lavorare sui dati SSD del server per un accesso veloce durante le corse di Whisper, e copiare manufatti finiti (pesi, generazioni, inserzioni) per lo storage fuori da VPS.org; istantanee e backup rimangono sullo stesso cluster di storage.
È possibile aggiornare qualsiasi server VPS.org a un piano più grande dal pannello di controllo; il ridimensionamento lo riavvia e l'installazione Whisper porta a termine. I server GPU non sono ancora disponibili.
Sì. I backup sono un add-on a pagamento (al giorno +30% del prezzo del piano, mantenuto 7 giorni; settimanale +20%, mantenuto 28 giorni) e le istantanee sono gratuite, che è utile prima di lunghe corse Whisper. Entrambi rimangono sullo stesso cluster di archiviazione del server.
Contatta il supporto entro 30 giorni dal tuo primo acquisto per richiedere un rimborso. I server GPU non sono ancora venduti, quindi non è coinvolto alcun ordine GPU.
La capacità della GPU è limitata. Raccontaci il tuo carico di lavoro e ti risponderemo con disponibilità e prezzi.