Kpọnye ụda na vidio na OpenAI Whisper na NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), na ụda echekwara na sava gị. GPU sava anaghị arụ ọrụ ugbua; kpọtụrụ anyị ka a mara mgbe ha ga-arụ ọrụ.
$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Nhazi iwu
OpenAI Whisper bụ oghe-isi okwu-aghọta móòdù. Ihu ya na GPU dị n'ụdị ngwa ngwa karịa CPU nakwa na-echekwa ụda gị na sava gị.
Whisper na-agba ọsọ n'ụzọ n'ụzọ n'ime GPU karịa CPU.
Whisper na-atụgharị okwu n'asụsụ 99.
Ogo na-anọ n'ọ̀rụ̀ gị.
Ọrụ site n'ọnụọgụgụ ụda ọfụụ na-arụ ọrụ n'ime batch.
Whisper nwere ike iji NVIDIA GPU ka ọ na-agba ọsọ ọrụ ya. VPS.org GPU sava anaghị adị maka ịnye iwu; kpọtụrụ anyị ka ịhụ mgbe ha bụ. Whisper bụ ụda/okwu ọrụ. CPU-side I/O dị mkpa ka GPU compute, yabụ hụ na ọsọ nke ịgụ diski gị na-echekwa na batch processing.
GPU sava anaghị adị maka ịnye n'oge a. Ugbu a ị nwere ike igwu Whisper na CPU n'omume, ebe ọ na-arụ ọrụ n'ụzọ dị n'ebe ahụ karịa na GPU: SSH na-agba ọsọ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.
Ogwe ụda model bụ VRAM-light. Whisper Large dị n'ime 10 GB nke VRAM, na TTS model na-achọ 2 ruo 8 GB.
GPU price ga-egosipụta mgbe GPU sava nwere ike ịhazi. Kpọnye anyị ma ọ bụrụ na ịchọrọ ịnụ mgbe nke ahụ ga-eme.
Ee. VPS.org sava ọbụla na-abịa na ikikembanye zuru ezu nke uruti, ya mere ị nwere ike ijikwa ihenhọrọ ndị ọzọ n'otu oge na Whisper n'ime RAM na nchekwa nke sava ahụ.
VPS.org sava ọbụla na-abịa na ikikembanye SSH zuru ezu nke nwuo, yabụ ị nwere ike ịwụnye draịva, laịbịara na Whisper dịka ịchọrọ.
Ọ dịghị. Enweghị sava na-abịa na CUDA runtime mọọbụ NVIDIA draịva nke e mepụtara n'ihu, na GPU sava ndị ahụ enweghị ike ịhazi ha. I na-etinye ụdị Whisper chọrọ gị onwe gị.
Ee. VPS.org sava bụ ndị na-adịgide virulụ igwe, ọ bụghị ihenhọrọ ndị na-adịgide: Whisper model, configurations na data na-adị na sava SSD nchekwa ruo mgbe ị na-ehichapụ ha.
Kwụsị ọrụ data na sava SSD maka nbanye n'oge Whisper na-arụ ọrụ, na debata artifaktị echepụtara (n'obere, n'ọdịnihu, na-ekpuchi) ka nchekwa n'ebe okpuru VPS.org; snapshot na backups nọ na nchekwa cluster ahụ.
I nwere ike ịkwalite ọbụla VPS.org sava ka ọbụla n'ime ntọala ndị ahụ site na paneelụ nlekọta; mmegharịa nha na-ebido ya nakwa ịwụnye Whisper gị na-ebido. GPU sava anaghị adị ugbua.
Ee. Backups bụ a paid add-on (abalị +30% nke atụmatụ ọnụahịa, echekwara ụbọchị 7; izu +20%, echekwara ụbọchị 28) na snapshots bụ free, nke bụ uru tupu ogologo Whisper na-arụ ọrụ. Ha abụọ na-adị na nchekwa cluster dị ka sava.
Kpọnye nkwado n'ime ụbọchị 30 nke ịzụta mbụ gị iji bipụta nkwụghachi. GPU sava anaghị ere ere, yabụ ọ dịghị GPU n'ime iwu ahụ.
GPU nwere ike dị obere. Kpọnye anyị banyere ọrụ gị ma anyị ga-aza na ọbụla na ọnụọgụgụ.