Faʻaliliuina leo ma vitio ma OpenAI Whisper i luga o se NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), ma leo e teu i luga o lau lava 'au'aunaga. E le mafai ona faʻatauina le GPU servers; faʻafesoʻotaʻi mai matou e faʻailoa mai pe a mafai.
$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Faʻataʻitaʻiga o le faʻapipiʻiina o le upu
O le OpenAI Whisper o se faʻataʻitaʻiga o le faʻamaonia o le gagana e maua mai i se punaoa faʻaonapo nei. E sili atu le vave o le faʻagaioia i luga o se GPU nai lo le CPU ma e te teuina lau leo i luga o lau lava 'au'aunaga.
E sili atu le vave o le Whisper i luga o se GPU nai lo le CPU.
Whisper transcribes ma faʻaliliuina le gagana i 99 gagana.
E tumau le leo i lau 'au'aunaga.
Atinaʻe i luga o le tele o le leo o le fono i le faʻavasegaina.
Whisper e mafai ona faaaoga se NVIDIA GPU e vave ai lona galuega. VPS.org GPU servers are not available to order yet; contact us to hear when they are. Whisper is an audio / speech workload. CPU-side I/O matters as much as GPU compute, so ensure your disk read speeds keep up with batch processing.
E le o avanoa le GPU servers e fa'atau ai. I le aso nei e mafai ona e fa'agaioia le Whisper i luga o se fuafuaga CPU masani, e fa'aititia ai le saoasaoa nai lo le GPU: SSH i ma fa'agaioia le pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.
O le Whisper Large e fetaui i le tusa ma le 10 GB o le VRAM, ma o le TTS e masani ona manaʻomia le 2 i le 8 GB.
O le tau o le GPU o le a faalauiloaina pe a mafai ona talosagaina le GPU. Faafesootai mai pe afai e te manaʻo e iloa pe a tupu lea mea.
O le a uma le VPS.org server e maua ai le avanoa atoa i le root, ina ia mafai ai ona e faʻagaioia isi mea faigaluega e faʻatasi ai ma le Whisper i totonu o le RAM ma le teuina o le server.
O le a oʻo mai i soʻo se 'au'aunaga VPS.org ma le faʻaaogaina atoa o le SSH root, ina ia mafai ai ona e faʻapipiʻi drivers, libraries ma Whisper e ui lava e te manaʻomia.
E leai. E leai se 'au'aunaga e oʻo mai ma se CUDA runtime poʻo se NVIDIA driver preinstalled, ma e le o avanoa le GPU servers e faʻatau ai. E te faʻapipiʻi le lomiga e manaʻomia e Whisper oe lava.
O le VPS.org servers o masini faʻaonapo nei, e le o ni faʻataʻitaʻiga e le tumau: Whisper models, configs ma le faʻamatalaga e nofo i le SSD storage o le server seia e faʻasaʻo i latou.
Ia teuina le faʻaaogaina o faʻamatalaga i luga o le SSD o le 'auʻaunaga mo le faʻaaogaina vave i le taimi o le Whisper, ma faʻakopi le faʻaiuga o meatotino (maualuga, tausaga, faʻapipiʻiina) i le teuina i fafo atu o le VPS.org; o ata ma faʻatupeina e nofo i le tutusa teuina cluster.
E mafai ona e faaleleia so'o se 'au'aunaga VPS.org i se fuafuaga tele mai le paneli pule; o le fa'aititia o le tele e toe amataina ai ma o le a fa'asolo atu lau' upega tafa'ilagi Whisper. E le o avanoa nei 'au'aunaga GPU.
O backups o se totogi faaopoopo (i aso uma +30% o le tau o le fuafuaga, na teuina 7 aso; vaiaso +20%, na teuina 28 aso) ma snapshots e saoloto, lea e aoga i luma o le umi Whisper e tatala. E lua nofo i le tutusa pusa teuina o le faitotoʻa.
Faafesootai le lagolago i totonu o aso 30 o lau muamua faʻatau e talosagaina se toe totogi. E leʻi faʻatauina foi GPU servers, o lea e le o aofia ai se GPU order.
E faʻatapulaʻaina le gafatia o le GPU. Taʻu mai ia i matou e uiga i lau mamafa o galuega ma o le a matou tali atu i le avanoa ma le tau.