NVIDIA Tesla P40 (24 GB VRAM, Pascal архитектураси) устида OpenAI Whisper билан аудио ва видеони транскрипция қилинг, аудио эса ўз серверингизда сақлансин. GPU серверлари ҳозирча буюртма қилина олмайди; улар буюртма қилинганда хабар олиш учун биз билан алоқа қилинг.
$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Ўрнатиш буйруғи мисоли
OpenAI Whisper очиқ манбали сўзни таниб олиш моделидир. Уни GPUда ишга тушириш CPUда ишга туширишдан тезроқ ва аудиони ўз серверингизда сақлаб қолади.
Whisper CPU дан кўра GPU да тезроқ ишлайди.
Whisper 99 тилда сўзларни транскрипция қилади ва таржима қилади.
Аудио серверингизда қолади.
Катта аудио китобхоналар орасидан гуруҳларда ишлаш.
Whisper NVIDIA GPU'ни иш тезлигини ошириш учун ишлата олади. VPS.org GPU серверлари ҳозирча буюртма учун мавжуд эмас; улар пайдо бўлганда бизга мурожаат қилинг. Whisper аудио/сўз иш юкламасидир. CPU томони I/O GPU ҳисоблаши каби муҳим, шунинг учун дискингиз ўқиш тезлиги пакет ишлаш билан бир хил бўлишига ишонинг.
GPU серверлари ҳозирча буюртма учун мавжуд эмас. Бугунги кунда Whisper'ни оддий CPU режасида ишга тушира оласиз, у GPU'дан анча секинроқ ишлайди: SSH'га киринг ва pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda'ни ишга туширинг.
Аудио моделлар одатда VRAM-light'дир. Whisper Large 10 GB VRAM'га мос келади, TTS моделлари эса 2-8 GB'га мос келади.
GPU нархлари GPU серверлари буюртма қилиниши мумкин бўлганда эълон қилинади. Агар бу содир бўлганда эшитишни истасангиз биз билан алоқа қилинг.
Ҳа. Ҳар бир VPS.org сервери тўлиқ root рухсати билан келади, шунинг учун сиз сервер RAM ва сақлашда Whisper билан бирга бошқа асбобларни ҳам ишга тушира оласиз.
Ҳар бир VPS.org сервери тўлиқ root SSH кириши билан келади, шунинг учун сиз драйверлар, китобхоналар ва Whisper'ни ўзингизга керак бўлган тарзда ўрнатишингиз мумкин.
Йўқ. Сервер CUDA runtime ёки NVIDIA драйвери билан олдиндан ўрнатилган ҳолда келмайди, GPU серверлари эса ҳозирча буюртма учун мавжуд эмас. Сиз Whisper керакли версияларни ўзингиз ўрнатасиз.
Ҳа. VPS.org серверлари доимий виртуал машиналар, вақтинчалик нусхалар эмас: Whisper моделлари, конфигурациялари ва маълумотлари уларни ўчириб ташлагунингизча сервернинг SSD сақловида қолади.
Whisper ишга туширилганда тезкор кириш учун иш маълумотларини сервернинг SSD сида сақлаш ва тугалланган артефактларни (вазн, авлодлар, ёпиштиришлар) VPS.org дан ташқаридаги сақлашга нусхалаш; суратлар ва нусхалар бир хил сақлаш кластерида қолади.
Сиз бошқарув панелидан ҳар қандай VPS.org серверини каттароқ планга янгилай оласиз; ўлчамларни ўзгартириш уни қайта ишга туширади ва Whisper ўрнатишингиз ўрнатишларни олиб кетади. GPU серверлари ҳозирча мавжуд эмас.
Ҳа. Заҳира нусхалари тўловли қўшимча (ҳар куни +30% режа нархи, 7 кун сақланадиган; ҳафтада +20%, 28 кун сақланадиган) ва суратлар бепул, бу узоқ Whisper ишлашдан олдин фойдали. Иккаласи ҳам сервер билан бир хил сақлаш кластерида қолади.
Қўллаб-қувватлаш хизматига биринчи харидингиздан 30 кун ичида пулни қайтариш учун мурожаат қилинг. GPU серверлари ҳали сотилмаган, шунинг учун GPU буюртмаси йўқ.
GPU қуввати чекланган. Бизга иш юкингиз ҳақида айтинг, биз сизга мавжудлиги ва нархини айтиб берамиз.