Už čoskoro: NVIDIA Tesla P40, 24 GB VRAM

Whisper GPU Server

Prepisujte zvuk a video pomocou OpenAI Whisper na NVIDIA Tesla P40 (24 GB VRAM, architektúra Pascal), so zvukom uloženým na vašom vlastnom serveri. Servery GPU zatiaľ nie sú objednateľné. Kontaktujte nás, aby sme vás informovali, keď budú objednateľné.

$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Príklad príkazu na inštaláciu

Čo je Whisper na GPU VPS?

OpenAI Whisper je open source model rozpoznávania reči, ktorý je oveľa rýchlejší ako CPU a uchováva zvuk na vašom vlastnom serveri.

Whisper na serveri s GPU VPS.org

Rýchlosť GPU

Whisper beží oveľa rýchlejšie na GPU ako na CPU.

99 jazykov

Whisper prepisuje a prekladá reč v 99 jazykoch.

Súkromné spracovanie

Zvuk zostáva na vašom serveri.

Dávkové spracovanie

Pracujte s veľkými audioknižnicami v dávkach.

Populárne prípady použitia Whisper

Prepis podcastu
Poznámky zo schôdze
Generovanie titulkov
Analýza call centra
Prístupnosť obsahu
Rozhrania API pre prevod hlasu na text

Plánované špecifikácie GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Jadrá CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Pamäť BW346 GB/s
ArchitektúraPascal (GP102)
PriechodnosťPriechodnosť PCIe

Často kladené otázky

Čo je Whisper na GPU VPS?

+

Whisper môže na zrýchlenie svojej práce používať grafický procesor NVIDIA. Servery s grafickým procesorom VPS.org zatiaľ nie sú k dispozícii na objednanie. Ak chcete vedieť, kedy budú k dispozícii, kontaktujte nás. Whisper je pracovné zaťaženie zvuku/reči. Vstup/výstup na strane CPU je rovnako dôležitý ako výpočet GPU, preto sa uistite, že rýchlosť čítania disku drží krok s dávkovým spracovaním.

Ako nastavím Whisper na GPU VPS?

+

Servery s GPU zatiaľ nie sú dostupné na objednávku, ale dnes môžete spustiť Whisper na bežnom CPU pláne, kde funguje oveľa pomalšie ako na GPU: SSH v a spustiť pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.

Koľko VRAM potrebujem pre Whisper?

+

Model Whisper Large sa zmestí do približne 10 GB pamäte VRAM a modely TTS zvyčajne potrebujú 2 až 8 GB pamäte VRAM.

Koľko by stál GPU server pre Whisper?

+

Ceny grafických procesorov budú zverejnené, keď bude možné objednať servery s grafickými procesormi, ak chcete vedieť, kedy sa to stane, kontaktujte nás.

Môžem spúšťať iné nástroje spolu s Whisper?

+

Každý server VPS.org má úplný root prístup, takže môžete spustiť ďalšie nástroje spolu s Whisper v rámci RAM a úložiska servera.

Dostávam plný root na Whisper GPU VPS?

+

Každý VPS.org server je dodávaný s plným root SSH prístupom, takže môžete nainštalovať ovládače, knižnice a Whisper ako budete potrebovať.

Predinštaluje VPS.org CUDA pre Whisper?

+

Nie, žiadny server sa nedodáva s predinštalovaným runtime CUDA alebo ovládačom NVIDIA a servery GPU nie sú zatiaľ k dispozícii na objednanie. Verzie, ktoré Whisper potrebuje, si nainštalujete sami.

Bude môj Whisper GPU VPS pretrvávať medzi reláciami?

+

Servery VPS.org sú trvalé virtuálne stroje, nie efemérne inštancie: modely Whisper, konfigurácie a údaje zostávajú v SSD úložisku servera, kým ich neodstránite.

Kde by som mal ukladať údaje pre svoje pracovné zaťaženie Whisper?

+

Pracovné dáta ponechajte na SSD servera pre rýchly prístup počas Whisper behu a skopírujte hotové artefakty (váhy, generácie, vloženia) do úložiska mimo VPS.org; snapshoty a zálohy zostávajú v rovnakom úložnom klastri.

Môžem svoj Whisper GPU VPS rozšíriť neskôr?

+

Môžete upgradovať akýkoľvek server VPS.org na väčší plán z ovládacieho panela; zmena veľkosti ho reštartuje a vaša inštalácia Whisper sa prenesie.GPU servery nie sú zatiaľ k dispozícii.

Sú k dispozícii zálohy pre môj GPU VPS?

+

Áno, zálohy sú platený doplnok (denné +30% z ceny plánu, udržiavané 7 dní; týždenné +20%, udržiavané 28 dní) a snapshoty sú zadarmo, čo je užitočné pred dlhými Whisper behom. Obidva zostávajú na rovnakom úložnom klastri ako server.

Môžem dostať späť peniaze?

+

Ak chcete požiadať o vrátenie peňazí, kontaktujte podporu do 30 dní od prvého nákupu.Servery s grafickými procesormi sa ešte nepredávajú, takže sa nejedná o objednávku grafických procesorov.

Chcete spustiť Whisper na GPU Server?

Kapacita GPU je obmedzená, povedzte nám o svojej pracovnej záťaži a my vám odpovieme s dostupnosťou a cenou.