近日公開: NVIDIA Tesla P40、24 GB VRAM

ウェイパーGPUサーバ

NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) 上で OpenAI Whisper でオーディオとビデオを転写し、オーディオは自分のサーバに保存します。GPU サーバはまだ注文できません。注文したら連絡してください。

$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# 例えば、インストールコマンド

GPU VPS 上の Whisper は何ですか?

OpenAI Whisper はオープンソースの音声認識モデルです。GPU 上で動作すると CPU 上で動作するよりも速く、オーディオは自分のサーバに保存されます。

Whisper on a VPS.org GPU server

GPU 速度

WhisperはCPUよりもGPUで速く動作します。

99言語

Whisperは99の言語で音声を転写し翻訳する。

プライベートプロセッシング

オーディオはサーバに残る

バッチ処理

大規模なオーディオライブラリをバッチで操作します。

よく使われる Whisper ユースケース

ポッドキャスト転写
会議ノート
字幕生成
電話センター分析
コンテンツアクセシビリティ
音声変換アプリケーションプログラムインタフェース

計画中のGPU仕様

グラフィックプロセッサNVIDIA Tesla P40
仮想メモリ24 GB GDDR5
CUDA コア3,840
FP3212 TFLOPS
INT847 TOPS
メモリBW346 GB/s
建築Pascal (GP102)
パッススルーPCIeパススルー

よくある質問

グラフィックカードのVPSでのWhisperは何ですか?

+

Whisper は NVIDIA GPU を使って作業を高速化できます。VPS.org GPU サーバはまだ注文できません。注文するときは、我々に連絡してください。Whisper はオーディオ/スピーチワークロードです。CPU 側 I/O は GPU コンピューティングと同じくらい重要です。ディスク読み込み速度がバッチ処理に対応していることを確認してください。

WhisperをGPU VPSで設定するには?

+

グラフィックサーバはまだ注文できません。現在、Whisperは通常の CPU プランで実行できます。そこでは、GPU よりも遅く動作します。SSH で入力し、pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cudaを実行します。

WhisperにはどれくらいのVRAMが必要ですか?

+

Whisper Large は約 10 GB の VRAM を必要とし、TTS モデルは通常 2 から 8 GB を必要とします。

WhisperのGPUサーバは いくらかかる?

+

GPU サーバが注文可能になったときに GPU 価格が公開されます。その時に知りたい場合は、我々に連絡してください。

Whisperと同時に他のツールを実行できますか?

+

ああ、すべてのVPS.orgサーバはフルルートアクセスを持ってる だから、他のツールをWhisperと共に サーバのRAMとストレージ内で動かすことができる

Whisper GPU VPS でフルルートを取得できますか?

+

すべてのVPS.orgサーバはフルルートSSHアクセスを持ち、ドライバ、ライブラリ、Whisperを必要に応じてインストールできます。

VPS.org は Whisper のために CUDA をプリインストールしますか?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions Whisper needs yourself.

Whisper GPU VPS はセッション間で保持されますか?

+

はい。VPS.orgサーバは永続的な仮想マシンであり、短期間のインスタンスではありません。Whisperモデル、コンフィギュレーション、データは、削除されるまでサーバのSSDストレージに残ります。

Whisper ワークロードのデータをどこに保存すればよいか?

+

実行中のデータはサーバのSSDに保持し,Whisperの実行中の高速アクセスを可能にし,完成したアーティファクト(重み,生成,埋め込み)をVPS.org以外のストレージにコピーする。

Whisper GPU VPS を後で拡張できますか?

+

コンピュータの制御パネルからどの VPS.org サーバでもより大きなプランにアップグレードできます。サイズ変更で再起動され、Whisper のインストールが引き継がれます。GPU サーバはまだ利用できません。

バックアップは可能ですか?

+

バックアップは有料アドオン (プラン価格の日々+30%、7日間保持、週間+20%、28日間保持) であり、スナップショットは無料で、長期Whisperの実行前に役立ちます。両方ともサーバと同じストレージクラスタに残ります。

返金はできますか?

+

初回購入後30日以内にサポートに連絡して返金を要求してください。GPUサーバはまだ販売されていませんので、GPUの注文は含まれません。

GPU サーバ上で Whisper を実行しますか?

GPU 容量は制限されています。ワークロードを教えてください。利用可能性と価格を返信します。