近日公開: NVIDIA Tesla P40、24 GB VRAM

テンソルフロー

NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) 上で TensorFlow と Keras の訓練と推論を実行します。GPU サーバはまだ注文できません。注文したら連絡してください。

$ pip install tensorflow[and-cuda]
# 例えば、インストールコマンド

GPU VPS 上の TensorFlow は何ですか?

TensorFlowはGoogleのオープンソースの機械学習フレームワークで、GPUサーバ上でCUDAを介してGPU上で動作します。

TensorFlow on a VPS.org GPU server

GPU加速

TensorFlowは、適切なドライバとCUDAバージョンをインストールすると、CUDAを通してGPUを使用します。

ハード

グラフィックプロセッサのバックエンド上に Keras API を使ってモデルを作成します。

テンソルボード

TensorBoardを使ってサーバ上で訓練をモニタリングします。

TFサービング

TensorFlow Servingを用いて,訓練モデルをサービングする。

よく使われる TensorFlow ユースケース

画像分類
オブジェクト検出
自然言語処理
推奨システム
時系列予測
MLパイプラインの生産

計画中のGPU仕様

グラフィックプロセッサNVIDIA Tesla P40
仮想メモリ24 GB GDDR5
CUDA コア3,840
FP3212 TFLOPS
INT847 TOPS
メモリBW346 GB/s
建築Pascal (GP102)
パッススルーPCIeパススルー

よくある質問

グラフィックカードのVPSでのTensorFlowは何ですか?

+

TensorFlow は NVIDIA GPU を使って作業を高速化できます。VPS.org GPU サーバはまだ注文できません。注文するときは、我々に連絡してください。TensorFlow は訓練/微調整ワークロードです。長期間のジョブの計画:VPS のスナップショットを定期的に取って、訓練された重みのコピーを VPS.org の外に保持してください。

TensorFlowをGPU VPSで設定するには?

+

グラフィックサーバはまだ注文できません。現在、TensorFlowは通常の CPU プランで実行できます。そこでは、GPU よりも遅く動作します。SSH で入力し、pip install tensorflow[and-cuda]を実行します。

TensorFlowにはどれくらいのVRAMが必要ですか?

+

7B LLMの完全な微調整には約24から48GBが必要で、LoRA/QLoRAは8から16GBで十分である。

TensorFlowのGPUサーバは いくらかかる?

+

GPU サーバが注文可能になったときに GPU 価格が公開されます。その時に知りたい場合は、我々に連絡してください。

TensorFlowと同時に他のツールを実行できますか?

+

ああ、すべてのVPS.orgサーバはフルルートアクセスを持ってる だから、他のツールをTensorFlowと共に サーバのRAMとストレージ内で動かすことができる

TensorFlow GPU VPS でフルルートを取得できますか?

+

すべてのVPS.orgサーバはフルルートSSHアクセスを持ち、ドライバ、ライブラリ、TensorFlowを必要に応じてインストールできます。

VPS.org は TensorFlow のために CUDA をプリインストールしますか?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.

TensorFlow GPU VPS はセッション間で保持されますか?

+

はい。VPS.orgサーバは永続的な仮想マシンであり、短期間のインスタンスではありません。TensorFlowモデル、コンフィギュレーション、データは、削除されるまでサーバのSSDストレージに残ります。

TensorFlow ワークロードのデータをどこに保存すればよいか?

+

実行中のデータはサーバのSSDに保持し,TensorFlowの実行中の高速アクセスを可能にし,完成したアーティファクト(重み,生成,埋め込み)をVPS.org以外のストレージにコピーする。

TensorFlow GPU VPS を後で拡張できますか?

+

コンピュータの制御パネルからどの VPS.org サーバでもより大きなプランにアップグレードできます。サイズ変更で再起動され、TensorFlow のインストールが引き継がれます。GPU サーバはまだ利用できません。

バックアップは可能ですか?

+

バックアップは有料アドオン (プラン価格の日々+30%、7日間保持、週間+20%、28日間保持) であり、スナップショットは無料で、長期TensorFlowの実行前に役立ちます。両方ともサーバと同じストレージクラスタに残ります。

返金はできますか?

+

初回購入後30日以内にサポートに連絡して返金を要求してください。GPUサーバはまだ販売されていませんので、GPUの注文は含まれません。

GPU サーバ上で TensorFlow を実行しますか?

GPU 容量は制限されています。ワークロードを教えてください。利用可能性と価格を返信します。