NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) 上で TensorFlow と Keras の訓練と推論を実行します。GPU サーバはまだ注文できません。注文したら連絡してください。
$ pip install tensorflow[and-cuda]
# 例えば、インストールコマンド
TensorFlowはGoogleのオープンソースの機械学習フレームワークで、GPUサーバ上でCUDAを介してGPU上で動作します。
TensorFlowは、適切なドライバとCUDAバージョンをインストールすると、CUDAを通してGPUを使用します。
グラフィックプロセッサのバックエンド上に Keras API を使ってモデルを作成します。
TensorBoardを使ってサーバ上で訓練をモニタリングします。
TensorFlow Servingを用いて,訓練モデルをサービングする。
TensorFlow は NVIDIA GPU を使って作業を高速化できます。VPS.org GPU サーバはまだ注文できません。注文するときは、我々に連絡してください。TensorFlow は訓練/微調整ワークロードです。長期間のジョブの計画:VPS のスナップショットを定期的に取って、訓練された重みのコピーを VPS.org の外に保持してください。
グラフィックサーバはまだ注文できません。現在、TensorFlowは通常の CPU プランで実行できます。そこでは、GPU よりも遅く動作します。SSH で入力し、pip install tensorflow[and-cuda]を実行します。
7B LLMの完全な微調整には約24から48GBが必要で、LoRA/QLoRAは8から16GBで十分である。
GPU サーバが注文可能になったときに GPU 価格が公開されます。その時に知りたい場合は、我々に連絡してください。
ああ、すべてのVPS.orgサーバはフルルートアクセスを持ってる だから、他のツールをTensorFlowと共に サーバのRAMとストレージ内で動かすことができる
すべてのVPS.orgサーバはフルルートSSHアクセスを持ち、ドライバ、ライブラリ、TensorFlowを必要に応じてインストールできます。
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.
はい。VPS.orgサーバは永続的な仮想マシンであり、短期間のインスタンスではありません。TensorFlowモデル、コンフィギュレーション、データは、削除されるまでサーバのSSDストレージに残ります。
実行中のデータはサーバのSSDに保持し,TensorFlowの実行中の高速アクセスを可能にし,完成したアーティファクト(重み,生成,埋め込み)をVPS.org以外のストレージにコピーする。
コンピュータの制御パネルからどの VPS.org サーバでもより大きなプランにアップグレードできます。サイズ変更で再起動され、TensorFlow のインストールが引き継がれます。GPU サーバはまだ利用できません。
バックアップは有料アドオン (プラン価格の日々+30%、7日間保持、週間+20%、28日間保持) であり、スナップショットは無料で、長期TensorFlowの実行前に役立ちます。両方ともサーバと同じストレージクラスタに残ります。
初回購入後30日以内にサポートに連絡して返金を要求してください。GPUサーバはまだ販売されていませんので、GPUの注文は含まれません。