近日公開: NVIDIA Tesla P40、24 GB VRAM

AI/ML 訓練用GPUサーバ

NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) 上でモデルをフィーチャリングし、トレインします。LoRA フィーチャリングや小型モデルに最適です。GPU サーバはまだ注文できません。注文したら連絡してください。

$ pip install torch transformers datasets accelerate && python train.py
# 例えば、インストールコマンド

GPU VPS 上の AI Training は何ですか?

AIモデルの訓練には GPU が提供する並列計算が必要です。GPU サーバは、自分の訓練ジョブのために GPU を一つ提供します。

AI Training on a VPS.org GPU server

ホールGPU

24GB VRAM を備えたフル Tesla P40 GPU。共有も制限もない。

フレームワーク選択

PyTorch、TensorFlow、JAX、または Pascal GPU をサポートするフレームワーク。

SSDストレージ

データセット,チェックポイント,モデルファイルをサーバのSSDストレージに保持する。

SSHアクセス

訓練環境を設定するためのフルルートアクセス

よく使われる AI Training ユースケース

モデルフィニッシュ
転送学習
カスタムモデル訓練
ハイパーパラメータチューニング
データセット前処理
LoRAアダプタ

計画中のGPU仕様

グラフィックプロセッサNVIDIA Tesla P40
仮想メモリ24 GB GDDR5
CUDA コア3,840
FP3212 TFLOPS
INT847 TOPS
メモリBW346 GB/s
建築Pascal (GP102)
パッススルーPCIeパススルー

よくある質問

グラフィックカードのVPSでのAI Trainingは何ですか?

+

AI Training は NVIDIA GPU を使って作業を高速化できます。 VPS.org GPU サーバはまだ注文できません。注文するときは、我々に連絡してください。AI Training は一般的な GPU 加速ワークロードです。ソフトウェアが CUDA サポートを持ち、ドライバ/ランタイムバージョンが AI Training のワークロード要求に合致していることを確認してください。

AI TrainingをGPU VPSで設定するには?

+

グラフィックサーバはまだ注文できません。現在、AI Trainingは通常の CPU プランで実行できます。そこでは、GPU よりも遅く動作します。SSH で入力し、pip install torch transformers datasets accelerate && python train.pyを実行します。

AI TrainingにはどれくらいのVRAMが必要ですか?

+

VRAM needs for AI Training depend on the model and batch size; check the project documentation for current figures.

AI TrainingのGPUサーバは いくらかかる?

+

GPU サーバが注文可能になったときに GPU 価格が公開されます。その時に知りたい場合は、我々に連絡してください。

AI Trainingと同時に他のツールを実行できますか?

+

ああ、すべてのVPS.orgサーバはフルルートアクセスを持ってる だから、他のツールをAI Trainingと共に サーバのRAMとストレージ内で動かすことができる

AI Training GPU VPS でフルルートを取得できますか?

+

すべてのVPS.orgサーバはフルルートSSHアクセスを持ち、ドライバ、ライブラリ、AI Trainingを必要に応じてインストールできます。

VPS.org は AI Training のために CUDA をプリインストールしますか?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions AI Training needs yourself.

AI Training GPU VPS はセッション間で保持されますか?

+

はい。VPS.orgサーバは永続的な仮想マシンであり、短期間のインスタンスではありません。AI Trainingモデル、コンフィギュレーション、データは、削除されるまでサーバのSSDストレージに残ります。

AI Training ワークロードのデータをどこに保存すればよいか?

+

実行中のデータはサーバのSSDに保持し,AI Trainingの実行中の高速アクセスを可能にし,完成したアーティファクト(重み,生成,埋め込み)をVPS.org以外のストレージにコピーする。

AI Training GPU VPS を後で拡張できますか?

+

コンピュータの制御パネルからどの VPS.org サーバでもより大きなプランにアップグレードできます。サイズ変更で再起動され、AI Training のインストールが引き継がれます。GPU サーバはまだ利用できません。

バックアップは可能ですか?

+

バックアップは有料アドオン (プラン価格の日々+30%、7日間保持、週間+20%、28日間保持) であり、スナップショットは無料で、長期AI Trainingの実行前に役立ちます。両方ともサーバと同じストレージクラスタに残ります。

返金はできますか?

+

初回購入後30日以内にサポートに連絡して返金を要求してください。GPUサーバはまだ販売されていませんので、GPUの注文は含まれません。

GPU サーバ上で AI Training を実行しますか?

GPU 容量は制限されています。ワークロードを教えてください。利用可能性と価格を返信します。