VMware Private AI Foundation with NVIDIA
エンタープライズ向けプライベートAIプラットフォーム
- VMware by Broadcom
VMware Private AI Foundation with NVIDIA の
製品概要
NVIDIA 社と VMware by Broadcom 社が共同開発した企業向けのプライベート AI 基盤
VMware Private AI Foundation with NVIDIA は、NVIDIA 社と VMware by Broadcom 社が共同開発した企業向けのプライベートAI基盤です。プライベートかつセキュアな AI プラットフォームが、企業の生産性向上を実現します。
VMware Cloud Foundation 上に構築されるプラットフォームは、NVIDIA の AI モデルやツール、フレームワークが統合されており、生成 AI をはじめとした各プライベート AI の導入において、プライバシー保護、コスト最適化、高いパフォーマンス、そしてコンプライアンス遵守を可能にします。さらに、エンタープライズ環境に適した設計により、セキュアなデータ処理と効率的な AI モデルのトレーニングを強力にサポートします。
VMware Private AI Foundation with NVIDIA の特長
VMware Private AI Foundation with NVIDIA は、企業がプライベート AI をより迅速に導入し、独自に学習させた AI によるアプリケーション開発や展開を、使い慣れた vSphere 環境で実行できます。それを可能にする NVIDIA 社と VMware by Broadcom 社の統合されたソリューションを紹介します。
VMware の検証済み認定構成
VMware Private AI Foundation with NVIDIA は、VMware による検証済の環境を構築できる VMware Cloud Foundation (VCF) と、NVIDIA のエンタープライズ向け AI 開発環境である NVIDIA AI Enterprise が統合されています。メーカー検証済みでサポートされる構成で提供されるため、迅速な AI 基盤の構築が可能です。
Deep Learning VM
Deep Learning VMは、NVIDIA AI Enterprise のライブラリやツール、ドライバなどがあらかじめインストールされたAIワークロードの実行環境用の仮想マシンです。仮想マシンテンプレートとして提供されるため、簡単にVCFの仮想環境上へ展開して、用途に合わせた任意のフレームワークのコンテナを起動して利用開始できます。
vSphere Kubernetes Service (vGPU対応)
vSphere Kubernetes Serviceは、VMware が提供する vSphere 環境で Kubernetes クラスタのライフサイクルを一元的に管理して、Kubernetes プラットフォームを構築・運用が可能なエンタープライズ向けの Kubernetes 基盤で、vGPU にも対応しています。NVIDIA AI Enterprise で提供される GPU-Operator によって、最適化を行いながら vGPUをKubernetes Pod 内でも利用が可能です。
VMware ソリューションの活用
VMware Cloud Foundation 上で NVIDIA AI Enterprise を使用する VMware Private AI Foundation with NVIDIA は、VCF で利用可能な VMware ソリューションを AI プラットフォームで活用できます。
VMware Aria Operations: GPU モニタリング機能
VMware Aria Automation: AI 開発/実行環境を開発者が数クリックで展開
VMware Data Services Manager: Vector DB の展開/管理
技術者ブログでもっと詳しく
VMware Private AI Foundation with NVIDIA とは
企業向けのプライベート AI 基盤である VMware Private AI Foundation with NVDA は、VMware Cloud Foundation による仮想化の基盤上に vGPU を搭載したコンテナ実行環境が動作しており、その中で NVIDIA AI Enterprise が提供する各種 AI ワークロードを実行・展開することができます。
VMware Private AI Foundation with NVIDIAの全体像
VMware Private AI Foundation with NVIDIAの構成要素
VMware Cloud Foundation
VMware Cloud Foundation (VCF) は VMware が提供する vSphere、vSAN、NSX で構成されたソフトウェアスイートで、高度なセキュリティとソフトウェアライフサイクルを自動化し、オンプレミス環境にプライベートクラウドを構成できるソリューションです。AI の開発や利用において重要な、GPU を柔軟に利用するための NVIDIA vGPU や NVIDIA GPU Manager に対応しており、仮想 GPU を AI ワークロードや Pod で使用が可能です。
NVIDIA AI Enterprise
AI の開発や展開に最適な NVIDIA 製のエンタープライズ向けソフトウェアスイートです。NVIDIA の検証済みでサポートされる AI 向けのソフトウェアがカタログで提供されており、AI 向けライブラリを搭載したコンテナイメージや学習済みモデルなど、開発に必要なものから、本番利用向けのコンテナイメージをまとめたコレクションも提供されています。
NVIDIA 仮想 GPU ソリューション
NVIDIA の物理 GPU を仮想化し、複数台のマシンで利用できるようにするのが NVIDIA vGPU です。VCFでは各ESXに搭載された物理 GPU を仮想化して、仮想マシンやコンテナで利用する GPU リソースを必要な分だけ割り当てることも、GPU デバイスとして仮想マシンに割り当てることも可能です。仮想マシンで使用する vGPU のドライバは、NVIDIA GPU Manager を使用することで vSphere コントロール上でインストールから管理まで一貫しておこなうことができます。
NVIDIA AI Enterprise による AI ワークロード
AI の活用と一言で言っても、データの整理や深層学習、最適化といった AI モデルの開発と、作成した AI モデルで推論や調整などをサービスとして展開するという段階を踏む必要があります。こうした一連のタスクが AI ワークロードです。
VMware Private AI Foundation with NVIDIA では、NVIDIA AI Enterprise が提供する AI 関連のソフトウェアを VCF 上で構成することで、AI の開発から展開・実行までの一連のプロセスをすべて実現します。
VMware Private AI Foundation with NVIDIA のライセンス
VMware Private AI Foundation with NVIDIA は、複数のライセンスを組み合わせたソリューションです。使用を開始するには、システム構成に合わせて各ライセンスやハードウェアの購入が必要です。
VMware Private AI Foundation with NVIDIA に必要な構成の詳細は、以下の公式サイトのガイドを参照ください。
VMware Private AI Foundation with NVIDIA ガイド
※ NVIDIA AI Enterprise で提供されているソフトウェアについては、個別に調達が必要です。
VMware Private AI については SB C&S のエキスパートによる技術ブログもご覧ください。