ディープラーニングにおける学習の高速化、CAD、BIMなどのモデリングアプリケーション、あるいは大規模シミュレーション環境など、幅広い場面で活用されているのがGPUサーバーです。このGPUサーバーは、規模が大きくなればオンプレミスで運用するのが難しくなり、その一方でクラウドサービスを利用する際には注意すべき点もあります。ここでは、GPUサーバーを使ったインフラ基盤をどのように構築すべきかについて解説していきます。
昨今話題となっているディープラーニングの学習において、CPUよりも高速に処理が行えることから注目を集めているのがGPU（Graphics Processing Unit）です。もともとはグラフィックス描画に特化したプロセッサとして利用されていましたが、その計算能力を別の領域で利用するGPGPUと呼ばれる技術が広まったことで、AIや各種シミュレーション、暗号解読、医療など、幅広い分野でGPUが活用されるようになりました。
「GPUPU」とは？
このように利用範囲が広がった背景もあり、昨今ではGPUを利用できる仮想サーバーを提供するクラウドサービスも増えています。GPU付きインスタンスとして、たとえばAmazon Web Servicesでは「Amazon EC2 P3」を、マイクロソフトはMicrosoft Azureの中で「Virtual Machines Nシリーズ」を提供しています。
“ネットワークの先にある”GPUの処理能力を生かした新たなソリューションとして、「eVDI（Engineering Virtual Desktop Infrastructure）」と呼ばれる領域も注目を集めています。これはサーバー上で仮想デスクトップ環境を実行し、その上で3D CADなど高いグラフィックス性能が求められるアプリケーションを利用するというものです。
従来、こうしたアプリケーションを利用するユーザーは、高性能なワークステーションを手元に置いて使うことが一般的でした。しかしサーバー上のGPUを使って仮想デスクトップ環境を構築するeVDIであれば、ワークステーションがない環境でもネットワーク経由で仮想デスクトップにアクセスし、3D CADなどを利用することが可能となります。これによって場所に縛られずに作業を行えるようになるほか、データをサーバー上に集約できるため、情報漏えい対策などにおいても有効でしょう。
GPUサーバーを活用したeVDIの例
ディープラーニングの学習、あるいはeVDI環境の構築において、GPUを搭載した仮想サーバーを提供するクラウドサービスは非常に便利な存在です。しかしながら、いくつか気をつけるべきポイントがあるのも事実です。その1つとして意識したいのがコストです。
確かにクラウドサービスであれば、自社でGPUを搭載したサーバーを資産として持つ必要がなく、またハードウェアトラブルへの対応が不要になるなど、運用管理の負担が軽減されるといったメリットはあります。とはいえGPUを搭載した仮想サーバーの利用料金は決して安価とは言えず、継続的に利用すれば相当な額を支払うことになります。また、各パブリッククラウドが用意しているリザーブドプラン（一定期間の利用をコミットすることにより一定の価格割引が受けられるプラン）を利用した場合でも、プランによっては初期費用が発生することがあります。そのため、継続的な利用が見込まれ、かつGPUサーバーの台数が数台で事足りるような、小規模な環境を構築するといった場合であれば、オンプレミスでの運用も視野に入れるべきでしょう。
ディープラーニング用途などで計算量が膨大な場合、パフォーマンスも重要な問題となります。こうしたケースでは、複数のGPUサーバーを相互接続し、処理を分散させることで高速化を図ることが一般的ですが、そこで課題として浮かび上がってくるのがサーバー間の接続です。
このような分散処理では、サーバー間で多くのデータを転送することになりますが、そのネットワークが遅い、あるいは遅延が発生するといったことがあれば、全体のパフォーマンスに大きく影響します。そのため、サーバー間をどう相互接続するかは極めて重要です。
たとえばAIの領域において先進的な研究開発を行っているPreferred Networksでは、深層学習分野における最先端の研究開発用途として、128台のGPUサーバーを使った国内最大規模のシステム基盤を構築しています。この基盤を構築する際、同社はサーバー間を接続するインターコネクト（相互接続）にInfiniBandと呼ばれる技術を採用しました。それは、通常のネットワークよりも高速化が図れる上、遅延も小さいことから、データ転送のボトルネックを解消できるメリットがあったためです。
一方、クラウドサービスの場合、要件やニーズに合わせて相互接続に使う技術を選択するのは不可能でしょう。また極めて高速なデータ転送では、サーバー間の物理的な距離もパフォーマンスに影響を及ぼします。しかしパブリッククラウドでは仮想サーバーがどの物理サーバーで動くのかはわからないため、たとえばデータセンターの端と端にある物理サーバーがあてがわれてしまい、遅延が大きいことから思うようなパフォーマンスが得られなかったということも起こりえます。
このように、特に高いパフォーマンスが求められる領域では、パブリッククラウドでは注意すべき点がいくつかあります。しかしGPUサーバーの数が数十台に達するような規模では、オンプレミスでの運用は困難です。そもそも複数のGPUを搭載すると必要となる電力量が膨大となることに加え、GPUサーバーが発する熱への対応も考えなければなりません。また、GPUサーバーの台数が増えれば、運用の負担も大きくなります。
実際、前述したPreferred Networksは自社で構築するのではなく、パートナーとしてNTTコミュニケーションズとNTTPCコミュニケーションズを選定し、その構築から運用までを委託しています。この基盤が構築・運用されているのが、NTTコミュニケーションズグループのGPUプラットフォームです。
Preferred Networks向けスーパーコンピュータ
さらにNTTコミュニケーションズでは、GPUサーバーを中心とした高速ストレージやインターコネクトなどの周辺インフラを一括提供する「GPUソリューション」も展開しています。このソリューションは一般的なパブリッククラウドとは異なり、ユーザー企業のニーズに合わせてGPUサーバー基盤を構築するプライベートクラウド型のサービスです。あらかじめ用意されたGPUサーバーを提供するといったものではないため、サーバーが離れていて相互接続で遅延が発生する、などといった心配はありません。
「GPUソリューション」構成イメージ
構築されたGPUサーバー環境は月額サービスとして利用することが可能であり、クラウドサービスと同様に自社で資産として持つ必要はありません。またインフラ管理に必要な監視や運用保守についてもNTTコミュニケーションズ側で行われることも見逃せない利点でしょう。
またGPUプラットフォームが構築されているのは同社のデータセンターである「Nexcenter」内であり、国内のデータセンターを利用できることから、センシティブなデータを扱うといったケースでも安心です。加えて、特にGPUサーバーの運用で考慮する必要がある熱問題への対処のため、リアドア冷却方式のラックの提供を2018年度内に開始予定です。これはラックの背面扉に屋外冷却設備で作られた冷水を循環させて冷却する方式であり、冷却効率が高く、発熱量の多いサーバーにも対応可能です。そのほか、冷却効率の高いコールドプレート方式や液浸方式等の導入検討もすでに開始しています。
このGPUソリューションでは、eVDI用途も想定されています。GPUを搭載したサーバーの上で仮想マシンを実行し、3D CADを利用したり各種シミュレーションを行ったりすることができます。
国内データセンターであることは、このeVDIにも大きなメリットをもたらします。仮想デスクトップ環境を利用する際、接続先であるサーバーが遠ければレスポンスが悪化し、マウスをクリックしても反応がすぐに返ってこないなど使い勝手に悪影響を及ぼします。しかし国内データセンターであれば遅延を抑えられるため、快適に仮想デスクトップ環境を使えるというわけです。
業務アプリケーションなどで使うサーバーのクラウド移行は多くの企業で進められていますが、そのような環境で使うサーバーとAIやeVDIで利用するGPUサーバーでは要件が異なります。そのため、安直に「これまで使っているクラウドでGPUも提供されているから」などと選べば、コストの無駄が発生したり、必要なパフォーマンスが得られなかったりするおそれがあります。まずは自社の利用形態を明確化し、適切なコストで利用可能か、そしてパフォーマンスをはじめとする要件を満たせるかといった観点からサービスの選定を行い、自社にとって最適なものを選択するようにしましょう。
