NTTコミュニケーションズ

Bizコンパス

AI時代のビジネスを支えるGPUインフラ導入の勘所
2018.12.05

GPUで切り拓くAI時代のビジネス最前線第4回

AI時代のビジネスを支えるGPUインフラ導入の勘所

著者 Bizコンパス編集部

パブリッククラウドで提供されるGPUサーバーが抱える課題

 ディープラーニングの学習、あるいはeVDI環境の構築において、GPUを搭載した仮想サーバーを提供するクラウドサービスは非常に便利な存在です。しかしながら、いくつか気をつけるべきポイントがあるのも事実です。その1つとして意識したいのがコストです。

 確かにクラウドサービスであれば、自社でGPUを搭載したサーバーを資産として持つ必要がなく、またハードウェアトラブルへの対応が不要になるなど、運用管理の負担が軽減されるといったメリットはあります。とはいえGPUを搭載した仮想サーバーの利用料金は決して安価とは言えず、継続的に利用すれば相当な額を支払うことになります。また、各パブリッククラウドが用意しているリザーブドプラン(一定期間の利用をコミットすることにより一定の価格割引が受けられるプラン)を利用した場合でも、プランによっては初期費用が発生することがあります。そのため、継続的な利用が見込まれ、かつGPUサーバーの台数が数台で事足りるような、小規模な環境を構築するといった場合であれば、オンプレミスでの運用も視野に入れるべきでしょう。

 ディープラーニング用途などで計算量が膨大な場合、パフォーマンスも重要な問題となります。こうしたケースでは、複数のGPUサーバーを相互接続し、処理を分散させることで高速化を図ることが一般的ですが、そこで課題として浮かび上がってくるのがサーバー間の接続です。

 このような分散処理では、サーバー間で多くのデータを転送することになりますが、そのネットワークが遅い、あるいは遅延が発生するといったことがあれば、全体のパフォーマンスに大きく影響します。そのため、サーバー間をどう相互接続するかは極めて重要です。

 たとえばAIの領域において先進的な研究開発を行っているPreferred Networksでは、深層学習分野における最先端の研究開発用途として、128台のGPUサーバーを使った国内最大規模のシステム基盤を構築しています。この基盤を構築する際、同社はサーバー間を接続するインターコネクト(相互接続)にInfiniBandと呼ばれる技術を採用しました。それは、通常のネットワークよりも高速化が図れる上、遅延も小さいことから、データ転送のボトルネックを解消できるメリットがあったためです。

 一方、クラウドサービスの場合、要件やニーズに合わせて相互接続に使う技術を選択するのは不可能でしょう。また極めて高速なデータ転送では、サーバー間の物理的な距離もパフォーマンスに影響を及ぼします。しかしパブリッククラウドでは仮想サーバーがどの物理サーバーで動くのかはわからないため、たとえばデータセンターの端と端にある物理サーバーがあてがわれてしまい、遅延が大きいことから思うようなパフォーマンスが得られなかったということも起こりえます。

SHARE

関連記事

PFNがディープラーニング研究開発を支えるGPU計算基盤を構築

2018.05.30

GPUで切り拓くAI時代のビジネス最前線第2回

PFNがディープラーニング研究開発を支えるGPU計算基盤を構築

仮想デスクトップを「GPU」で10倍速くしたハーゲンダッツ

2018.10.12

デスクトップ仮想化の最前線

仮想デスクトップを「GPU」で10倍速くしたハーゲンダッツ

事例で解説!RPA、AI、チャットボット導入の勘所

2018.01.19

働き方改革&生産性向上のカギはどこにある?第1回

事例で解説!RPA、AI、チャットボット導入の勘所

実装が進むディープラーニングのビジネス最新動向

2016.07.27

デジタル時代のビジネス創造を考える第2回

実装が進むディープラーニングのビジネス最新動向

有識者が語る「ディープラーニングのビジネス活用のリアル」

2019.06.28

「Deep Learning Lab 2周年記念イベント」レポート

有識者が語る「ディープラーニングのビジネス活用のリアル」

2019年のITトレンドは?企業の動向を知るキーワード

2018.12.12

ビジネススピードを加速するIT基盤第17回

2019年のITトレンドは?企業の動向を知るキーワード

ディープラーニングとGPUが、社会を変えるAIを作り出す

2018.11.16

GPUで切り拓くAI時代のビジネス最前線第3回

ディープラーニングとGPUが、社会を変えるAIを作り出す

GPUとは?AI分野での活用事例とこれからのトレンド

2018.05.25

GPUで切り拓くAI時代のビジネス最前線第1回

GPUとは?AI分野での活用事例とこれからのトレンド