| マイクロデータセンター 32ウェイキャリア | |
|---|---|
2017年11月、デンバーで開催されたSC17で展示された、サーバー24台、FPGAボード8枚、10GbEスイッチ、ストレージ、電源、冷却装置を搭載したフル装備のDOMEマイクロデータセンター(写真は2Uラックユニットの半分) |
マイクロデータセンターは、コンピューティング、ストレージ、電力、冷却、ネットワークを非常に小さなスペースに収めており、「データセンター・イン・ア・ボックス」と呼ばれることもあります。この用語は、過去20年間、このアイデアの様々な形態を表すために使用されてきました。2017年末、スーパーコンピューティングカンファレンス2017で、非常に緊密に統合されたバージョンであるDOMEマイクロデータセンターが発表されました。[1]主な特徴は、温水冷却、完全なソリッドステート、そして汎用部品と標準規格のみで構築されていることです。
DOMEプロジェクト
DOMEは、 IBMとASTRONがオランダ政府資金で運営する官民パートナーシップのプロジェクトで、世界最大の計画中の電波望遠鏡であるスクエア・キロメートル・アレイ(SKA)を対象とした技術ロードマップを策定しています。[2] [3] 2010年代後半から2020年代初頭にかけて、オーストラリアと南アフリカに建設される予定です。7つのDOMEプロジェクトの1つは、小型で安価、かつ計算効率の高いマイクロデータセンター(旧称マイクロサーバー)です。[4]
マイクロデータセンターの目標は、SKAアンテナの近くでデータの初期処理を行うだけでなく、ビッグデータ分析を行うスーパーコンピュータ内でも使用できるようにすることです。これらのサーバーは、冷却されたデータセンターだけでなく、アンテナが設置される砂漠などの環境的に過酷な場所にも、非常に大量に設置することができます。
マイクロサーバーはパフォーマンスが低いという誤解がよくあります。これは、最初のマイクロサーバーがAtomsまたは初期の32ビットARMコアをベースとしていたことに起因しています。DOME MicroDataCenterプロジェクトの目的は、低コスト、低消費電力で高性能を実現することです。MicroDataCenterの主な特徴は、そのパッケージング、つまり通信距離を短くできる非常に小さなフォームファクターです。これは、従来のコンピューティングサーバーから可能な限り多くのものを単一のSoC(サーバーオンチップ)に統合することで、不要なコンポーネントをすべて排除するマイクロサーバーの使用に基づいています。マイクロサーバーは、可能な限り最高のシングルスレッドパフォーマンスを提供するのではなく、中程度から高いパフォーマンスでエネルギーを最適化した設計ポイントを提供します。2015年には、いくつかの高性能SoCが市場に登場し始め、2016年後半にはQualcomms Hydraなど、より幅広い選択肢が利用可能になりました。[5]
サーバーレベルでは、28nm T4240ベースのマイクロサーバーカードは、エネルギー効率が最適化された22nm FinFET XEON-E3 1230Lv3ベースのサーバーと比較して、ジュールあたりの演算性能が2倍になり、総合性能も40%向上します。この比較はサーバーボードレベルでのものであり、チップレベルでのものではありません。[6]
設計
2012年、ロナルド・P・ルイテン率いるIBMチューリッヒ研究所のチームは、Linuxを搭載した、汎用部品をベースにした非常に計算密度が高く、エネルギー効率の高い64ビットコンピュータの設計に着手しました。[7] [8]必要なコンポーネントのほとんどが1つのチップに収まるシステムオンチップ(SoC)設計がこれらの目標に最も適しており、「マイクロサーバー」の定義が生まれました。これは、RAM、ブートフラッシュ、電力変換回路を除く、基本的に完全なマザーボードがチップに収まるというものです。ARM 、 x86 、 Power ISAベースのソリューションが調査され、 2012年の決定時点では、フリースケールのPower ISAベースのデュアルコアP5020 /クアッドコアP5040プロセッサをベースにしたソリューションが最有力候補となりました
このコンセプトはIBMのBlue Gene スーパーコンピュータに似ていますが、DOMEマイクロサーバーは市販のコンポーネントをベースに設計されており、標準のオペレーティングシステムとプロトコルを実行するため、開発とコンポーネントのコストを抑えることができます。[9]
完成したマイクロサーバーは、標準のFB-DIMMソケットと同じフォームファクターに基づいています。19インチラックの2Uドロワーに、これらのコンピューティングカード128枚と、外部ストレージおよび通信用のネットワークスイッチボードを搭載する予定です。冷却は、ドイツのSuperMUCスーパーコンピューターで初めて開発されたAquasar温水冷却ソリューションによって行われます。[10]
最初のプロトタイプの設計は、2014年7月3日にDOMEユーザーコミュニティに公開されました。P5040 SoCチップ、16GBのDRAM、そしていくつかの制御チップ(監視、デバッグ、ブートに使用されるCypressのPSoC 3など)で、133×55mmの物理寸法を持つ完全なコンピューティングノードが構成されています。カードのピンは、SATA、5Gビットイーサネットポート、2Gビットイーサネットポート、 SDカードインターフェイス、USB 2インターフェイス、そして電源に使用されます。コンピューティングカードは35Wの電力エンベロープ内で動作し、最大70Wのヘッドルームを備えています。部品価格はプロトタイプ1つのみで約500ドルです。[7] [8] [9] [11] [12]
2013年後半、第2プロトタイプ用に新しいSoCが選定されました。フリースケールの最新12コア/フル24スレッドのT4240は、 P5040 (TDP43W)と同等の消費電力で、大幅に高性能です。この新しいマイクロサーバーカードは24GB DRAMを搭載し、銅製ヒートスプレッダーによる給電と冷却が可能です。2017年初頭にフル2Uドロワーに搭載し、より大規模な導入に向けて製造と検証が行われています。ネイティブ10GbEシグナリングをサポートするため、DIMMコネクタはSPD08コネクタに交換されました。
2016年後半、T4240ベースのマイクロサーバーカードの生産バージョンが完成しました。同じフォームファクタとコネクタ(プラグ互換)を使用し、NXP(旧Freescale)LS2088A SoC(A72 ARMv8コア8基搭載)をベースとした2つ目のサーバープロトタイプボードもほぼ同時期に完成しました。[9] [12] [10] [13]
歴史
| microDataCenter製品版 | |
|---|---|
T4240ZMSサーバー24台とFPGAカード8枚を搭載した32ウェイキャリア |
最小フォームファクタのマイクロデータセンター技術は、チューリッヒのDOMEマイクロサーバーチームによって開発されました。コンピューティングは複数のマイクロサーバーで構成され、ネットワークは少なくとも1つのマイクロスイッチモジュールで構成されています。P5040ZMSをベースとした8ウェイプロトタイプシステムの最初のライブデモは、Supercomputing 2015の新興技術展示の一環として実施され、[14] 2016年3月のCeBITでもライブデモが行われました。8ウェイHPLはCeBITで実演され、「LinPack-in-a-shoebox(靴箱の中のLinPack)」と名付けられました。
2017年、チームは2Uラックユニットに64台のT4240ZMSサーバー、2台の10/40GbEスイッチ、ストレージ、電源、冷却装置を搭載した製品版を完成させました。右下の写真は、2Uラックユニットの半分に相当する32ウェイキャリアに、24台のT4240ZMSサーバー、8枚のFPGAボード、スイッチ、ストレージ、電源、冷却装置が搭載されている様子です。この技術は、従来のパッケージ型データセンター技術と比較して、同等の総合性能を維持しながら、密度を20倍に高めています。これは、新しいトップダウン設計、部品数の最小化、従来のCPUではなくSoCの使用、そして温水冷却による高密度実装によって実現されています。[15]
参考文献
- ^ ポール・アルコーン(2017年11月22日)「スーパーコンピューティング2017スライドショー」Tom's Hardware
- ^ “ASTRON & IBM Center for Exascale Technology”. 2020年1月25日時点のオリジナルよりアーカイブ。2014年7月2日閲覧。
- ^ 平方キロメートルアレイ:究極のビッグデータチャレンジ
- ^ “ASTRON & IBM Center for Exascale Technology - Microservers”. 2014年7月14日時点のオリジナルよりアーカイブ。2014年7月2日閲覧。
- ^ “Qualcomm Hydra”. 2017年4月17日時点のオリジナルよりアーカイブ。2017年4月16日閲覧。
- ^ [「12コア 1.8GHz 188K-CoreMark 28nm バルクCMOS 64b SoCをベースにした、159 GB/s/Lのメモリ帯域幅とシステム密度を備えたビッグデータアプリケーション向けエネルギー効率の高いマイクロサーバー」、R.Luijten他、ISSCC15、サンフランシスコ、2015年2月]
- ^ ab 「PPC、Linux、温水冷却を活用したIBM高密度μServerデモンストレーション・プラットフォーム」(PDF) 。 2014年7月14日時点のオリジナル(PDF)からアーカイブ。 2014年7月2日閲覧。
- ^ ab Hemsoth, Nicole (2014年4月11日). 「ビッグサイエンス、小さなマイクロサーバー:IBMリサーチが64ビットの可能性を推進」. HPCwire .
- ^ abc Morgan, Timothy Prickett (2014年7月7日). 「IBM DOME Microserverは企業にとって魅力的か」. EnterpriseAI .
- ^ ab 「NLeSC、IBMおよびASTRONとDOME契約を締結」2014年1月15日 – Flickr経由。
- ^ 「SKA向けIBM-ASTRON 64ビットμServerデモンストレーター」(PDF) 。 2014年7月14日時点のオリジナル(PDF)からアーカイブ。 2014年7月2日閲覧。
- ^ ab “DOME向けIBMおよびASTRON 64ビットμServer”. 2014年7月14日時点のオリジナルよりアーカイブ。2014年7月3日閲覧。
- ^ 「IBM、驚異的な小型スーパーコンピュータを発表」PCWorld。
- ^ 「DOME 温水冷却マルチノード 64 ビット マイクロサーバー クラスター」。2016年1月27日時点のオリジナルよりアーカイブ。2017年12月5日閲覧。
- ^ DOMEマイクロデータセンタープロジェクト