aws memo

AWS関連の備忘録 (※本ブログの内容は個人的見解であり、所属組織及び企業の意見を代弁するものではありません。1年以上古いエントリは疑ってかかってください)

HPC:インターコネクトのメモ

トポロジー(http://people.cs.umass.edu/~weems/CmpSci635A/635lecture14.html)

Direct(Static)

  • Bus
  • Ring
  • Full connect
  • Mesh
  • Torus(2D/3D)
  • Hypercube
  • Direct Tree( without switch)

Dynamic(indirect)

  • RDT(Recursive Diagonal Torus)
  • Crossbar 
  • MIN (Multi-stage Interconnection Network)
  • MDX (Multi-Dimensional Crossbar)... HXB
  • Tree
  • Fat Tree(クラスタで主流らしいが、ノード数の限界に直面している)

今後は、近接通信(Nearest neighboring communication)なプログラムでmesh/torusの出番?

bi-section bandwidth (バイセクションバンド幅)

http://www.gsic.titech.ac.jp/node/313

現在のスパコンは並列機で、多数の計算ノードをネットワークで相互接続するが、全ての計算ノードが全力で通信した時にシステム全体で達成しうる通信性能の下限をいう。「フルバイセクション」ネットワークの場合は、 どういう通信をしても下限が一定、つまり、特定の通信パターンで通信性能が大幅に下がることがないが、構築コストが高く、一部のスパコンでしか使われない。

http://www.cc.u-tokyo.ac.jp/system/ha8000/ha8000-tebiki/chapter1.html

フルバイセクションバンド幅の構成とはクラスタ内の任意の半数のノードが同時に残り半分のノードにデータを送信してもネットワーク内での競合が発生しないネットワーク構成を意味します。16ポートのスイッチを24個使用して128ノードのフルバイセクションネットワークを構成する例を挙げます。

myrinet.eps

http://ja.wikipedia.org/wiki/%E5%B8%AF%E5%9F%9F%E5%B9%85

関連する統計的量として、ネットワーク全体の帯域幅の総計を示す「2分割帯域幅; bisection bandwidth」がある。これは、ネットワークを2つに分割し、その間にある全リンクの帯域幅を合計したものである。