バリア同期というのは、並列計算でのプログラムの並列実行の制御の1つの方 法です。例えば、気象のシミュレーションで、計算する領域を CPU の数 だけ分割して、1つの CPU は小さい領域を担当するとします。流体計算では隣 合う領域のデータが必要になるので、最初は計算を始める時にそのデータを互 いに交換します。で、それを使って自分の領域の1ステップの計算が終わった ら、また隣とデータを交換します。

この時、ちゃんと交換できるためには、相手が計算が終わったことがわかる必 要があります。

もっとも、この場合については、本当は終わったかどうか判定する必要はなく て、

• 自分のデータは勝手に送りつける
• 相手のデータはくるまで待つ

バリア同期は、プログラムの中で「ここで同期」と書く(普通は、何か並列計 算ライブラリのそれ用の関数を呼ぶ)と、 全部のプロセッサがプログラムのそ の行に到達するまで先についたプロセッサは待って、全部着いたら次に進む、 というものです。実現する方法は色々あって、信号線をだしておいてハードウェ アで or をとって、といったものから、イーサネットでの通信ソフトウェアを 使って実現するものまであります。いずれにしても、このようにバリア同期 (単に「同期」ということもあります)しておくと、例えば、「相手がデータを 受け付けられる状態である」ということが保証されるので、色々話が簡単にな ります。

話がそれました。要点は、 Cray の主力機は、基本的には普通の PC を沢山並 べて、その間を少し速いネットワークでつないだようなものだ、ということで す。

では、現在の日本では「スーパーコンピューター」の代名詞的存在である地球 シミュレータや、その後継機である NEC SX-8 はどうでしょうか？これらはさ すがに Intel や AMD のプロセッサを使っているわけではなく、独自開発のプ ロセッサです。しかし、プロセッサの速度自体はそれほど速いわけではありま せん。 地球シミュレータでクロック速度は 500MHzであり、完成時には Intel Pentium 4 は既に 2GHz に達していたことを考えるとむしろ遅いものです。但 し、Pentium 4 は1クロックに2演算しかしないので理論ピーク性能は2GHz の 場合で 4Gflops ですが、地球シミュレータは1クロックに16演算して 8 Gflops となります。が、まあ、大した違いではありません。

違いはメモリとの転送バンド幅と、プロセッサ間ネットワークにあります。ま ず、地球シミュレータでは 8 プロセッサがメモリを共有し、それぞれが 16GB/s の速度で共有したメモリにバラバラに読み書きができます。同じ時期 の Intel Pentium 4 では、 RDRAM を使った場合でメモリとの転送のバンドは 理論ピークが 3.2GB/s であり、実際にはもっと低いのでこれには結構大きな 違いがあります。

さらに、地球シミュレータ全体ではこの 8 プロセッサが単位になった計算ノー ドが640個あるわけですが、それらはクロスバースイッチでつながっていると されています。つまり、どのプロセッサも他の全てのプロセッサにデータを送 ることができ、しかも(送り先がぶつかってなければ)全部のプロセッサが同時 にデータを送ることもできるようになっています。

現在、アメリカやヨーロッパでは、スーパーコンピューターとして主に売れて いるのは IBM の大型サーバです。これは色々な意味で NEC SX-8 と Cray XT3 の中間にあって、

• プロセッサは Intel ではないけど IBM は他にも使っている Power 系
• 最大32プロセッサまでメモリ共有
• ノード間は一応独自のネットワーク

値段ですが、地球シミュレータや SX-8 はプロセッサ1つ当り1千万円、 IBM はもうちょっと安くて数百万、Cray XT3 は100万前後、となります。普通の PC はハイエンドでなければ 10万そこそこですね。

プロセッサあたりの理論ピーク性能はせいぜい2倍しか違わないので、値段あ たりの性能は実は普通のパソコンのほうが最大 50倍近く良いことになります。 次回はそのようになったのは何故か？を考えてみます。そのためには、スパコ ン、パソコンのそれぞれが、過去数十年間にどのように発展してきたか、を振 り返ってみる必要があります。

Previous

ToC

Next