ITER遠隔実験ネットワーク

課題名
ITER 遠隔実験ネットワーク試験
研究代表者 長山 好夫・核融合科学研究所
研究協力者 中西 秀哉・核融合科学研究所
山本 孝志・核融合科学研究所
江本 雅彦・核融合科学研究所
須藤 滋・核融合科学研究所
平木 敬・東京大学大学院 情報理工学系研究科
谷田 直樹・東京大学大学院 情報理工学系研究科
Hans-Werner Bartels・ITER-IO・フランス
Bjoern Wilhelm・ITER-IO・フランス
Robert Papp・ITER-IO・フランス
1.
はじめに
国内外の核融合研究では、大型化につれて重点化(少数の大型装置に集中化)が進
んでおり、遠隔地にある大型実験装置への通信を介したアクセス、特にデータ閲覧などが
容易にできる臨場感のある研究環境が強く望まれている。これに応えて核融合科学研究所
(NIFS)では平成 13 年度より各大学と NIFS とをつなぐ「核融合バーチャルラボラトリ」
(SNET)を、国立情報学研究所(NII)の高速学術情報ネットワーク(SINET3)上に構
築・運用してきた。これまで、NIFS の大型ヘリカル装置(LHD)への遠隔実験参加やス
ーパーコンピュータの共同利用など全国 21 拠点が SNET に参加し、大いに成果が挙がって
いる。しかし、双方向共同研究での高度な遠隔利用において、データ転送速度の低下問題
が顕在化してきた。これはインターネットの標準的な伝送方法である TCP/IP プロトコルで
は、受信確認を待って次の送信をするために、いくら広帯域であっても距離が長くなるに
つれて通信速度が低下するという問題である。
一方、世界中の国が協力して行う核融合実験として国際核融合実験炉(ITER)があり、
10 年後の実験開始を目標にフランス・カダラッシュに本体を建設中である。日本は準ホス
ト国として青森県六ヶ所村に遠隔実験センターを設置し、研究参加することになっている。
日本・フランス間は帯域 10Gbps の回線で結ばれているが、15,000km 離れているために受
信確認の待ち時間が 0.3 秒にもなり、いくら広帯域のネットワークであっても、現在の技術
では1ショットの ITER 実験データ(予想 1 TB)を六ヶ所村に転送するには百万秒もかか
る。これでは ITER 遠隔実験が成立しないことになり遠隔実験構想にも影響がでている。
このように核融合研究の遠隔実験参加では通信速度低下問題の解決が強く望まれてい
る。
2. 申請時に記述した狙いと期待される効果について
1)
固有の成果
(申請時の記述)平木教授(東大)は新しい TCP/IP 最適化技術を開発し帯域幅の 90%
ものデータ転送速度を得ることに成功した。この技術の延長が可能ならば、実験開始時に
は ITER 実験データ転送時間は百秒となる。そこで、この加速技術を用いて 15,000km 離
れたカダラッシュ-核融合科学研究所(NIFS)間で帯域幅の 90%ものデータ転送速度が得
られるかを試験する。成功すれば、大学研究者にとってより便利な遠隔実験構想への大き
な第一歩となる。また、10 年後と言わず、現在であってもデータ交換、TV 会議など世界
中の技術者による ITER 建設時での緊密なコミュニケーションや、数年後に稼働開始する
六ヶ所スーパーコンピュータの計算結果のデータ転送などに必要な高速ネットワーク通信
に大いに役に立つはずである。
(成果)後述するように、本試験では期待通り帯域幅の 88%以上のデータ転送速度が
得られ、当初の目的を達した。
2)
分野間連携、国際ネットワーク、拠点形成という観点から
(申請時の記述)核融合科学研究所(NIFS)では 2002 年から国立情報学研究所(NII)
が運用する高速ネットワーク(SINET3)を用いて遠隔実験参加システム(SNET)を開発・
運用してきた。データ転送速度低下にも悩まされたが、加速技術導入により NIFS-九大間
では転送速度 300Mbps で運用している。今回、平木教授の協力により日仏データ転送試験
が成功すれば、情報科学分野との分野間連携の出発点となる。もちろん、核融合分野の中
でも、NIFS や大学側の核融合学術研究分野と ITER の核融合開発分野の間の連携が強化さ
れる。
(成果)この観点からも NIFS、東大、NII、ITER、Renater の緊密な分野間連携ができ
た。ITER-IO 側にも大きなインパクトを与えることができ、本試験の3ヶ月後には、より
高度な 4Gbps 試験がフランス側の絶大な協力で実行できた。また、ITER 建設に応用すべ
く、今後の研究開発を連携して行うことになった。このように、当初の目的を達成するこ
とができた。
3.
海外への派遣について
派遣者氏名:平木 敬 (東京大学大学院・情報理工学系研究科・教授、日本)
派遣者氏名:谷田 直樹(東京大学大学院・情報理工学系研究科・M2、日本)
派遣者氏名:中西 秀哉(核融合科学研究所・准教授、日本)
期間:平成 21 年6月 8-21 日
派遣先:ITER 本部(カダラッシュ、フランス)
主たる成果:平木教授の新しい TCP/IP 加速技術を用いて、15,000km 離れた ITER-IO(カ
ダラッシュ)-NIFS(土岐市)間でデータ転送試験を行った。その結果、同じノート型パ
ソコンでも OS によって差があり、
Windows VISTA では転送速度 0.4Mbps、
普通の LINUX
では転送速度 3Mbps であったのに対し、平木法では 881Mbps であった。ポートの帯域幅
は 1Gbps であるので、帯域幅の 88%ものデータ転送速度が得られたことになる。この成果
は、平成 21 年6月 15-19 日にエクサンプロバンスで開催された第7回核融合研究のため
の制御とデータ収集、遠隔実験の IAEA 技術会議で報告された。また、6 月12日(日本時
間)に ITER-IO と NIFS とを結んで TV 会議を用いた記者会見を行い、6月13日の岐阜
新 聞 朝 刊 、 6 月 1 4 日 の 中 日 新 聞 岐 阜 版 朝 刊 、 お よ び ITER-NEWS No.88
(http://www.iter.org/newsline/Pages/88/832.aspx)に記事が掲載された。
4.
研究課題の総括
本研究は、NIFS(日本)と ITER 本部(フランス)間のコンピュータネットワークにお
けるデータ送信速度の試験である。使用したネットワークは、図1に示すように、日米間
が SINET3、米欧間が GEANT2、フランス国内が Renater である。ネットワークの帯域幅
は 10Gbps、総延長は 15,000km である。
GEANT2
Paris
RENATER
New York
Toki
NIFS-ITER 間データ転送試験に用いたネットワーク経路。
Receiver
data
k
ac
(a) TCP protocol
図2
Sender
Receiver
Sender
Receiver
none
Sender
Window size
図1
Cadarache
SINET3
(b) LAN
広帯域ネットワーク内の TCP/IP を用いた長距離通信で発生する LFN 問題。
(c) WAN
awin :advertised window size
Receiver
Dat
a
Ack
図3
aw
with
in
To
application
Socket Buffer
Throughput
Sender
cwin:congestion windows size
Packet loss —> Congestion
shrink
shrink
recovery
recovery
あらかじめ連絡することで受信側に window サイズに合わせたバッファーを持たせる。window サイズを
大きくしすぎると、過密通信(Congestion)となりパケットロスが発生する。その場合、window サイズを
縮め、通信を回復させる。
1000
Transfer Rate (Mbps)
Present Test
図4 ITER 本部と核融合研間のデータ転送速度。用いた
100
パソコンは同じノート型であるが、OS が異なる。
10
国際ネットワーク回線の帯域幅は 10Gbps だが、
Standard LINUX
1Gbps である。
1
0.1
0
ITER および NIFS のネットワークのポートは
Windows VISTA
50
100 150 200 250 300
time (sec)
遠隔地間を結ぶ広域ネットワーク(WAN)上では、近距離の局所的ネットワーク(LAN)
利用時にはない通信速度の低下問題、すなわち高遅延帯域積(LFN)問題、が生じること
が知られている。これは遠距離通信で顕在化する伝送遅延の影響により、実効的な通信速
度が大きく悪化する現象である。インターネット通信の実質的標準プロトコルである
TCP/IP では、図2(a)に示すように、ある大きさのデータの固まり(ブロック)を送る
毎に、送付先から受信確認(ack)が届くのを待って、次のデータ・ブロックを送ることで、
データ授受の信頼性を高めている。遠隔地間通信の場合、通信データが光ケーブル上を往
復するのに必要な時間(=往復遅延時間)は、たとえば日本-フランス間では 0.3 秒にもな
る。そこで、図2(b)に示すように、ack が届かなくてもあるブロック数(Window サイ
ズ)を次々送りつけることで転送速度を上げようとする。LAN の外側の WAN 通信では長
距離のため往復遅延時間が大きく、それが Window サイズより大きいと、図2(c)に示す
ように無通信時間帯が発生する。従って、長距離の WAN 通信では実際にネットワークにデ
ータ送信している時間はわずかで、残りはほとんど受信確認を待っている無通信時間帯で
占められてしまい、データ転送速度が大幅に劣化する。
(a) W/o Packet pacing
(b) PSPacer (PAUSE packet)
JP  FR
JP FR
(c) IPG tuning / NIC module
FR  JP
図5 今回実測した NIFS(日本)から ITER 本部
(フランス)へのデータ転送速度。(a) パケ
ットペース制御しない場合。(b) OS 内のソフ
トウェアでパケットペース制御した場合。(c)
ネットワークカード(NIC)内で制御した場
合。
実際におきる問題はもう少し複雑である。現在の技術でもコンピュータは少しでも転送速
度を上げようと、window サイズを徐々に上げていく。通信が過密になると障害(パケット
ロス)が発生する。するとコンピュータは図3(右)のように一度大きく window サイズ
を縮め、通信を回復させた後、再び window サイズを徐々に上げていく。Windows のよう
なパソコンの OS では window サイズを急速に大きくしようとする。これは障害が発生しに
くい近距離の LAN では効果的だが、遠距離通信の場合は頻繁にパケットロスを発生させ、
かえって転送速度を損なう。平木法のポイントは、パケットロス発生限界よりわずかに小
さな window サイズを見つけ、それを維持する最適化にある。
今回の試験では、日本側ではラックマウントサーバを NIFS 内に設置し、SNET の 1Gbps
ルータに接続した。フランス側ではノート型パソコンを ITER 本部内に設置し、Renater
の Cadarache ノードに今回の試験専用に設けられた 1Gbps ポートと光ケーブルで接続され
た ITER 本部内の 1Gbps ルータに、接続した。日本側のラックマウントサーバはフランス
から操作できるようにした。ITER 本部内のノート型パソコンも宿泊先から操作できるよう
にし、長時間の大容量データ転送試験は他人の通信への影響が少ない深夜に行った。
今回の試験で測定した結果を図4と図5に示す。ネットワークの帯域が 1Gbps であるの
に対し、ノート型パソコンの OS が Windows VISTA の場合は転送速度が 0.4Mbps と帯域
幅の 0.4 パーセント、OS が LINUX の場合は転送速度が 3Mbps と帯域幅の 3 パーセント
となった。このときの転送速度は、図5(a) に示す時間変化のように、window サイズが急
上昇してはパケットロスを起こして急降下するといった様子を示し、平均では転送速度が
上がらなかった。そこで通信ペース制御をソフトウェアで行い、window サイズの最適化を
図ったところ、図5(b)に示すようにパケットロスが激減し、最高値 900Mbps での高速転送
が実現した。さらに、ネットワークカードのドライバをチューニングしたところ、図5(c)
に示すようにパケットロスが全くない安定な高速転送が実現した。
要するに、今回の幹線帯域 10Gbps+両末端帯域1Gbps という試験環境において、最大
データ転送速度 944Mbps という高性能を達成し、3時間で 1.12TB の大量データを、共有
回線において、滞りなく3時間で伝送する(平均データ転送速度:881Mbps)という従来
にない大きな成果をあげることに成功した。今回の実証実験により、大型国際研究プロジ
ェクトを国際的連携協力によって強力に推進する基礎が確立したといえる。
5.
その他
本計画は、平成 20 年度の SNET タスク会議との合同研究会において、平木教授が自らフ
ランスに行くとの意志をしめしたことで具体的計画が立てられた。ITER 連携担当の中村幸
夫教授より ITER-DA に打診をし、ITER-DA の草間義紀博士(JAEA)が文科省の内諾を
得、ITER-IO に申し入れた。しかし、ITER-IO は建設をするところであって研究するとこ
ろではないと、ITER-IO のネットワーク責任者は消極的であったが、松本宏博士(ITER-IO)
のご尽力により本計画が実現の運びとなった。現場レベルで TV 会議などにより詳細な打ち
合わせして実行計画を具体化した。神崎センター長には六ヶ所センターから TV 会議システ
ムを搬出していただいた。試験では、日欧間の各ネットワークの運用者から多大な応援と
助力を得た。たとえば光ケーブルの汚れがパケットロスの原因となるが、当方の要請に即
応して光ケーブル端部を磨くなどの対策をとっていただいた。関係各位に深く感謝する次
第である。
今回の試験に当たっては、ITER-IO にもメリットがあることが条件であった。ITER-IO
から要望されたのは、実際に各国の ITER-DA との通信を高速化することである。今回の試
験ではパソコンのネットワークカードのドライバを最適化して高速化を実現したが、
ITER-IO や ITER-DA 内の全てのパソコンやデータサーバのネットワークカードを変更す
ることは不可能である。したがって、各 ITER-DA の LAN の入り口に WAN 高速化装置を
置かなければならない。そこで核融合科学研究所では新たな課題として WAN 高速化装置の
研究開発を開始した。
<発表論文>
[1] N. Tanida, K. Hiraki, M. Inaba: “Highly efficient data transmission facility through
very long distance high-speed networks”, 7th IAEA Technical Meeting on Control,
Data Acquisition and Remote Participation for Fusion Research, (15 - 19 June 2009,
Aix-en-Provence, France).
[2] T. Yamamoto, Y. Nagayama, et al.: “Progress of the Virtual Laboratory for Fusion
Researches in Japan”, 12th International Conference on Accelerator and Large
Experimental Physics Control Systems (12-16 Oct. 2009, Kobe, Japan).
[3] Y. Nagayama, M. Emoto, et al.: “A Proposal for the Global Remote Participation
System”, 7th General Scientific Assembly of the Asia Plasma and Fusion Association
(27-30 Oct. 2009, Aomori, Japan)