平成 12 年度総括報告書(PDF 形式) - 平木研究室

ス ケー ラ ブ ル な 分 散 サー バ 環 境 の 研 究
松本
尚
平木
敬
[email protected]
[email protected]
東京大学大学院理学系研究科情報科学専攻
はじめに
1.1
研究開発の背景
1
近 年、 コ ン ピュー タ ネッ ト ワー ク (イ ン ター ネッ ト や 企 業 内 ネッ ト ワー ク) の 規 模 は
拡 大 し、 ネッ ト ワー ク 利 用 者 は 急 速 に 増 大 し て い る。 ま た、 ネッ ト ワー ク の 利 用 方 法
も 年々 高 度 化 し て、 マ ル チ メ ディ ア デー タ が ネッ ト ワー ク 上 に お い て 流 通 し 始 め て い
る。 こ れ に 伴 い、 ネッ ト ワー ク を 流 れ る デー タ 量 が 大 幅 に 増 大 し て い る。 こ の た め、
ネッ ト ワー ク を 介 し た 情 報 処 理 の 中 核 と な る コ ン ピュー タ (サー バ マ シ ン) へ の 性 能
要 求 が 増 大 し て い る。 企 業 内 ネッ ト ワー ク を 構 築 す る 企 業 や イ ン ター ネッ ト プ ロ バ イ
ダ は こ の 要 求 増 大 に、 高 価 な サー バ 用 計 算 機 (専 用 並 列 計 算 機 や 大 型 機) を 導 入 す る
こ と に よ り 対 処 し て い る。 既 に 導 入 し た サー バ マ シ ン の 処 理 能 力 が 不 足 し た 場 合 に
は、 さ ら に 高 価 な 計 算 機 と リ プ レー ス す る 必 要 に 迫 ら れ、 リ プ レー ス 時 に は ソ フ ト ウェ
ア お よ び デー タ を 移 し 換 え る た め に、 多 大 な 作 業 コ ス ト が 発 生 す る。
本 研 究 に お い て は、 こ れ ら の 状 況 を 大 幅 に 改 善 す る た め に、 サー バ マ シ ン を ワー
ク ス テー ショ ン ク ラ ス タ に よっ て 構 築 し、 そ の 能 力 を 構 成 マ シ ン の 台 数 に よっ て ス ケー
ラ ブ ル に 変 更 可 能 に す る た め の 基 本 ソ フ ト ウェ ア 群 を 研 究 開 発 す る。
1.2
期 待 さ れ る 効 果、 成 果
本 研 究 開 発 の 大 局 的 目 的 は 前 記 研 究 背 景 で 示 さ れ る よ う に、 サー バ 計 算 機 の 大 幅
な コ ス ト パ フォー マ ン ス の 改 善 と 処 理 能 力 に ス ケー ラ ビ リ ティ を 与 え る こ と で あ る。
本 目 標 を 達 成 す る た め に は 下 記 4 項 目 の 達 成 を 含 め た 基 本 ソ フ ト ウェ ア 群 の 再 構 築
が 必 要 で あ る:
1.
マ ル チ プ ラッ ト ホー ム 間 通 信 方 式 の 開 発
マ ル チ プ ラッ ト ホー ム 間 通 信 方 式 の 開 発 で は、 メ モ リ ベー ス 通 信 ファ シ リ ティ を
多 く の プ ラッ ト フォー ム 上 で 使 用 可 能 に す る こ と を 目 指 す。 メ モ リ ベー ス 通 信 ファ
シ リ ティ (MBCF:
Memory-Based Communication Facilities)[9, 10] は、 独 創 的 先 進 的 情
報 技 術 に 係 わ る 研 究 開 発 事 業 「汎 用 超 並 列 オ ペ レー ティ ン グ シ ス テ ム カー ネ ル SSS{
CORE
の 研 究」 [8, 11] に お い て、 開 発 さ れ た 新 し い 通 信 方 式 で あ る。 MBCF は 特
殊 な ハー ド ウェ ア を まっ た く 必 要 と せ ず、 通 常 の LAN に 接 続 可 能 な コ ン ピュー タ
に 保 護 さ れ 仮 想 化 さ れ た 高 速 な 通 信 お よ び 同 期 手 段 を 提 供 す る。
2.
分散資源仮想化方式の開発
分 散 資 源 仮 想 化 方 式 の 開 発 で は、 ス ケー ラ ブ ル サー バ 内 の 仮 想 化 さ れ た 高 性 能
メ モ リ シ ス テ ム お よ び ファ イ ル シ ス テ ム の 実 現 を 目 指 す。 サー バ マ シ ン は 大 量
の デー タ お よ び プ ロ グ ラ ム を ファ イ ル シ ス テ ム に 保 持 管 理 す る 必 要 が あ り、 ファ
イ ル シ ス テ ム の 性 能 が シ ス テ ム 全 体 の 性 能 の ボ ト ル ネッ ク と な る 可 能 性 が あ る。
こ の た め、 メ モ リ 管 理 シ ス テ ム と 統 合 さ れ た 高 性 能 ファ イ ル シ ス テ ム を サー バ
マ シ ン に 提 供 す る。
1
3.
高速分散言語実行環境の提供
高 速 分 散 言 語 実 行 環 境 の 提 供 で は 高 速 分 散 Java 言 語 実 行 環 境 の 構 築 を 行 う。 本
研 究 開 発 に お い て、 サー バ 用 ス ケー ラ ブ ル オ ペ レー ティ ン グ シ ス テ ム を 独 自 開 発
す る た め、 サー バ 用 ア プ リ ケー ショ ン プ ロ グ ラ ム を 確 保 す る 必 要 が あ る。 こ の た
め、 プ ラッ ト フォー ム 依 存 性 が な く、 ア プ リ ケー ショ ン 開 発 言 語 と し て 注 目 さ れ
て い る Java 言 語 の 実 行 環 境 を 構 築 す る。 こ の Java 言 語 実 行 環 境 自 体 も シ ス テ ム
の 高 速 通 信 機 構 や ス ケー ラ ビ リ ティ の 恩 恵 を 享 受 で き る よ う に、 分 散 並 列 拡 張
を 行 う。
4.
ク ラ ス タ 化 し た 分 散 サー バ 用 オ ペ レー ティ ン グ シ ス テ ム の 開 発
ク ラ ス タ 化 し た 分 散 サー バ 用 オ ペ レー ティ ン グ シ ス テ ム の 開 発 で は、 汎 用 ス ケー
ラ ブ ル オ ペ レー ティ ン グ シ ス テ ム SSS{CORE を ベー ス に サー バ 用 に 機 能 拡 張 さ れ
た オ ペ レー ティ ン グ シ ス テ ム を 開 発 す る。 SSS{CORE に 対 し て、 ス ケー ラ ブ ル サー
バ 用 オ ペ レー ティ ン グ シ ス テ ム と し て 機 能 強 化 と 最 新 鋭 ワー ク ス テー ショ ン へ の
移 植 を 行 う。 機 能 強 化 の 内 容 と し て は 以 下 の 項 目 が 挙 げ ら れ る。
オ ペ レー タ か ら 単 一 イ メー ジ に 見 え る オ ペ レー ティ ン グ シ ス テ ム
低 オー バ ヘッ ド の メ モ リ ベー ス 通 信 に よっ て 多 数 の ク ラ イ ア ン ト に 対 応
UDP/IP, TCP/IP, MBCF/IP を 高 効 率 で サ ポー ト
分 散 並 列 拡 張 さ れ た Java を ス ケー ラ ブ ル に 処 理
サー バ OS と し て の 安 定 性 と セ キュ リ ティ の 確 保
共 有 メ モ リ・ 共 有 ファ イ ル シ ス テ ム を 活 用 し た 負 荷 分 散
研究開発の目標と内容
2.1
研究開発の目標
2
本 研 究 プ ロ ジェ ク ト で 研 究・ 開 発 す る ス ケー ラ ブ ル な 分 散 サー バ 環 境 は、 1.2 節 の
「期 待 さ れ る 効 果、 成 果」 に 示 し た 4 項 目 を 含 む サー バ 用 ワー ク ス テー ショ ン ク ラ ス
タ シ ス テ ム お よ び ク ラ イ ア ン ト マ シ ン の 基 本 ソ フ ト ウェ ア 群 で あ る。 本 ス ケー ラ ブ
ル な 分 散 サー バ 環 境 の 研 究 開 発 の 目 標 を 以 下 に 列 挙 す る。
1.
サー バ シ ス テ ム を ワー ク ス テー ショ ン ク ラ ス タ に よっ て 構 築 す る の に 十 分 な 基 本
ソ フ ト ウェ ア 群 を 研 究 開 発 す る こ と
2.
並 列 ア プ リ ケー ショ ン に 関 し て、 サー バ で あ る ワー ク ス テー ショ ン ク ラ ス タ の 能
力 が 台 数 調 整 に よっ て ス ケー ラ ブ ル に 可 変 で き る こ と
3.
共 有 メ モ リ 並 列 プ ロ グ ラ ム を ワー ク ス テー ショ ン ク ラ ス タ 上 で 高 効 率 で 動 作 可
能にすること
4.
理 想 的 な 特 徴 を 兼 ね 備 え た MBCF プ ロ ト コ ル を、 SSS{CORE が 稼 働 し て い る 計 算
機 以 外 の プ ラッ ト フォー ム に 移 植 す る こ と に よ り、 分 散 並 列 処 理 能 力 を 向 上 さ せ
る と と も に、 サー バ の 通 信 処 理 の オー バ ヘッ ド コ ス ト を 大 幅 に 削 減 す る こ と
5.
今 後 イ ン ト ラ ネッ ト 上 の ア プ リ ケー ショ ン 記 述 言 語 と し て 広 く 使 用 さ れ る と 予
6.
共 有 メ モ リ シ ス テ ム お よ び メ モ リ 管 理 シ ス テ ム と 協 調 す る ネッ ト ワー ク ファ イ
想 さ れ る Java 言 語 実 行 環 境 を、 高 効 率 の 分 散 並 列 実 行 環 境 と し て 提 供 す る こ と
ル シ ス テ ム を 構 築 し て、 サー バ ワー ク ス テー ショ ン ク ラ ス タ 環 境 に 統 一 さ れ 高 効
率 で あ る ファ イ ル シ ス テ ム を 実 現 す る こ と
2
2.2
前年度までの研究開発成果概略
平 成 1 0 年 度 (研 究 開 発 初 年 度) に は、 SSS{MC
Ver.2.0
(SSS{CORE
Ver.1.1 の ノー
ド 常 駐 部 分) の UltraSPARC ワー ク ス テー ショ ン (SBus マ シ ン) へ の 移 植 を 1 0 年 度 の
開 発 の メ イ ン と し て 行 い、 UltraSPARC 版 SSS{MC Ver.3.0 を 作 成 し た。 ま た、 SSS{CORE
の オ ペ レー タ か ら の ビュー と 操 作 性 を 大 幅 に 改 善 す る 遠 隔 シェ ル 機 能、 並 列 シェ ル 機
能、 並 列 実 行 環 境 の 整 備 を 行 い SSS{CORE
Ver.1.2 を 完 成 さ せ た。
平 成 1 1 年 度 (研 究 開 発 二 年 目) に は、 最 新 鋭 マ イ ク ロ プ ロ セッ サ で あ る UltarSPARCII を 搭 載 す る SBus ベー ス の Ultra 2 ワー ク ス テー ショ ン で 動 作 す る SSS{CORE Ver.2.1 を
作 成 し た。 SuperSPARC プ ロ セッ サ を 搭 載 し た SS20 ワー ク ス テー ショ ン を 対 象 と し た SSS{
CORE Ver.1.2 に 関 し て は、 機 能 拡 張 が 行 わ れ 遠 隔 実 行 環 境・ 並 列 実 行 環 境 に 対 応 し
た キー 入 力 シ ス テ ム と ジョ ブ コ ン ト ロー ル シ ス テ ム を 新 規 に 開 発 し た。 SSS{CORE 用
の 最 適 化 コ ン パ イ ラ RCOP の 機 能 強 化 を 行 い、 共 有 メ モ リ 読 み 込 み に 関 す る 通 信 最
Ver.1.x, Ver.2.x 共 に、 暗 号 / セ
キュ リ ティ 通 信 プ ロ ト コ ル で あ る IPSec 対 応 の プ ロ ト コ ル ス タッ ク を 開 発 し、 IPSec プ
適 化 を 自 動 的 に 行 う こ と が 可 能 に なっ た。 SSS{CORE
ロ ト コ ル に 対 応 し た。
2.3
今年度当初の研究開発計画概略
以 下 の 文 章 は 平 成 1 1 年 度 の テー マ 別 年 次 総 括 報 告 書 か ら の 抜 粋 で あ る。
平 成 1 2 年 度 の 主 な 予 定 は 以 下 の と お り で あ る。 SSS{CORE に MBCF 利 用 の ネッ ト
ワー ク ファ イ ル シ ス テ ム を 作 成 し、 SSS{CORE
Ver.2.x
の機能改善と動作安定化を図
り Ver.1.x の 最 新 版 と 同 等 の 機 能 お よ び 安 定 性 ま で 引 き 上 げ る。 ギ ガ ビッ ト イー サ ネッ
ト を サ ポー ト し 通 信 能 力 を 大 幅 に 改 善 す る。 マ イ グ レー ショ ン 機 能 お よ び 自 律 的 負 荷
分 散 メ カ ニ ズ ム を 開 発 整 備 す る。 X11 ウィ ン ド ウ シ ス テ ム お よ び Java 処 理 系 を 安 定 動
作 す る よ う に す る。 そ し て、 サー バ 用 オ ペ レー ティ ン グ シ ス テ ム と し て 使 用 可 能 な 汎
用 ス ケー ラ ブ ル オ ペ レー ティ ン グ シ ス テ ム SSS{CORE を 完 成 さ せ る 予 定 で あ る。 ま た、
MBCF を 実 行 可 能 な プ ラッ ト フォー ム を 拡 大 し、 Java 実 行 環 境 の 機 能 強 化 を 行 う 予 定
で あ る。
今年度の活動状況
3.1
今年度の研究開発概略
3
UltarSPARC-II を 搭 載 す る
Ultra 60 ワー ク ス テー ショ ン で 動 作 す る SSS{CORE Ver.2.1 を 作 成 し
た。 さ ら に、 こ の Ver.2.1 を 機 能 強 化 す る た め、 SuperSPARC プ ロ セッ サ を 搭 載 し た SS20
ワー ク ス テー ショ ン を 対 象 と し た SSS{CORE Ver.1.2 の 機 能 を 移 植 し た Ver.2.2 を 開
発 し た。 PCI bus ベー ス と SBus ベー ス の Ultra 版 SSS{CORE を 統 合 し (Ver.2.3)、 Gigabit ethernet card を サ ポー ト し、 タ ス ク マ イ グ レー ショ ン 機 能 と 市 場 原 理 に 基 づ く ス
ケ ジュー リ ン グ 方 式 を 実 装 し た。 SS20 版 SSS{CORE 用 の X11R6 ウィ ン ド ウ シ ス テ ム の
移 植 作 業 が 完 了 し、 SSS{CORE Ver.1.3 で は X ウィ ン ド ウ シ ス テ ム が 利 用 可 能 と なっ た。
ま た、 SSS{CORE Ver.1.x 上 に 移 植 し た Java 処 理 系 で あ る Kae の 整 備 を 行 い、 拡 張 機
能 と し て MBCF 通 信 を Java か ら 呼 び 出 せ る 機 能 を 実 装 し た。 さ ら に、 SSS{CORE Ver.1.3
に 自 前 の ファ イ ル シ ス テ ム で あ る SSS{FS の プ ロ ト タ イ プ と NFS ク ラ イ ア ン ト 機 能 を
実 装 し た。 PC 互 換 機 上 の Linux に 対 応 し た MBCF 通 信 ド ラ イ バ を 完 成 さ せ、 Linux/PC
か ら も MBCF 通 信 が 可 能 と なっ た。 以 下 に 内 容 を 述 べ る。
平 成 1 2 年 度 に は、 最 新 鋭 マ イ ク ロ プ ロ セッ サ で あ る
PCI bus
3.2
ベー ス の
SSS{CORE Ver.2.3 の 開 発
Microsystems 社 の SPARCstation 20 (SS20) ま た は こ の 互 換 機 を Ethernet ま た は Fast Ethernet で 接 続 し た 環 境 で 動 作 す る。 現 在、 Sun Microsystems 社 の 最 新 鋭 ワー ク ス テー ショ
ン は Ultra シ リー ズ で あ り、 単 体 性 能 は SS20 の 数 倍 高 速 で あ る。 平 成 1 1 年 度 ま で に
本 研 究 開 発 開 始 当 初 の SSS{CORE
Ver.1.1
3
オ ペ レー ティ ン グ シ ス テ ム は、 Sun
UltraSPARC プ ロ セッ サ を 搭 載 し た SBus ベー ス の Ultra 2 ワー ク ス テー ショ ン 上 で 稼 働
す る SSS{CORE Ver.2.1 を 開 発 し た。 平 成 1 2 年 度 は、 PCI バ ス を 採 用 し た Ultra 60 ワー
ク ス テー ショ ン へ の 移 植 を 行っ た。 ま た、 Ver.2.1 は 機 能 的 に は 一 世 代 前 の SSS{CORE Ver.1.1
と 同 じ だっ た た め、 SS20 版 コー ド の キャッ チ アッ プ を 行 い、 Ultra 版 SSS{CORE Ver.2.2
を 完 成 さ せ た。 現 在 は、 マ イ グ レー ショ ン 機 能 や ギ ガ ビッ ト イー サ サ ポー ト 等 を 組 み
込 ん だ Ultra 版
SSS{CORE
Ver.2.3 を 開 発 中 で あ る。 Ultra 版 SSS{CORE Ver.2.3 は 64bit ア
ド レ ス を 採 用 し た 64bit オ ペ レー ティ ン グ シ ス テ ム で あ り、 ユー ザ ア プ リ ケー ショ ン は
従 来 の 32bit ア ド レ ス 空 間 と 広 大 な 64bit 空 間 を 用 途 に 応 じ て 選 択 す る こ と が で き る。
た だ し、 大 幅 な マ シ ン 依 存 コー ド の 書 き 換 え に 対 応 し た 十 分 な デ バッ グ が 行 わ れ
て い な い た め、 Ultra 版 SSS{CORE Ver.2.3 は SPARCstation 20 用 の 最 新 SSS{CORE Ver.1.3
に 比 べ る と 若 干 安 定 性 が 劣 る 面 が あ る。
3.3
SSS{CORE の 機 能 強 化
UltraSPARC プ ロ セッ サ へ の SSS{CORE 移 植 版 の 機 能 が SuperSPARC 版 に 追 い つ い た
た め、 従 来 は SuperSPARC 版 を ベー ス に 機 能 強 化 し て い た SSS{CORE を 統 一 版 と し て
機 能 強 化 可 能 に なっ た。 以 下 に 機 能 強 化 の 内 容 を 列 挙 す る。
1.
プ ロ グ ラ ム か ら の シェ ル 機 能 呼 び 出 し を 実 装
2.
タ ス ク マ イ グ レー ショ ン 機 能 の 実 装
3.
情報開示機構の安定性強化
4. MBCF の No-ow-control 機 能 拡 張
5. Gigabit Ethernet カー ド を サ ポー ト
6. Creator,Creator3D(b) タ イ プ の フ レー ム バッ ファ を サ ポー ト
7. SSS{FS プ ロ ト タ イ プ の 開 発
8. MBCF 通 信 を サ ポー ト し た Java 処 理 系 の 開 発
9. X11 ウィ ン ド ウ シ ス テ ム の 移 植
10.
最 適 化 コ ン パ イ ラ RCOP[14,
15] の 機 能 強 化
fetch-on-write に よ る false sharing を 避 け る 最 適 化 方 式 の 導 入
な お、 マ イ グ レー ショ ン 機 能 お よ び MBCF の No-ow-control 機 能 拡 張 に 伴 い SSS{CORE
の バー ジョ ン を Ultra 版 Ver.2.2 (SuperSPARC 版 Ver.1.2) か ら Ver.2.3 (Ver.1.3) に 変 更 し
た。
3.4
タ ス ク マ イ グ レー ショ ン 機 能 の 実 装
SSS{CORE
は 構 成 マ シ ン を 追 加 す る こ と に よっ て ス ケー ラ ブ ル に 性 能 が 改 善 で き
る こ と が 最 大 の 特 徴 で あ る。 し か し、 一 部 の マ シ ン に 負 荷 が 偏っ た 状 態 を 解 消 す る
能 力 が な い と、 シ ス テ ム の ス ケー ラ ビ リ ティ が 有 効 に 活 用 で き な い。 デー タ ベー ス サー
バ や ウェ ブ サー バ に よ う に 一 つ 一 つ の タ ス ク の 処 理 量 が 小 さ く、 タ ス ク の 発 生 消 滅
頻 度 が 高 い ア プ リ ケー ショ ン で は、 タ ス ク 起 動 時 の マ シ ン へ の 振 り 分 け の み で 負 荷
分 散 が 可 能 で あ る。 し か し、 大 規 模 シ ミュ レー ショ ン の よ う な 応 用 で は 実 行 中 の タ ス
ク を 他 の ノー ド に 移 送 (マ イ グ レー ショ ン) す る 能 力 が な い と 負 荷 の 均 衡 を 図 る こ と
が で き な い。 SSS{CORE は 汎 用 ス ケー ラ ブ ル オ ペ レー ティ ン グ シ ス テ ム を 目 指 す た め、
タ ス ク マ イ グ レー ショ ン 機 能 を 実 装 し た。
SSS-CORE の 最 大 の 特 徴 で あ る MBCF は タ ス ク が ノー ド を 含 め て 仮 想 化 さ れ て お り、
MBCF に よっ て 通 信 同 期 を 行っ て い る タ ス ク は す べ て マ イ グ レー ショ ン 可 能 で あ る。
4
マ イ グ レー ショ ン さ れ る タ ス ク の 新 し い ノー ド に お け る 再 起 動 に 平 成 10 年 度 に 実
装 し た 遠 隔 実 行 機 構 [16] を 利 用 す る こ と に よ り、 移 送 さ れ た タ ス ク は 標 準 入 出 力 を
継 続 的 に 使 用 可 能 で あ る。 マ イ グ レー ショ ン さ れ た タ ス ク は 遠 隔 実 行 機 構 の 標 準 出
力 機 構 を 使っ て、 標 準 出 力 を 起 動 さ れ た 端 末 画 面 ま た は コ ン ソー ル 画 面 に 出 力 す る。
標 準 入 力 も 同 様 に 起 動 さ れ た 端 末 キー ボー ド ま た は コ ン ソー ル キー ボー ド か ら 移 送 後
も 入 力 を 続 け る こ と が 可 能 で あ る。
SSS{CORE
は 新 し い ス ケ ジュー リ ン グ 方 式 と し て 「自 由 市 場 原 理 に 基 づ く ス ケ ジュー
リ ン グ 方 式 (FMM 方 式)」 [17,
16]1 を 採 用 予 定 で あ る。 こ の 方 式 の 下 で は ア プ リ ケー
ショ ン タ ス ク が 自 分 の 判 断 で マ イ グ レー ショ ン の た め の シ ス テ ム コー ル を 発 行 し、 自
分 が 指 定 し た ノー ド へ の 移 送 を 要 求 す る。 今 回 実 装 し た マ イ グ レー ショ ン 機 能 は FMM
方 式 に 対 応 し て お り、 マ イ グ レー ショ ン 要 求 用 の シ ス テ ム コー ル が 実 装 さ れ た。 た だ
し、 今 回 実 装 し た マ イ グ レー ショ ン 機 構 に は タ ス ク 中 断 に 関 し て 何 も 制 約 が な い た
め、 シ ス テ ム 側 か ら の 強 制 的 な マ イ グ レー ショ ン に も 対 応 で き る。
FMM 方 式 の ス ケ ジュー リ ン グ を 完 成 さ せ る た め、 情 報 開 示 機 構 の 安 定 性 強 化 を 行っ
た。 強 化 内 容 は、 ノー ド の 突 発 的 な ダ ウ ン や 再 起 動 に SSS{CORE の 情 報 開 示 機 構 (IDM:
Information Disclosure Mechanism) を 対 応 可 能 に し た。 IDM は MBCF に よっ て eager に お
互 い の ノー ド の 負 荷 情 報 や 資 源 管 理 情 報 を 交 換 す る こ と に よ り、 ユー ザ タ ス ク に 低
コ ス ト で こ れ ら の 情 報 を 提 供 可 能 に し て い る。 し か し、 MBCF は 通 信 保 証 を 行 う プ
ロ ト コ ル で あ る た め、 MBCF を 使 用 す る 場 合 に は 相 手 の ノー ド が 生 き て い る こ と が
保 証 さ れ な い と、 無 駄 な 再 送 等 が 起 こっ て し ま う。 情 報 開 示 機 構 の 情 報 は ユー ザ タ ス
ク が 負 荷 分 散 や 負 荷 調 整 た め の ヒ ン ト に 使 う 情 報 で あ る た め、 情 報 開 示 に 伴 う 通 信
は 通 信 保 証 を 必 要 と し な い。 そ こ で、 MBCF の No-ow-control 機 能 拡 張 に よっ て、 通 信
に 失 敗 し て も 再 送 が 起 こ ら な い オ プ ショ ン を MBCF に 導 入 し て、 無 駄 な 再 送 が 起 こ
ら な い よ う に 変 更 し た。 ま た、 ク ラ ス タ の 立 ち 上 がっ て い る ノー ド の 情 報 を、 SSS{CORE
の ブー ト サー バ か ら ダ イ ナ ミッ ク に 獲 得 可 能 に 変 更 し た。 こ れ に よっ て、 シ ス テ ム は
ク ラ ス タ の 生 き て い る 構 成 ノー ド を ダ イ ナ ミッ ク に 検 出 可 能 に なっ た。
3.5
Gigabit Ethernet
に よ る MBCF
今 回 新 た に 実 装 し た Gigabit
Ethernet ド ラ イ バ を 使 用 し た MBCF の MBCF WRITE
の 性 能 測 定 結 果 を 本 小 節 で 示 す。 測 定 条 件 は Sun Microsystems 社 Ultra 60 ワー ク ス
テー ショ ン (UltraSPARC-IIs 450MHz) に Sun GigabitEthernet 2.0 Adapter (1000BASE-SX) を
PCI 64bit 66MHz ス ロッ ト に 装 着 し た マ シ ン 2 台 を 光 ファ イ バ ケー ブ ル に よっ て 直 結
し た も の で 測 定 を 行っ た。 MBCF の 測 定 に 使 用 し た オ ペ レー ティ ン グ シ ス テ ム は SSS{
CORE Ver.2.3 で あ る。 な お、 参 考 デー タ と し て 同 一 ハー ド ウェ ア 条 件 で Solaris2.6 に よ
る TCP/IP の 性 能 測 定 を 行っ た。 TCP/IP は 標 準 の ソ ケッ ト イ ン タ フェー ス を 使 用 し、
ソ ケッ ト バッ ファ を 64Kbyte に 設 定 し、 遅 延 測 定 時 に は TCP NODELAY オ プ ショ ン を 付
加 し、 ピー ク バ ン ド 測 定 時 に は 同 オ プ ショ ン を 付 加 し な かっ た。 さ ら に、 参 考 の た め
に Fast Ethernet (100BASE-TX) を 使っ た SPARCstation 20 (SuperSPARC 85MHz) に お け る
MBCF の 性 能 測 定 値 を 掲 げ て お く。
図 1に 片 道 遅 延 時 間 の 比 較 を 示 す。 測 定 は 往 復 遅 延 時 間 を 測 定 し、 そ の 値 を 半 分 に
し た も の で あ る。 4byte の デー タ 転 送 時 に Gigabit Ethernet を 使 用 し た MBCF で は 9.6sec
で 異 な る ノー ド の ア プ リ ケー ショ ン 間 で 通 信 が 可 能 で あ る。 こ の 値 は Solaris2.6 上 の TCP/IP
の 約 10 分 の 1 で あ る。
図 2 に ピー ク バ ン ド 幅 の 比 較 を 示 す。 な お、 TCP/IP は 転 送 デー タ サ イ ズ (send() 関
数 で 一 度 に 渡 す デー タ サ イ ズ) を イー サ ネッ ト の パ ケッ ト サ イ ズ を 越 え て 大 き く し た
場 合 に、 よ り 大 き な ピー ク バ ン ド 幅 を 示 し、 デー タ サ イ ズ を 64Kbyte に し た 場 合 に 53.06
Mbyte/sec の 性 能 を 示 し た。 し か し、 MBCF の 1408 バ イ ト デー タ で 示 し た 80.92Mbyte/sec
1 FMM 方 式 は 科 学 技 術 振 興 事 業 団 さ き が け 研 究
5
21
の サ ポー ト に よ り 松 本 が 研 究 開 発 を 行っ て い る。
(latency) sec x 10-6
(data rate) MB/s
MBCF1000
TCP1000/Solaris
150.00
140.00
130.00
120.00
110.00
100.00
90.00
80.00
70.00
60.00
50.00
40.00
30.00
20.00
10.00
0.00
MBCF1000
TCP1000/Solaris
80.00
70.00
60.00
50.00
40.00
30.00
20.00
10.00
0.00
0.50
図
1:
1.00
(payload) bytes x 103
片道遅延時間の比較
0.00
0.00
図
0.50
1.00
(payload) bytes x 103
1.50
2: ピー ク バ ン ド 幅 の 比 較
に は 及 ば な い。 片 道 遅 延 時 間 の 結 果 か ら も 判 る よ う に、 送 信 と 受 信 の オー バ ヘッ ド タ
イ ム の 和 は 9.6sec (HW に よ る パ ケッ ト 転 送 時 間 を 含 む) 以 下 で あ る。 ま た、 別 の 測
定 か ら 1408byte 転 送 時 に 転 送 用 兼 再 送 用 バッ ファ へ の コ ピー 時 間 を 含 む 送 信 オー バ ヘッ
ド は 3.2sec で あ り、 送 信 の デー タ コ ピー な し の オー バ ヘッ ド は 1.6sec で あ る。 受 信 時
9:6 0 1:6)。 Gigabit Ethernet で は 1408byte パ ケッ ト 時 に 転 送 路 に お い て 物 理 的 に 11.26sec 以 上 の 時 間
が か か る。 よっ て MBCF は ソ フ ト ウェ ア 的 な オー バ ヘッ ド は 十 分 に 小 さ く、 他 に ボ ト
ル ネッ ク が な け れ ば Gigabit Ethernet の 理 論 的 転 送 限 界 (125 Mbyte/sec) 付 近 ま で 性
能 が 出 せ る は ず で あ る。 し か し、 今 回 の 測 定 で は 80 Mbyte/sec 強 の 値 で 頭 打 ち と なっ
て い る。 図 2 か ら も 判 る よ う に、 何 ら か の ボ ト ル ネッ ク が 80 Mbyte/sec 強 の と こ ろ に
存 在 し て い る と 考 え ら れ る。 以 上 の 測 定 と 考 察 か ら の そ の ボ ト ル ネッ ク は Ultra 60
の オー バ ヘッ ド も 高々 こ の 倍 程 度 と 考 え ら れ る (上 限 は 8:0
=
の ハー ド ウェ ア 側 に あ る も の と 推 定 さ れ る。
3.6
SSS{FS
プロトタイプの開発
本 研 究 開 発 で は 分 散 資 源 仮 想 化 方 式 の 開 発 と し て ス ケー ラ ブ ル サー バ 内 の 仮 想 化
さ れ た 高 性 能 メ モ リ シ ス テ ム お よ び ファ イ ル シ ス テ ム の 実 現 を 目 指 し て い る。 SSS{
CORE
に は 分 散 共 有 メ モ リ シ ス テ ム と し て UDSM 方 式 /ADSM 方 式 の 実 装 な ら び に そ
れ ら を サ ポー ト す る 最 適 化 コ ン パ イ ラ RCOP が 完 成 し て い る。 ファ イ ル シ ス テ ム と し
て は 従 来 は 外 部 委 託 ファ イ ル シ ス テ ム を 使 用 し て き た が、 よ り 効 率 の 高 い 分 散 共 有
ファ イ ル シ ス テ ム を 提 供 す る た め に、 MBCF 通 信 に よっ て サ ポー ト さ れ た ネッ ト ワー
ク ファ イ ル シ ス テ ム を SSS{FS と し て 開 発 し て き た。 し か し、 SSS{FS の 開 発 に は 多 く
の 構 成 部 品 を 完 成 さ せ る 必 要 が あ り、 最 終 目 標 ま で は 完 了 し て い な い。 平 成 1 2 年
度 の 時 点 で は、 SSS{FS プ ロ ト タ イ プ と し て、 SunOS お よ び Solaris の ファ イ ル シ ス テ ム
と 互 換 性 を 持っ た UFS と、 他 オ ペ レー ティ ン グ シ ス テ ム の ファ イ ル シ ス テ ム を 利 用 可
能 な NFS ク ラ イ ア ン ト 機 能 が 完 成 し て い る。 UFS に 関 し て は ファ イ ル シ ス テ ム の 管
理 コ マ ン ド の BSD 系 UNIX か ら の 移 植 も ほ ぼ 完 了 し て い る。 な お、 SS20 マ シ ン 用 の SCSI
ド ラ イ バ し か 現 状 で は 存 在 し な い た め、 SSS{FS プ ロ ト タ イ プ は SSS{CORE
Ver.1.3 特
有 の 機 能 と なっ て い る。
SSS{FS が 当 初 目 標 ま で 到 達 で き な かっ た 大 き な 理 由 は、 過 去 に 作っ た 株 式 会 社 アッ
ク ス 製 の SCSI ド ラ イ バ が 多 く の 不 具 合 を 抱 え て い た こ と と、 SunOS 等 の 他 OS の ファ
6
イ ル シ ス テ ム と の 互 換 性 を 取 る 作 業 に 大 き な 時 間 を 費 や し た た め で あ る。 こ の 後 は
NFS サー バ 機 能 と ク ラ ス タ 内 の 通 信 を UDP/IP か ら MBCF 通 信 に 置 き 換 え て、 SSS-FS
の 完 成 度 を 高 め る 予 定 で あ る。
3.7
MBCF
通 信 を サ ポー ト し た Java 処 理 系 の 開 発
近 年、 大 規 模 な ア プ リ ケー ショ ン サー バ で は マ シ ン ク ラ ス タ が 用 い ら れ、 ク ラ ス タ
内 の 負 荷 分 散 や ノー ド 間 の 高 速 通 信 が 重 要 と なっ て き て い る。 従っ て、 汎 用 ス ケー ラ
ブ ル オ ペ レー ティ ン グ シ ス テ ム
SSS{CORE
の持つ高度な負荷分散機能や
MBCF
通信
機 能 は 大 規 模 ア プ リ ケー ショ ン サー バ に お い て も 有 効 で あ る と 考 え ら れ る。 一 方、 ア
プ リ ケー ショ ン サー バ 分 野 で は 近 年
CORE
Java
の 利 用 が 急 速 に 拡 大 し て き て お り、 SSS{
上 で も Java を 利 用 で き る よ う に す る 必 要 が あ る。 平 成 1 1 年 度 の 移 植 作 業 に
引 続 き、 フ リー の
Java
Kae を SSS{CORE 上 に 移 植 し、 安
Java プ ロ グ ラ ム か ら 利 用 可 能 に す る
バー チャ ル マ シ ン で あ る
定 動 作 可 能 に し た。 さ ら に
MBCF
通信機能を
MBCF{Java ラ イ ブ ラ リ を 開 発 し た。
Kae の 移 植 に は Java ス レッ ド シ ス テ ム と し て Kae が 独 自 に 実 装 し た ユー ザ レ ベ
ル ス レッ ド シ ス テ ム を 利 用 し た。 た だ し、 SSS{FS が 開 発 中 で あっ た た め、 従 来 の 外 部
委 託 ファ イ ル シ ス テ ム を SSS{CORE 上 の Kae で は 利 用 し て い る。 外 部 委 託 ファ イ ル シ
ス テ ム の 制 限 に よ り ス ケ ジュー リ ン グ 及 び シ グ ナ ル 関 連 に 変 更 を 加 え た。 ま た、 一 定
時 間 毎 の ア ラー ム シ グ ナ ル を 発 生 さ せ る た め に
Kae
本 体 と は 別 に alarmd デー モ ン
を 実 装 し た。
MBCF{Java
ライブラリは
SSS{CORE
の提供する
MBCF
通 信 関 連 の シ ス テ ム コー
ル の ラッ パ 関 数 と し て 実 装 し た。 実 装 に は Java に お い て 標 準 で 定 め ら れ て い る Java
Native Interface を 利 用 し、 ほ と ん ど を C 言 語 の 関 数 で 実 装 し た。 通 信 に 必 要 な バッ
ファ は Java Native Interface の 機 能 を 利 用 し て Garbage Collection の 対 象 か ら は ず す こ
と に よ り、 MBCF 側 か ら Java の 配 列 の 実 体 を 直 接 操 作 で き る よ う に し た。 こ の た め
バッ ファ 間 の 必 要 以 上 の コ ピー は 生 じ な い。
3.8
Linux
版 MBCF プ ロ ト コ ル ス タッ ク の 開 発
MBCF を 使 用 可 能 な プ ラッ ト フォー ム を 拡 大 す る た め に、 Pentium プ ロ セッ サ 等 の
x86 プ ロ セッ サ を 持 つ IBM-PC 互 換 機 を 対 象 と す る Linux 版 MBCF プ ロ ト コ ル ス タッ ク
(MBCF/Linux) の 開 発 を 行っ た。 平 成 1 1 年 度 に UltraSPARC プ ロ セッ サ を 搭 載 し た ワー
ク ス テー ショ ン 上 の Linux を 開 発 対 象 と し た MBCF プ ロ ト タ イ プ を 開 発 し た が、 機 能
並 び に プ ロ ト コ ル が 不 完 全 だっ た た め、 Linux へ の 移 植 ノ ウ ハ ウ の み を 引 き 継 ぎ、 今
回 新 た に SSS{CORE の MBCF プ ロ ト コ ル ス タッ ク を PC 上 の Linux に 移 植 し た。 SPARC
プ ロ セッ サ に よ る MBCF 実 装 で は、 SPARC プ ロ セッ サ の 軽 い ア ド レ ス 空 間 切 替 能 力 を
利 用 し た 受 信 割 り 込 み ルー チ ン 内 か ら の ユー ザ タ ス ク 空 間 へ の 直 接 ア ク セ ス を 行っ
て い る。 し か し、 Pentium プ ロ セッ サ 等 の x86 プ ロ セッ サ に は 軽 い ア ド レ ス 空 間 切 替 能
力 が な い た め、 MBCF ア ク セ ス 用 の ペー ジ エ ン ト リ を す べ て の タ ス ク の 共 有 部 分 で
あ る カー ネ ル 空 間 内 に 予 約 し て、 受 信 割 り 込 み ルー チ ン 内 に お い て そ の エ ン ト リ を
適 宜 書 き 換 え る こ と で ユー ザ タ ス ク 空 間 の 直 接 ア ク セ ス を 達 成 し て い る2 。 初 期 の x86
プ ロ セッ サ で あ る i80386 等 は TLB の エ ン ト リ を 選 択 的 に パー ジ す る こ と が で き な い た
め、 こ の 方 式 を 用 い て も TLB エ ン ト リ の 全 パー ジ を 避 け ら れ な い。 し か し、 後 期 の i80486
プ ロ セッ サ 以 降 の プ ロ セッ サ (Pentium 全 種 類 を 含 む) に は、 TLB エ ン ト リ の 選 択 的 パー
ジ 機 能 が 付 加 さ れ て い る。 こ れ ら の x86 (IA32) プ ロ セッ サ で は、 高々 1 個 な い し は 2
個 の TLB エ ン ト リ の パー ジ に よっ て MBCF 受 信 割 り 込 み ルー チ ン は 任 意 の ユー ザ タ ス
ク 空 間 を 直 接 ア ク セ ス 可 能 で あ る。 SSS{CORE の MBCF ルー チ ン を 移 植 し た た め、 各
2本 方 式 は
MBCF
ルー チ ン の 移 植 を 担 当 し た 株 式 会 社 アー ツ テッ ク の 信 國 陽 二 郎 氏 に よっ て 考 案 さ れ
た。
7
種 の 高 機 能 コ マ ン ド も Linux 版 MBCF に よっ て 使 用 可 能 と なっ た。 ま た、 Linux 版 MBCF
は Linux の メ モ リ ス ワッ プ ア ウ ト に 対 応 す る コー ド に なっ て お り、 仮 想 記 憶 に よっ て 実
メ モ リ に 割 り 当 て ら れ て い な い メ モ リ 空 間 へ も 自 由 に MBCF で ア ク セ ス が 可 能 で あ
る3 。
外部発表および成果物
4.1
外部発表
4
[1] Niwa, J., Inagaki, T., Matsumoto, T., Hiraki, K.: Evaluation of Compiler-Assisted Software
DSM Schemes for a Workstation Cluster. Proc. of Int. Workshop. on Innovative Architecture
for Future Generation High Performance Processors and Systems (IWIA'99) IEEE Computer
Society Press, pp.57{68 (2000) 論 文 掲 載.
[2] Niwa, J., Matsumoto, T., and Hiraki, K.: Comparative Study of Page-based and Segmentbased Software DSM through Compiler Optimization. Proc. of the 2000 Int. Conf. on Supercomputing (ICS'00), ACM press, pp.284{295 (May 2000) 口 頭 発 表 お よ び 論 文 掲 載.
[3] 松 本 尚, 平 木 敬: NIC を 活 用 し た ネッ ト ワー ク RAID 方 式 の 提 案. 情 報 処 理 学 会 研
究 会 報 告 Vol.2000, No.74, pp.79{84 (August 2000) 口 頭 発 表 お よ び 論 文 掲 載.
[4] 大 平 怜, 松 本 尚, 平 木 敬: 汎 用 ク ラ ス タ 上 の 資 源 情 報 を 用 い た HTTP サー バ に お け
る 負 荷 分 散 性 能 の 評 価. 情 報 処 理 学 会 研 究 会 報 告 Vol.2000, No.75, pp.31{38 (August
2000) 口 頭 発 表 お よ び 論 文 掲 載.
[5] 松 本 尚, 渦 原 茂, 平 木 敬: ス ケー ラ ブ ル な 分 散 サー バ 環 境 の 研 究 | SSS{CORE の 機
能 拡 張 |. 第 19 回 技 術 発 表 会 論 文 集, 情 報 処 理 振 興 事 業 協 会, pp.177{184 (October
2000) 口 頭 発 表 お よ び デ モ ン ス ト レー ショ ン お よ び 論 文 掲 載.
[6] 丹 羽 純 平, 松 本 尚, 平 木 敬: ソ フ ト ウェ ア DSM に お い て fetch-on-write に よ る 通 信 ト ラ
フィッ ク を 削 減 す る 手 法. ハ イ パ フォー マ ン ス コ ン ピュー ティ ン グ 研 究 会 報 告 No.84{
17, 情 報 処 理 学 会. pp.49{54 (December 2000) 口 頭 発 表 お よ び 論 文 掲 載.
[7] 丹 羽 純 平, 松 本 尚, 平 木 敬: ソ フ ト ウェ ア DSM 機 構 を 支 援 す る 最 適 化 コ ン パ イ ラ. 情
報 処 理 学 会 論 文 誌 Vol.42, No.4, 掲 載 決 定 (April 2001) 論 文 掲 載.
4.2
成果物
本 年 度 は 研 究 開 発 の 最 終 年 度 で あ り、 成 果 報 告 書 の 他 に 以 下 の 成 果 物 を 公 開 の
予 定 で あ る。 MBCF/Linux は、 Linux カー ネ ル の 改 変 を 軽 減 す る 変 更 の 後 に、 オー プ ン
ソー ス と し て 公 開 の 予 定 で あ る。 SSS{CORE に 関 し て は、 と り あ え ず Ver.1.2 お よ び Ver.2.2
の 実 行 イ メー ジ (バ イ ナ リ コー ド) を 希 望 者 に 無 償 で 配 布 す る。 希 望 者 は 松 本4 ま で 連
絡 さ れ た い。 な お、 公 開 用 の ソー ス 整 備 が 出 来 次 第、 SSS{CORE の ソー ス コー ド も 公 開
し て 行 く 予 定 で あ る。 た だ し、 セ キュ リ ティ 上 公 開 が 相 応 し く な い と 判 断 し た 部 分 に
関 し て は、 オ ペ レー ティ ン グ シ ス テ ム と い う プ ロ グ ラ ム の 性 質 上、 ソー ス コー ド を 公
開 し な い。
「ス ケー ラ ブ ル な 分 散 サー バ 環 境 の 研 究」 成 果 報 告 書
MBCF/Linux の ソー ス コー ド
SSS{CORE
Ver.1.2 の バ イ ナ リ コー ド
SSS{CORE
Ver.2.2 の バ イ ナ リ コー ド
3 MBCF 方 式 は ス ワッ プ ア ウ ト に 元々 対 応 可 能 で あ る が、
ていない
4 [email protected]
8
SSS{CORE で は メ モ リ ス ワッ プ ア ウ ト を 行っ
おわりに
5.1
まとめ
5
本 研 究 開 発 に お い て 平 成 1 2 年 度 は 3 年 計 画 の 最 終 年 度 で あ る。
四 つ の 研 究 開 発 大 項 目 の 中 で、 分 散 サー バ 環 境 の 核 と な る ス ケー ラ ブ ル オ ペ レー
ティ ン グ シ ス テ ム SSS{CORE の 研 究 開 発 は 最 新 鋭 ワー ク ス テー ショ ン へ の 移 植、 完 全
な 64bit ア ド レ ス 対 応、 Gigabit
Ethernet へ の 対 応、 PCI バ ス へ の 対 応、 情 報 開 示 機 構
の 本 格 実 装、 オ ペ レー タ や ア プ リ ケー ショ ン プ ロ グ ラ マ を 支 援 す る 機 能 の 拡 充 等 を 中
心 に 大 幅 な 機 能 強 化 を 達 成 し た。 特 記 す べ き こ と と し て、 当 初 予 定 に は な かっ た IPSec
プ ロ ト コ ル へ の 対 応、 タ ス ク マ イ グ レー ショ ン 機 能 の 実 装 を 行 い サー バ オ ペ レー ティ
ン グ シ ス テ ム と し て の 有 用 性 を 大 幅 に 高 め る こ と が で き た。 た だ、 新 規 機 能 開 発 に
忙 し く、 Ultra 版 SSS{CORE の 安 定 性 を 十 分 に 高 め る こ と が で き な かっ た こ と は 残 念 で
あ る。
高 効 率 な 自 前 の ファ イ ル シ ス テ ム で あ る SSS{FS プ ロ ト タ イ プ の 開 発 は、 SSS{FS プ
ロ ト タ イ プ の ベー ス に な る UFS の 他 オ ペ レー ティ ン グ シ ス テ ム と の 互 換 性 確 保 と、 SS20
用 SCSI ド ラ イ バ の デ バッ グ 作 業 に 手 間 取っ た た め 当 初 目 標 の MBCF を 利 用 し た ネッ ト
ワー ク ファ イ ル シ ス テ ム (NFS) の 開 発 ま で は 達 成 で き な かっ た。 し か し、 SunOS な ら
び に Solaris 互 換 の UFS の 開 発 を 終 了 し、 NFS ク ラ イ ア ン ト 機 能 の 実 装 も 完 了 し て い る。
一 方、 本 研 究 開 発 期 間 内 に、 従 来 の 外 部 委 託 ファ イ ル シ ス テ ム の 性 能 を 大 幅 向 上 さ
せ て 実 用 可 能 な レ ベ ル に し た た め、 高 性 能 ファ イ ル シ ス テ ム を 必 要 と す る 一 部 ア プ
リ ケー ショ ン 以 外 は 実 用 上 の 困 難 は 発 生 し て い な い。
Java 言 語 実 行 環 境 の 研 究 開 発 で は PDS の Kae シ ス テ ム を SSS{CORE 上 に 移 植 し、
さ ら に Kae の 通 信 機 能 に MBCF 通 信 を 加 え る こ と に 成 功 し た。 こ れ に よ り、 Java で
よ り 効 率 の 高 い 分 散 並 列 ア プ リ ケー ショ ン の 開 発 が 可 能 で あ る。
MBCF の SSS{CORE 以 外 の シ ス テ ム へ の 移 植 は、 イ ン パ ク ト の 最 も 大 き い IBM-PC
互 換 機 へ の 移 植 に Linux 上 で 成 功 し た。 こ れ に よ り、 Linux を 搭 載 し た PC は 低 負 荷 で
SSS{CORE
搭 載 の サー バ マ シ ン と 通 信 可 能 と な る。 ま た、 Linux ク ラ ス タ を 数 値 計 算 に
利 用 し て い る 場 合 は、 従 来 の 通 信 方 式 を MBCF/Linux に 置 き 換 え る こ と で 性 能 を 向 上
さ せ る こ と が 可 能 で あ る。
IPSec 機 能 や タ ス ク マ イ グ レー ショ ン に よ る ノー ド の 動 的 ON/OFF 機 能 の よ う に 当
初 予 定 に な かっ た 重 要 な 機 能 が 作 成 さ れ た 項 目 も あ れ ば、 ファ イ ル シ ス テ ム 開 発 の
よ う に 当 初 目 標 ま で 到 達 し て い な い 項 目 も あ る。 し か し、 MBCF 通 信、 ノー ド 間 の 情
報 開 示 機 構、 タ ス ク マ イ グ レー ショ ン 機 能 と いっ た 他 オ ペ レー ティ ン グ シ ス テ ム に は
見 ら れ な い 優 れ た 機 能 を 持 つ 64bit オ ペ レー ティ ン グ シ ス テ ム を 開 発 で き た こ と は 十
分 な 成 果 で あ る と 考 え て い る。 ま た、 IBM-PC 互 換 機 の Linux 上 に MBCF の 移 植 を 達 成
し た こ と に よ り、 MBCF の 本 格 的 な 普 及 の 端 緒 が 開 か れ た と 考 え て い る。
5.2
今後の課題
ま と め で も 述 べ た 通 り、 期 間 内 に 達 成 で き な かっ た SSS{FS プ ロ ト タ イ プ の ネッ ト
ワー ク 対 応 と MBCF 通 信 の 導 入 を 行 う 予 定 で あ る。 ま た、 SSS{CORE 上 の ア プ リ ケー
ショ ン プ ロ グ ラ ム を 増 や す た め に、 UNIX も し く は Linux 互 換 ラ イ ブ ラ リ の 開 発 を 進
め る。 Ultra 版 SSS{CORE は 通 常 使 用 で は 問 題 な く 動 作 し て い る が、 高 頻 度 の マ イ グ レー
ショ ン や 大 規 模 ア プ リ ケー ショ ン 使 用 時 に プ ロ セッ サ コ ン テ ク ス ト が 破 壊 さ れ る バ グ
が 判 明 し て い る。 ま だ バ グ の 原 因 は 究 明 さ れ て い な い が、 早 期 に 原 因 を 究 明 し 安 定
し た オ ペ レー ティ ン グ シ ス テ ム と し て 完 成 さ せ る 予 定 で あ る。
開 発 成 果 の 普 及 方 策 と し て、 MBCF/Linux に 関 し て は Linux コ ミュ ニ ティ に 受 け 入
れ ら れ や す く す る た め に、 カー ネ ル の 改 造 を 最 小 限 に 抑 え る よ う に 変 更 し て、 リ リー
ス 版 を 作 成 し 普 及 さ せ る 予 定 で あ る。 MBCF は 他 の 軽 量 通 信 よ り も 定 性 的 に 優 れ た
方 式 で あ る た め、 同 一 ハー ド ウェ ア 環 境 で は 最 良 の 性 能 を 出 す と 考 え ら れ る。 よっ て、
9
MBCF/Linux は Linux 用 軽 量 通 信 方 式 の デ ファ ク ト ス タ ン ダー ド に な れ る ポ テ ン シャ ル
が 十 分 に 存 在 す る。 SSS{CORE に 関 し て は、 ア プ リ ケー ショ ン プ ロ グ ラ ム を 揃 え る こ
と が 普 及 の 近 道 で あ る と 考 え、 UNIX 互 換 ア プ リ ケー ショ ン 開 発 環 境 の 整 備 を 行 う と
共 に、 キ ラー ア プ リ ケー ショ ン の 並 列 化 と 移 植 を 行 う 予 定 で あ る。 な お、 こ れ ら の 作
業 に 関 し て は 企 業 や 個 人 の 有 志 に よっ て 結 成 し た コ ン ソー シ ア ム に お い て 作 業 に あ
た る。
参考文献
[8]
[9]
[10]
[11]
[12]
[13]
[14]
[15]
[16]
[17]
松 本 尚, 平 木 敬: 汎 用 並 列 オ ペ レー ティ ン グ シ ス テ ム
SSS{CORE の 資 源 管 理 方 式.
pp.13{16 (October 1994).
松 本 尚, 平 木 敬: 汎 用 超 並 列 オ ペ レー ティ ン グ シ ス テ ム SSS{CORE の メ モ リ ベー ス
通 信 機 能. 第 53 回 情 報 処 理 学 会 全 国 大 会 講 演 論 文 集 1, pp.37{38 (September 1996).
Matsumoto, T. and Hiraki, K.: MBCF:A Protected and Virtualized High-Speed User-Level
Memory-Based Communication Facility. In Proc. of the 1998 ACM Int. Conf. on Supercomputing, pp.259{266 (July 1998).
松 本 尚 他: 汎 用 超 並 列 オ ペ レー ティ ン グ シ ス テ ム カー ネ ル SSS{CORE. 第 17 回 技 術
発 表 会 論 文 集, 情 報 処 理 振 興 事 業 協 会, pp.175{188 (October 1998).
松 本 尚 他: メ モ リ ベー ス 通 信 に よ る 非 対 称 分 散 共 有 メ モ リ. コ ン ピュー タ シ ス テ ム
シ ン ポ ジ ウ ム 論 文 集, 情 報 処 理 学 会, pp.37{44 (November 1996).
Matsumoto, T., Niwa, J., and Hiraki, K.: Compiler-Assisted Distributed Shared Memory
Schemes Using Memory-Based Communication Facilities. In Proc. of The International Confference on Parallel and Distributed Processing Techniques and Applications (PDPTA-98),
Vol.2, pp.875{882 (July 1998).
丹 羽 純 平, 稲 垣 達 氏, 松 本 尚, 平 木 敬: 非 対 称 分 散 共 有 メ モ リ 上 に お け る コ ン パ イ
ル 技 法. ハ イ パ フォー マ ン ス コ ン ピュー ティ ン グ 研 究 会 報 告 No.67{21, 情 報 処 理 学 会.
pp.121{126 (August 1997)
丹 羽 純 平, 稲 垣 達 氏, 松 本 尚, 平 木 敬: 汎 用 超 並 列 オ ペ レー ティ ン グ シ ス テ ム SSS{
CORE 上 の 非 対 称 分 散 共 有 メ モ リ に お け る 最 適 化 コ ン パ イ ル 技 法. コ ン ピュー タ
ソ フ ト ウェ ア, Vol.15, No.3, pp.54{58 (May 1998).
松 本 尚, 渦 原 茂, 竹 岡 尚 三, 平 木 敬: ス ケー ラ ブ ル な 分 散 サー バ 環 境 の 研 究 | SSS{
CORE の 実 用 化 に 向 け て |. 第 18 回 技 術 発 表 会 論 文 集, 情 報 処 理 振 興 事 業 協 会, pp.217{
225 (October 1999).
松 本 尚, 平 木 敬: 自 由 市 場 原 理 に 基 づ く ス ケ ジュー リ ン グ 方 式. 信 技 報, Vol.99, No.251,
CPSY 99{55, pp.63{70 (August 1999).
日 本 ソ フ ト ウェ ア 科 学 会 第 11 回 大 会 論 文 集,
10