NEC CLUSTERPRO X for Linux クラスタリング環境 NetVault Backup

Article ID: NVSI-070151JP
Created: 2007/07/10
Revised: --
NEC CLUSTERPRO X for Linux クラスタリング環境
NetVault Backup 7.4.x Oracle バックアップ動作検証
1. はじめに
NetVault 6.5 からサポートされている Fallback-address 設定機能を使用し、ORACLE を CLUSTERPRO X に
よるクラスタリングとして構築した環境において、CLUSTER PRO X が行うフェイル・オーバー機能と連動して、
NetVault Backup クライアントによる Oracle Online/RMAN を使用しての Oracle のオンライン・バックアップの動
作を検証しました。
2. 検証環境
2.1 システム構成
下図のような環境にて検証を行いました。通常の共有ディスク構成の他に、まったく同じハードウェアを使用し内
蔵ディスクをソフトウェアによりミラー化したミラー構成の両方について確認を行いました。
【共有ディスク構成]
VTL
Node1
CLUSTERPRO X
Node2
Express5800/120Lf
Express5800/51Ld
ST12000
【ミラー構成】
mirror
mirror
VTL
Node1
CLUSTERPRO X
Node2
Express5800/120Lf
Express5800/51Ld
Page(s): 1/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
2.2 ハードウェア構成
(1) クラスタ構成
表 2-1 ハードウェア構成(クラスタ構成) [server1:Node1]
NEC
メーカー
Express5800/120Lf
機種
Intel Pentium 3 1133MHz
CPU
512MB
メモリ
18GB(U320,10000rpm)
内蔵ディスク容量
QLogic QLA2200
FC Card
表 2-2 ハードウェア構成(クラスタ構成) [server2:Node2]
NEC
メーカー
Express5800/120Lf
機種
Intel Pentium 3 1133MHz
CPU
512MB
メモリ
18GB(U320,10000rpm)
内蔵ディスク容量
QLogic QLA2200
FC Card
(2) バックアップ・サーバ
表 2-3 ハードウェア構成(バックアップ・サーバ) [backup]
NEC
メーカー
Express5800 51Ld
機種
Intel Pentium 4 3.4GHz
CPU
1GB
メモリ
80GB
内蔵ディスク容量
(3) ディスク
表 2-5 ハードウェア構成(ディスク) [ST12000]
NEC
メーカー
ST12000 (N8190-82)
機種
FC
I/F
2.3 ソフトウェア構成
表 2-6 ソフトウェア構成 [server1:Node1]
server1
ホスト
RedHat Enterprise Linux AS 4 Update 4
OS
CLUSTERPRO X 1.0.x
Cluster Software
CLUSTERPRO X Replicator 1.0.x (ミラーディスク構成時のみ使用)
NetVault 7.4.3 R2006AUG07-EXCALIBUR
Backup Software
表 2-7 ソフトウェア構成 [server2:Node2]
server2
ホスト
RedHat Enterprise Linux AS 4 Update 4
OS
CLUSTERPRO X 1.0.x
Cluster Software
CLUSTERPRO X Replicator 1.0.x (ミラーディスク構成時のみ使用)
NetVault 7.4.3 R2006AUG07-EXCALIBUR
Backup Software
表 2-8 ソフトウェア構成 [backup]
backup
ホスト
RedHat Enterprise Linux AS 4 Update 4
OS
NetVault 7.4.3 R2006AUG07-EXCALIBUR
Backup Software
Page(s): 2/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
2.4 ディスク構成
表 2-9 パーティション構成 [server1:Node1]
パーティション
/dev/sda1
/dev/sda2
/dev/sda3
/dev/sdb1
/dev/sdb2
Type
ext3
ext3
SWAP
raw
ext3
表 2-10 パーティション構成 [server2:Node2]
パーティション
/dev/sda1
/dev/sda2
/dev/sda3
/dev/sdb1
/dev/sdb2
Type
ext3
ext3
SWAP
raw
ext3
表 2-11 パーティション構成 [backup]
パーティション
/dev/sda1
/dev/sda2
/dev/sda3
Type
ext3
ext3
SWAP
表 2-12 パーティション構成 [server1:Node1]
パーティション
/dev/sda1
/dev/sda2
/dev/sda3
/dev/sda4
/dev/sda5
/dev/NMP1 (/dev/sda6 をミラー化)
Type
ext3
ext3
SWAP
拡張領域
raw
ext3
表 2-13 パーティション構成 [server2:Node2]
パーティション
/dev/sda1
/dev/sda2
/dev/sda3
/dev/sda4
/dev/sda5
/dev/NMP1 (/dev/sda6 をミラー化)
Type
ext3
ext3
SWAP
拡張領域
raw
ext3
共有ディスク構成の場合
マウントポイント/Raw Device 使用
/boot
/
Cluster パーティション
/mnt/share
共有ディスク構成の場合
マウントポイント/Raw Device 使用
/boot
/
Cluster パーティション
/mnt/share
マウントポイント/Raw Device 使用
/boot
/
ミラー構成の場合
マウントポイント/Raw Device 使用
/boot
/
Cluster パーティション
/mnt/mirror
ミラー構成の場合
マウントポイント/Raw Device 使用
/boot
/
Cluster パーティション
/mnt/mirror
2.5 ネットワーク設定
表 2-14 ネットワーク構成
ホスト
backup :Public
server1 :Public
server1 :Private
server2 :Public
server2 :Private
フローティング IP (WebManager)
フローティング IP (failover)
IP
192.168.0.3
192.168.0.1
10.0.0.1
192.168.0.2
10.0.0.2
192.168.0.10
192.168.0.11
Netmask
255.255.255.0
255.255.255.0
255.255.0.0
255.255.255.0
255.255.0.0
255.255.255.0
255.255.255.0
Page(s): 3/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
3. CLUSTER ソフトウェアの構成(CLUSTERPRO X)
仮想クライアントを正しく動作させるには、事前にクラスタウェア側で共有ディスクとフローティング IP の設定を行
っておく必要があります。この例では、共有ディスクのマウントポイントとして/mnt/share を使用しています。また、
フローティング IP として 192.168.0.11 を使用しています。
リソースの切り替えには WebManager から切り替えたいリソースの右クリックメニューから移動を選択し、サーバ
選択(グループ移動)ウィンドウで切り替え先のサーバを指定することで、フェイル・オーバーを行います。一連の
状況はすべて WebManager によって確認することができます。
4. NetVault Server のインストール
NetVault Server へのインストールにつきましては、別途 NetVault 簡単設定ガイド、NetVault Backup 7.4.x アド
ミニストレーターズ・ガイド等をご参照ください。本検証ではバックアップデバイスとして、NetVault Backup のハー
ドディスクを仮想的なテープライブラリとして作成および登録する機能を使用し、実践的な大規模データベース・バ
ックアップ環境と同様の構成を実現しています。
Page(s): 4/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
5. NetVault Client の CLUSTERPRO X 用セットアップ方法
CLUSTERPRO X 制御下で Active-Standby 方式の登録を行い、NetVault Server からは 1 台の NetVault
Client として稼動させるためには下記のような方法でインストールを行う必要があります。NetVault の各種ドキュ
メントをご参照ください。
手順 1 NetVault/CLUSTERPRO X 事前確認
手順 2 NetVault インストール
手順 3 NetVault Oracle Online/RMAN APM インストール
手順 4 NetVault サービス自動起動削除
手順 5 Oracle RMAN APM のための SBT ライブラリのリンク設定
手順 6 NetVault モジュール・ディレクトリのリネーム
手順 7 CLUSTERPRO X WebManager によるフェイルオーバグループの移動
手順 8 NetVault インストール
手順 9 NetVault Oracle Online/RMAN APM インストール
手順 10 NetVault サービス自動起動削除
手順 11 Oracle RMAN APM のための SBT ライブラリのリンク設定
手順 12 NetVault Oracle Online/RMAN APM ライセンスファイルのコピー
手順 13 NetVault リネームされたモジュール・ディレクトリの削除
手順 14 NetVault によるクラスタ用ネットワーク設定
手順 15 CLUSTERPRO X Builder によるスクリプト編集
手順 16 フェイルオーバグループのフェイル・オーバー手動確認
手順 17 NetVault Server のインストール設定
手順 18 NetVault Client 登録
手順 19 Oracle RMAN APM のための CLI ベースの設定
[Node1]
[Node1]
[Node1]
[Node1]
[Node1]
[Node1]
[Node1]
[Node2]
[Node2]
[Node2]
[Node2]
[Node2]
[Node2]
[Node2]
[Node1]
[Node2]
[Node1] または [Node2]
[Node1] または [Node2]
[NetVault Server]
[NetVault Server]
[NetVault Server]
手順 1 NetVault/CLUSTERPRO X 事前確認 [Node1][Node2]
CLUSTERPRO X にて NetVault を管理するには事前にいくつかの事柄を確認しておく必要があります。今回は
以下のような設定内容であると想定します。
表 1. NetVault インストール条件
項目
設定内容
NetVault インストール先 /mnt/share
Node1 ホスト名
server1
Node2 ホスト名
server2
NetVault Server
ホスト名
CLUSTERPRO X ノード
共通 NetVault マシン名
backup
nvcluster
概要
対象のファイルシステムは CLUSTERPRO X 管理下の共有
ディスク領域を指定
Node1 のホスト名、CLUSTERPRO X WebManager にて表
示
Node2 のホスト名、CLUSTERPRO X WebManager にて表
示
NetVault Server のホスト名はそのまま、NetVault Server の
NetVault マシン名
NetVault サーバから参照した際の CLUSTERPRO X によっ
て構成された 2 つのノードの共通 NetVault クライアント名
Page(s): 5/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 2 NetVault インストール [Node1]
まず、CLUSTERPRO X WebManager を使用し、[Node1:server1]が共有ディスク領域を参照できる状態にしま
す。ここではすでに[failover]としてフェイルオーバグループが作成されています。
server1 から CD-ROM(または、ダウンロード後解凍したモジュール)が認識できる状態にします。ここで
は、”/media/cdrom/netvault743/linux_x86_32/netvault/”以下にあると仮定しています。手順に従いインストール
を行います。
[root@server1 ~]# cd /media/cdrom/
[root@server1 cdrom]# cd netvault743/linux_x86_32/netvault/
[root@server1 netvault]# ./install
Installer invoked in /media/cdrom/netvault743/linux_x86_32/netvault
Using default /tmp as the temporary directory
Expanding distribution file
NetVault
Copyright (c) BakBone Software Inc. 2000-2005
Select a Language
1 English
2 JapaneseEUC
3 Chinese Traditional
4 Chinese Simplified
5 Korean
6 French
Select language? [1] : 2
- JapaneseEUC selected
Have you read and agreed to the terms of the license?
(y = yes, n = no, d = display license) (y n d) [d] : y
Should a client or server version of NetVault be installed? (c s) [c] :
Where should NetVault be installed? [/usr/netvault] : /mnt/share/netvault
Where should NetVault database be installed? [/mnt/share/netvault/db] :
Please enter a NetVault machine name
using A-Z, a-z, _ and 0-9 [server1] : nvcluster
Please enter the NetVault password for this machine:
Please confirm password:
・・・メッセージ省略・・・
Will link to '/mnt/share/netvault/etc/startup.sh'
Starting NetVault Services
Copying uninstallation scripts
Installation completed successfully
Page(s): 6/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 3 NetVault Oracle Online/Oracle RMAN APM インストール [Node1]
Linux 用 Oracle Online APM v4.600 を使用します。ファイルとしては”orf4jr10.npk”になります。また、Linux 用
Oracle RMAN APM v4.500 を使用します。ファイルとしては” orr4510.npk”になります。本検証では、両方のオ
プションについて確認を行うため、同時にインストールを行っていますが、通常通常の運用環境ではどちらか一つ
を選択します。
[Node1]上で NetVault Configurator を起動し、「パッケージ」タブから「ソフトウェアインストール」を選択することで、
指定の APM を導入が可能です。
[root@server1 ~]# nvconfigurator &
また、GUI を使用できる環境では無い場合には、CLI を使用しての導入も可能です。
[root@server1 ~]# cd /media/cdrom/linux24/oracle/v4.600/
[root@server1 v4.600]# /mnt/share/netvault/bin/installplugin ./orf4jr10.npk
Successfully installed './orf4jr10.npk'
[root@server1 v4.600]# cd /media/cdrom/linux24/oracle_rman/v4.500/
[root@server1 v4.500]# /mnt/share/netvault/bin/installplugin ./orr4510.npk
Successfully installed './orr4510.npk'
手順 4 NetVault サービス自動起動削除 [Node1]
NetVault はシステム起動時にサービスを起動するように OS 上で設定されていますが、サービスの起動/停止は
すべて CLUSTERPRO X 側で制御を行う必要があるため設定を解除します。起動スクリプトとして/etc/rc[x].d/以
下に生成される S99netvault ファイルが削除されます。また、起動中のプロセスも停止します。
[root@server1 ~]# /mnt/share/netvault/bin/nvpmgr remove
NetVault モジュールがインストールされているディスクが切り離されてしまう事態が発生した場合、NetVault プロ
セスを正常に停止することができなくなってしまいます。それを回避するには、以下の手順で共有ディスク領域に
ある必要なファイルをローカルディスクにコピーします。
[root@server1 ~]# rm /usr/bin/nvpmgr
rm: remove シンボリックリンク `/usr/bin/nvpmgr'? y
[root@server1 ~]# cp -r /mnt/share/netvault/bin/nvpmgr /usr/bin
[root@server1 ~]# cd /usr/lib
[root@server1 lib]# rm libnv6.so libnv6plugin.so libnv6jobs.so libnv6audit.so libnv6db.so
rm: remove シンボリックリンク `libnv6.so'? y
rm: remove シンボリックリンク `libnv6plugin.so'? y
rm: remove シンボリックリンク `libnv6jobs.so'? y
rm: remove シンボリックリンク `libnv6audit.so'? y
rm: remove シンボリックリンク `libnv6db.so'? y
[root@server1 lib]# cd /mnt/share/netvault/lib
[root@server1 lib]# cp -r libnv6.so /usr/lib
[root@server1 lib]# cp -r libnv6plugin.so /usr/lib
[root@server1 lib]# cp -r libnv6jobs.so /usr/lib
[root@server1 lib]# cp -r libnv6audit.so /usr/lib
[root@server1 lib]# cp -r libnv6db.so /usr/lib
Page(s): 7/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 5 Oracle RMAN APM のための SBT ライブラリのリンク設定[Node1]
Oracle RMAN APM については、インスタンスを停止後、Oracle ライブラリが SBT ライブラリを参照できるように
リンクします。詳細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。
[oracle@server1 ~]$ cd $ORACLE_HOME/lib
[oracle@server1 lib]$ ln -s /mnt/share/netvault/lib/orasbt.so orasbt.so
[oracle@server1 lib]$ ln -s orasbt.so libobk.so
手順 6 NetVault モジュール・ディレクトリのリネーム [Node1]
[Node1]側でインストール後、[Node2]からも同一ディレクトリにインストールを行います。そのためにリネームをし
ます。削除を行わないのは、後でライセンスファイルをコピーするためです。ここでは、”NetVault”ディレクトリ
を”NetVault.server1”とホスト名を追記した形でリネームしています。
[root@server1 ~]# mv /mnt/share/netvault /mnt/share/netvault.server1
手順 7 CLUSTERPRO X WebManager によるフェイルオーバグループの移動 [Node1]
CLUSTERPRO X WebManager を使用し、[Node1:server1]から[Node2:server2]へ”failover”フェイルオーバグ
ループを移動します。
手順 8 NetVault インストール [Node2]
[Node2]上で共有ディスク領域である/mnt/share ボリュームのマウントを確認後、手順 2 とまったく同様に
NetVault のインストールを行います。
手順 9 NetVault Oracle Online/Oracle RMAN APM インストール
[Node2]
[Node2]上で手順 3 と同様に、Oracle Online/Oracle RMAN APM を導入します。
[root@server2 ~]# cd /media/cdrom/linux24/oracle/v4.600/
[root@server2 v4.600]# /mnt/share/netvault/bin/installplugin ./orf4jr10.npk
Successfully installed './orf4jr10.npk'
[root@server2 v4.600]# cd /media/cdrom/linux24/oracle_rman/v4.500/
[root@server2 v4.500]# /mnt/share/netvault/bin/installplugin ./orr4510.npk
Successfully installed './orr4510.npk'
Page(s): 8/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 10 NetVault サービス自動起動削除 [Node2]
NetVault はシステム起動時にサービスを起動するように設定されていますが、サービスの起動/停止はすべて
CLUSTERPRO X 側で制御を行う必要があるため設定を解除します。手順 4 と同様です。
[root@server2 ~]# /mnt/share/netvault/bin/nvpmgr remove
手順 11 Oracle RMAN APM のための SBT ライブラリのリンク設定[Node2]
Oracle RMAN APM については、インスタンスを停止後、Oracle ライブラリが SBT ライブラリを参照できるように
リンクします。詳細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。
[oracle@server2 ~]$ sqlplus /nolog
SQL*Plus: Release 10.2.0.1.0 - Production on 火 1 月 23 14:56:39 2007
Copyright (c) 1982, 2005, Oracle. All rights reserved.
SQL> conn / as sysdba
接続されました。
SQL> shutdown immediate;
データベースがクローズされました。
データベースがディスマウントされました。
ORACLE インスタンスがシャットダウンされました。
SQL> quit
Oracle Database 10g Enterprise Edition Release 10.2.0.1.0 - Production
With the Partitioning, OLAP and Data Mining options との接続が切断されました。
[oracle@server2 ~]$ cd $ORACLE_HOME/lib
[oracle@server2 lib]$ ln -s /mnt/share/netvault/lib/orasbt.so orasbt.so
[oracle@server2 lib]$ ln -s orasbt.so libobk.so
手順 12 NetVault Oracle Online/Oracle RMAN APM ライセンスファイルのコピー [Node2]
APM を使用する場合には、個々のクライアント毎にライセンスが必要になるため、ライセンスファイルをコピーしま
す。リネームにより退避しておいたディレクトリから、コピーします。
[root@server2 ~]# cp /mnt/share/netvault.server1/db/bkl/* /mnt/share/netvault/db/bkl/
[root@server2 ~]# cd /mnt/share/netvault/db/bkl/
[root@server2 bkl]# ls
plg-1022000-server1.bkl plg-1023000-server1.bkl plg-1103000-server1.bkl
plg-1022000-server2.bkl plg-1023000-server2.bkl plg-1103000-server2.bkl
2 種類の APM を 2 ノード分のライセンスファイルとして保存してあるため、4 つのライセンスファイルになっていま
すが、通常 APM が 1 種類の場合には合計 2 つとなります。
※正規のライセンスを適用する場合は、[Node1]で対象のアプリケーションを稼動させた状態で[Node1]用のライ
センスキーを適用し、さらにフェイル・オーバーさせ、[Node2]側で[Node2]用のライセンスキーを適応してください。
手順 13 NetVault リネームされたモジュール・ディレクトリの削除 [Node2]
ライセンスファイルをコピー後、不要となった[Node1]の退避ディレクトリを削除します。ディレクトリ以下をすべて削
除するため、十分に確認した上で実行してください。
[root@server2 bkl]# rm -rf /mnt/share/netvault.server1/
Page(s): 9/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 14 NetVault によるクラスタ用ネットワーク設定 [Node2]
[Node2]上で NetVault Configurator を起動し、クラスタ用の IP アドレス設定を行います。最終的には、共有ディ
レクトリ上に反映されるため、現在稼動している[Node2]側のみで実行すれば問題ありません。
Network Manager タブ > Connections タブ内のいくつかの項目を設定する必要があります。
表 2. Network Manager の設定
項目
設定
Comma separated list
192.168.0.10
of barred address(es)
192.168.0.11
10.0.0.1
10.0.0.2
Comma separated list
192.168.0.1
of fallback address(es)
192.168.0.2
概要
接続を行わない IP アドレスを指定します。通常クラス
タサービス用のアドレスやアプリケーション用のアドレ
スを指定します
フェイル・オーバーした際に、NetVault サーバが代行
するホストの IP アドレスを指定します
複数指定する場合にはカンマ「,」で区切って入力可能です
NetVault のフォールバック・アドレス項目に「Node1,Node2」指定した場合は下記のような動きをします。
NetVault Node 1
障害発生
NetVault サーバ
NetVault サーバが対象の
クライアントにアクセスでき
ない場合に別のアドレスに
接続します
NetVault Node2
Page(s): 10/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
X 環境が無い場合には、設定ファイルを直接編集することで同様の作業を行うことができます。
[Network:Barred Addresses]
Tab Name=Connections
Tab Name Id=5625
Type=String
Width=32
Label=Comma separated list of barred !naddress(es)
Label Id=5626
Reset=Network Manager
Value=192.168.0.10!, 192.168.0.11!, 10.0.0.1!, 10.0.0.2
[Network:Fallback Addresses]
Tab Name=Connections
Tab Name Id=5627
Type=String
Width=32
Label=Comma separated list of fallback !naddress(es)
Label Id=5628
Reset=Network Manager
Value=192.168.0.1!,192.168.0.2
手順 15 CLUSTERPRO X Builder によるスクリプト編集 [管理コンソール]
NetVault のサービスを CLUSTERPRO X Builder により、フェイルオーバグループに登録します。Builder の機
能を使用し、情報ファイルを開いて、クラスタ構成を変更する機能により、既存のリソースを編集します。
新規表示されるウィンドウ内の、スクリプトタブを選択し、スクリプトの編集を実行します。GUI 上で編集を選択す
るとあらかじめ決められたテキストエディタ(デフォルトは Linux の場合 vi)が起動され、自由に編集保存ができま
す。設定後は、後述するコマンドにより各サーバへ配信する必要があります。
start.sh および stop.sh をそれぞれ編集します。
あらかじめ、Oracle 用のフェイルオーバ設定がスクリプトに対して完了している場合を想定しています。まず、
startup.sh に対して異常時フェイルオーバの際に、NetVault が起動されるよう、編集を行います。次に、stop.sh
に対して停止するためのスクリプト登録をそれぞれ2箇所行います。スクリプト内の詳細は環境によって異なるた
め都度確認するようにしてください。
スクリプト名:start.sh
#! /bin/sh
#***************************************
#*
start.sh
*
#***************************************
if [ "$CLP_EVENT" = "START" ]
then
if [ "$CLP_DISK" = "SUCCESS" ]
then
echo "NORMAL1"
# CLUSTERPRO X
su - oracle -c "export ORACLE_SID=oradb; \
. /usr/local/bin/oraenv; lsnrctl start listener; \
sqlplus /nolog @/mnt/share/admin/sql/startup.sql"
#NetVault
/mnt/share/netvault/etc/startup.sh start
Page(s): 11/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
if [ "$CLP_SERVER" = "HOME" ]
then
echo "NORMAL2"
else
echo "ON_OTHER1"
fi
else
echo "ERROR_DISK from START"
fi
elif [ "$CLP_EVENT" = "FAILOVER" ]
then
if [ "$CLP_DISK" = "SUCCESS" ]
then
echo "FAILOVER1"
# CLUSTERPRO X
su - oracle -c "export ORACLE_SID=oradb; \
. /usr/local/bin/oraenv; lsnrctl start listener; \
sqlplus /nolog @/mnt/share/admin/sql/startup.sql"
# NetVault
/mnt/share/netvault/etc/startup.sh start
if [ "$CLP_SERVER" = "HOME" ]
then
echo "FAILOVER2"
else
echo "ON_OTHER2"
fi
else
echo "ERROR_DISK from FAILOVER"
fi
else
echo "NO_CLP"
fi
echo "EXIT"
exit 0
スクリプト名:stop.sh
#! /bin/sh
#***************************************
#*
stop.sh
*
#***************************************
if [ "$CLP_EVENT" = "START" ]
then
if [ "$CLP_DISK" = "SUCCESS" ]
then
echo "NORMAL1"
# NetVault
/mnt/share/netvault/etc/startup.sh stop
# CLUSTERPRO X
su - oracle -c "ORACLE_SID=oradb; \
. /usr/local/bin/oraenv; \
sqlplus /nolog @/mnt/share/admin/sql/shutdown.sql; \
lsnrctl stop listener"
if [ "$CLP_SERVER" = "HOME" ]
then
echo "NORMAL2"
Page(s): 12/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
else
echo "ON_OTHER1"
fi
else
echo "ERROR_DISK from START"
fi
elif [ "$CLP_EVENT" = "FAILOVER" ]
then
if [ "$CLP_DISK" = "SUCCESS" ]
then
echo "FAILOVER1"
# NetVault
/mnt/share/netvault/etc/startup.sh stop
# CLUSTERPRO X
su - oracle -c "ORACLE_SID=oradb; \
. /usr/local/bin/oraenv; \
sqlplus /nolog @/mnt/share/admin/sql/shutdown.sql; \
lsnrctl stop listener"
if [ "$CLP_SERVER" = "HOME" ]
then
echo "FAILOVER2"
else
echo "ON_OTHER2"
fi
else
echo "ERROR_DISK from FAILOVER"
fi
else
echo "NO_CLP"
fi
echo "EXIT"
exit 0
修正したスクリプトを各サーバに反映させます。詳細は CLUSTERPRO X のドキュメントをご参照ください。設定
ファイルが保存されたディレクトリを指定し、CLI からコマンドを実行します。ここでは、server1 で作業しています。
[root@server1 ~]# clpcl -t -a
[root@server1 ~]# clpcfctrl --push -l -x /root/CLUSTERPRO_X/configuration
Need to shutdown system and reboot
please shutdown system after push. (hit return) :
file delivery to server 10.0.0.1 success.
file delivery to server 10.0.0.2 success.
Command succeeded.(code:0)
[root@server1 ~]# clpcl -s -a
Start server1 : Success
Start server2 : Success
clpcl -t -a クラスタ停止
clpcfctrl --push -l -x ディレクトリ (Linux で対象ディレクトリの構成ファイルを配布)
clpcl -s -a クラスタ起動
Page(s): 13/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
手順 16 フェイルオーバグループのフェイル・オーバー手動確認 [管理コンソール]
手順 3 と同様に CLUSTERPRO X WebManager を使用し、[Node2:server2]から[Node1:server]へ”failover”フ
ェイルオーバグループを移動します。起動・停止スクリプト内に NetVault の記述を行ったことで、各種ディスクリソ
ース、Oracle に合わせて、NetVault のサービスもフェイル・オーバー時に自動起動することを確認します。
手順 17 NetVault Server のインストール設定
NetVault Server へのインストールおよび各種デバイス設定を行います。詳細については、弊社 NetVault
Backup 7.4.x アドミニストレーターズ・ガイド等を確認してください。
手順 18 NetVault Client 登録 [NetVault Server]
NetVault GUI の Client Management より、クラスタリング環境となっている 2 台の共通 NetVault マシン名が確
認できます。この例では[nvcluster]となっています。クライアント追加を行います。 その際には、インストール時に
設定したパスワード認証を求められますので、入力します。
クライアント追加後、[nvcluster]の詳細表示を確認して見ると NetVault マシン名が同一で、IP アドレスやネットワ
ーク名が異なっていることが、フェイルオーバグループを変更した場合に確認できます。
[Node1:server1 が Active]
Page(s): 14/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
[Node2:server2 が Active]
手順 19 Oracle RMAN APM のための CLI ベースの設定 [NetVault Server]
デフォルトではアクセス制御のために、コマンドラインからバックアップ/リストアを実行するための機能が無効にな
っているため、nvpluginaccess コマンドを使用して、クラスタ化されたクライアントからの Oracle RMAN APM に
よる実行について権限を与えます。本例では nvpluginaccess コマンドは NetVault Server 上から実行
し、”nvcluster”の NetVault Client を指定し、ログオンアカウントとしては”default”アカウントを使用しています。詳
細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。
[root@backup ~]# cd /usr/netvault/util/
[root@backup util]# ./nvpluginaccess -remove -client nvcluster
Removed client stanza 'nvcluster'
[root@backup util]# ./nvpluginaccess -client nvcluster -account default
Please select a plugin you wish to allow client 'nvcluster' to access:
1) Informix plugin
2) Oracle RMAN plugin
3) Informix and Oracle RMAN plugins
4) Specify plugin name
2
Please enter the password for the account 'default':
Successfully added client 'nvcluster'
Page(s): 15/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
6. Oracle Online/RMAN APM 設定方法
Oracle Online/RMAN APM を使用するにあたって、事前に Oracle 側でアーカイブログモードに設定しておく必
要があります。その後、NetVault の GUI から Oracle データベースの登録を行います。
手順 1 Oracle Online APM によるデータベースの登録とデータベースの表示の確認
必要な項目をマニュアルに従って入力していきます。ORACLE_HOME はそれぞれのローカルディスクですが、
アーカイブログディレクトリ等は共有ディスクということになります。また、登録後はアカウントとパスワードを入力し
て正しく表領域等が表示できるか確認します。
手順 2 Oracle RMAN APM によるデータベースの登録とデータベースの表示の確認
必要な項目をマニュアルに従って入力していきます。ORACLE_HOME や RMAN コマンドのパスはそれぞれの
ローカルディスクですが、Init File(ここでは実際には、SPFILE を指定しています)は共有ディスクということになり
ます。また、登録後はアカウントとパスワードを入力して正しく表領域等が表示できるか確認します。
Page(s): 16/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
7. NetVault Backup によるバックアップ検証
CLUSTERPRO X にて NetVault Backup を使用してバックアップする際の動作検証結果について記載します。
なお、すべての結果は共有ディスク構成とミラー構成で同一でしたので違いについては割愛しています。
検証 1. CLUSTERPRO X での基本検証
表 3. CLUSTERPRO X 基本検証
項目
NetVault サービスを含むフェイルオー
バグループの起動
結果
正常稼動
NetVault サービスを含むフェイルオー
バグループの移動
正常稼動
NetVault サービスを含むフェイルオー
バグループの停止
正常稼動
趣旨
CLUSTERPRO X WebManager を使用して
NetVault サービスを含むフェイルオーバグループの
起動
CLUSTERPRO X WebManager を使用して
NetVault サービスを含むフェイルオーバグループの
移動
CLUSTERPRO X WebManager を使用して
NetVault サービスを含むフェイルオーバグループの
停止
検証 2. ファイルシステムプラグイン動作検証
表 4. ファイルシステムプラグイン基本検証
項目
結果
基本バックアップ
正常稼動
趣旨
各ノードでフェイル・オーバーを実施しバックアップ実
施
基本リストア
正常稼動
各ノードでフェイル・オーバーを実施しリストア実施。
また、[Node1]で取得したバックアップを[Node2]でサ
ービスを起動させたリストア
バックアップ中のフェイル・オーバー
正常稼動
バックアップ中にフェイル・オーバー処理が実施され
た場合に次回バックアップ処理の検証(*)
リストア中のフェイル・オーバー
正常稼動
リストア中にフェイル・オーバー処理が実施された場
合に次回リストア処理の検証(*)
(*) 但し、バックアップ/リストア中のジョブはフェイル・オーバー時には強制終了します。ジョブリトライの機能によ
り、自動的な再実行を行うことも可能です。詳細は、項目 8 の検証方法についてを参照してください。
検証 3. Oracle Online APM 動作検証
表 9. CLUSTERPRO X Oracle Online APM 検証
項目
結果
オラクルバックアップ検証 1
正常稼動
オラクルリストア検証 1
正常稼動
検証 4. Oracle RMAN APM 動作検証
表 10. CLUSTERPRO X Oracle RMAN APM 検証
項目
結果
オラクルバックアップ検証 1
正常稼動
オラクルリストア検証 1
正常稼動
趣旨
ファイルシステム上にオラクルデータがある場合のバ
ックアップ検証
ファイルシステム上にオラクルデータがある場合のリ
ストア検証(DATA_TS 表領域)
趣旨
ファイルシステム上にオラクルデータがある場合のバ
ックアップ検証
ファイルシステム上にオラクルデータがある場合のリ
ストア検証(DATA_TS 表領域)
本検証で全てのテスト項目で正常稼動することを確認することができました。リストア処理については、項目 8 の
「検証方法について」を参照してください。DATA_TS 表領域は、リストア/リカバリ用に作成したテスト用の表領域
です。12 万件のテストデータを使用し、確認を行いました。
Page(s): 17/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。
8. 検証方法について
検証方法 1. フェイル・オーバー時のジョブリトライについて
ジョブ作成時に、スケジュールタブのジョブオプションにて、NetVault 7.1.0 よりの新機能であるジョブリトライの機
能を有効にすることで、フェイル・オーバーによりジョブが途中で失敗しても、あらかじめ指定した時間の間隔をあ
けて再実行することが可能となります。再実行のタイミングはジョブが失敗した時間からリトライ間隔の時間を足し
た時が新たにスケジュールされます。
なお、フェイル・オーバー時には NetVault Backup サーバからクラスタ化された NetVault Backup クライアントが
再認識されるまでに 3~5 分程度時間がかかる場合もあるため、あらかじめ簡単な検証を行った上で、リトライ間
隔を設定するようにしてください。
検証方法 2. Oracle のリストア処理について
Oracle Online APM および Oracle RMAN APM を利用したバックアップ/リストアを実施する際には以下のような
方法で実施しております。
1. データベース破損処理
Oracle 稼働中に対象の表領域を破損させます。Linux では稼働中でもファイル名のリネームや削除が可能
なため強制実行し、Oracle 側から障害であることを確認しました。
2. データベースの復旧作業
Oracle Online APM ではリストア処理を NetVault Backup から実施し、破損した表領域のリストアを行った
後オラクル側でリカバリ処理を実施しました。また、Oracle RMAN APM ではリストア処理およびリカバリ共に、
NetVault Backup の GUI を使用して可能な限りの復旧を行いました。Oracle のリカバリでは状況に応じた判
断を行う必要がある場合もあり、その際にはオラクル側でのリカバリ処理も併用する必要があります。
9. まとめ
以上で、Linux 環境の Oracle が CLUSTERPRO X により Active-Standby のクラスタリングとなっている環境に
て、NetVault Backup を使用して、別途設置したバックアップ・サーバにより、バックアップジョブを変更することな
く1台のマシンとして認識しバックアップ/リストアが行えることが確認できました。動作としては、共有ディスク構成
およびミラー構成について確認を行い、その結果はまったく同一でした。
それぞれの製品に関する技術的な詳細につきましては、各種ドキュメントをご参照ください。また、NetVault
Backup の基本的な操作方法等に付きましても NetVault Backup アドミニストレーターズ・ガイドをご覧ください。
Page(s): 18/18
________________________________________________
本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック
ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより
動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。
記載された会社名および製品名などは該当する各社の商標または登録商標です。