Article ID: NVSI-070151JP Created: 2007/07/10 Revised: -- NEC CLUSTERPRO X for Linux クラスタリング環境 NetVault Backup 7.4.x Oracle バックアップ動作検証 1. はじめに NetVault 6.5 からサポートされている Fallback-address 設定機能を使用し、ORACLE を CLUSTERPRO X に よるクラスタリングとして構築した環境において、CLUSTER PRO X が行うフェイル・オーバー機能と連動して、 NetVault Backup クライアントによる Oracle Online/RMAN を使用しての Oracle のオンライン・バックアップの動 作を検証しました。 2. 検証環境 2.1 システム構成 下図のような環境にて検証を行いました。通常の共有ディスク構成の他に、まったく同じハードウェアを使用し内 蔵ディスクをソフトウェアによりミラー化したミラー構成の両方について確認を行いました。 【共有ディスク構成] VTL Node1 CLUSTERPRO X Node2 Express5800/120Lf Express5800/51Ld ST12000 【ミラー構成】 mirror mirror VTL Node1 CLUSTERPRO X Node2 Express5800/120Lf Express5800/51Ld Page(s): 1/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 2.2 ハードウェア構成 (1) クラスタ構成 表 2-1 ハードウェア構成(クラスタ構成) [server1:Node1] NEC メーカー Express5800/120Lf 機種 Intel Pentium 3 1133MHz CPU 512MB メモリ 18GB(U320,10000rpm) 内蔵ディスク容量 QLogic QLA2200 FC Card 表 2-2 ハードウェア構成(クラスタ構成) [server2:Node2] NEC メーカー Express5800/120Lf 機種 Intel Pentium 3 1133MHz CPU 512MB メモリ 18GB(U320,10000rpm) 内蔵ディスク容量 QLogic QLA2200 FC Card (2) バックアップ・サーバ 表 2-3 ハードウェア構成(バックアップ・サーバ) [backup] NEC メーカー Express5800 51Ld 機種 Intel Pentium 4 3.4GHz CPU 1GB メモリ 80GB 内蔵ディスク容量 (3) ディスク 表 2-5 ハードウェア構成(ディスク) [ST12000] NEC メーカー ST12000 (N8190-82) 機種 FC I/F 2.3 ソフトウェア構成 表 2-6 ソフトウェア構成 [server1:Node1] server1 ホスト RedHat Enterprise Linux AS 4 Update 4 OS CLUSTERPRO X 1.0.x Cluster Software CLUSTERPRO X Replicator 1.0.x (ミラーディスク構成時のみ使用) NetVault 7.4.3 R2006AUG07-EXCALIBUR Backup Software 表 2-7 ソフトウェア構成 [server2:Node2] server2 ホスト RedHat Enterprise Linux AS 4 Update 4 OS CLUSTERPRO X 1.0.x Cluster Software CLUSTERPRO X Replicator 1.0.x (ミラーディスク構成時のみ使用) NetVault 7.4.3 R2006AUG07-EXCALIBUR Backup Software 表 2-8 ソフトウェア構成 [backup] backup ホスト RedHat Enterprise Linux AS 4 Update 4 OS NetVault 7.4.3 R2006AUG07-EXCALIBUR Backup Software Page(s): 2/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 2.4 ディスク構成 表 2-9 パーティション構成 [server1:Node1] パーティション /dev/sda1 /dev/sda2 /dev/sda3 /dev/sdb1 /dev/sdb2 Type ext3 ext3 SWAP raw ext3 表 2-10 パーティション構成 [server2:Node2] パーティション /dev/sda1 /dev/sda2 /dev/sda3 /dev/sdb1 /dev/sdb2 Type ext3 ext3 SWAP raw ext3 表 2-11 パーティション構成 [backup] パーティション /dev/sda1 /dev/sda2 /dev/sda3 Type ext3 ext3 SWAP 表 2-12 パーティション構成 [server1:Node1] パーティション /dev/sda1 /dev/sda2 /dev/sda3 /dev/sda4 /dev/sda5 /dev/NMP1 (/dev/sda6 をミラー化) Type ext3 ext3 SWAP 拡張領域 raw ext3 表 2-13 パーティション構成 [server2:Node2] パーティション /dev/sda1 /dev/sda2 /dev/sda3 /dev/sda4 /dev/sda5 /dev/NMP1 (/dev/sda6 をミラー化) Type ext3 ext3 SWAP 拡張領域 raw ext3 共有ディスク構成の場合 マウントポイント/Raw Device 使用 /boot / Cluster パーティション /mnt/share 共有ディスク構成の場合 マウントポイント/Raw Device 使用 /boot / Cluster パーティション /mnt/share マウントポイント/Raw Device 使用 /boot / ミラー構成の場合 マウントポイント/Raw Device 使用 /boot / Cluster パーティション /mnt/mirror ミラー構成の場合 マウントポイント/Raw Device 使用 /boot / Cluster パーティション /mnt/mirror 2.5 ネットワーク設定 表 2-14 ネットワーク構成 ホスト backup :Public server1 :Public server1 :Private server2 :Public server2 :Private フローティング IP (WebManager) フローティング IP (failover) IP 192.168.0.3 192.168.0.1 10.0.0.1 192.168.0.2 10.0.0.2 192.168.0.10 192.168.0.11 Netmask 255.255.255.0 255.255.255.0 255.255.0.0 255.255.255.0 255.255.0.0 255.255.255.0 255.255.255.0 Page(s): 3/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 3. CLUSTER ソフトウェアの構成(CLUSTERPRO X) 仮想クライアントを正しく動作させるには、事前にクラスタウェア側で共有ディスクとフローティング IP の設定を行 っておく必要があります。この例では、共有ディスクのマウントポイントとして/mnt/share を使用しています。また、 フローティング IP として 192.168.0.11 を使用しています。 リソースの切り替えには WebManager から切り替えたいリソースの右クリックメニューから移動を選択し、サーバ 選択(グループ移動)ウィンドウで切り替え先のサーバを指定することで、フェイル・オーバーを行います。一連の 状況はすべて WebManager によって確認することができます。 4. NetVault Server のインストール NetVault Server へのインストールにつきましては、別途 NetVault 簡単設定ガイド、NetVault Backup 7.4.x アド ミニストレーターズ・ガイド等をご参照ください。本検証ではバックアップデバイスとして、NetVault Backup のハー ドディスクを仮想的なテープライブラリとして作成および登録する機能を使用し、実践的な大規模データベース・バ ックアップ環境と同様の構成を実現しています。 Page(s): 4/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 5. NetVault Client の CLUSTERPRO X 用セットアップ方法 CLUSTERPRO X 制御下で Active-Standby 方式の登録を行い、NetVault Server からは 1 台の NetVault Client として稼動させるためには下記のような方法でインストールを行う必要があります。NetVault の各種ドキュ メントをご参照ください。 手順 1 NetVault/CLUSTERPRO X 事前確認 手順 2 NetVault インストール 手順 3 NetVault Oracle Online/RMAN APM インストール 手順 4 NetVault サービス自動起動削除 手順 5 Oracle RMAN APM のための SBT ライブラリのリンク設定 手順 6 NetVault モジュール・ディレクトリのリネーム 手順 7 CLUSTERPRO X WebManager によるフェイルオーバグループの移動 手順 8 NetVault インストール 手順 9 NetVault Oracle Online/RMAN APM インストール 手順 10 NetVault サービス自動起動削除 手順 11 Oracle RMAN APM のための SBT ライブラリのリンク設定 手順 12 NetVault Oracle Online/RMAN APM ライセンスファイルのコピー 手順 13 NetVault リネームされたモジュール・ディレクトリの削除 手順 14 NetVault によるクラスタ用ネットワーク設定 手順 15 CLUSTERPRO X Builder によるスクリプト編集 手順 16 フェイルオーバグループのフェイル・オーバー手動確認 手順 17 NetVault Server のインストール設定 手順 18 NetVault Client 登録 手順 19 Oracle RMAN APM のための CLI ベースの設定 [Node1] [Node1] [Node1] [Node1] [Node1] [Node1] [Node1] [Node2] [Node2] [Node2] [Node2] [Node2] [Node2] [Node2] [Node1] [Node2] [Node1] または [Node2] [Node1] または [Node2] [NetVault Server] [NetVault Server] [NetVault Server] 手順 1 NetVault/CLUSTERPRO X 事前確認 [Node1][Node2] CLUSTERPRO X にて NetVault を管理するには事前にいくつかの事柄を確認しておく必要があります。今回は 以下のような設定内容であると想定します。 表 1. NetVault インストール条件 項目 設定内容 NetVault インストール先 /mnt/share Node1 ホスト名 server1 Node2 ホスト名 server2 NetVault Server ホスト名 CLUSTERPRO X ノード 共通 NetVault マシン名 backup nvcluster 概要 対象のファイルシステムは CLUSTERPRO X 管理下の共有 ディスク領域を指定 Node1 のホスト名、CLUSTERPRO X WebManager にて表 示 Node2 のホスト名、CLUSTERPRO X WebManager にて表 示 NetVault Server のホスト名はそのまま、NetVault Server の NetVault マシン名 NetVault サーバから参照した際の CLUSTERPRO X によっ て構成された 2 つのノードの共通 NetVault クライアント名 Page(s): 5/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 2 NetVault インストール [Node1] まず、CLUSTERPRO X WebManager を使用し、[Node1:server1]が共有ディスク領域を参照できる状態にしま す。ここではすでに[failover]としてフェイルオーバグループが作成されています。 server1 から CD-ROM(または、ダウンロード後解凍したモジュール)が認識できる状態にします。ここで は、”/media/cdrom/netvault743/linux_x86_32/netvault/”以下にあると仮定しています。手順に従いインストール を行います。 [root@server1 ~]# cd /media/cdrom/ [root@server1 cdrom]# cd netvault743/linux_x86_32/netvault/ [root@server1 netvault]# ./install Installer invoked in /media/cdrom/netvault743/linux_x86_32/netvault Using default /tmp as the temporary directory Expanding distribution file NetVault Copyright (c) BakBone Software Inc. 2000-2005 Select a Language 1 English 2 JapaneseEUC 3 Chinese Traditional 4 Chinese Simplified 5 Korean 6 French Select language? [1] : 2 - JapaneseEUC selected Have you read and agreed to the terms of the license? (y = yes, n = no, d = display license) (y n d) [d] : y Should a client or server version of NetVault be installed? (c s) [c] : Where should NetVault be installed? [/usr/netvault] : /mnt/share/netvault Where should NetVault database be installed? [/mnt/share/netvault/db] : Please enter a NetVault machine name using A-Z, a-z, _ and 0-9 [server1] : nvcluster Please enter the NetVault password for this machine: Please confirm password: ・・・メッセージ省略・・・ Will link to '/mnt/share/netvault/etc/startup.sh' Starting NetVault Services Copying uninstallation scripts Installation completed successfully Page(s): 6/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 3 NetVault Oracle Online/Oracle RMAN APM インストール [Node1] Linux 用 Oracle Online APM v4.600 を使用します。ファイルとしては”orf4jr10.npk”になります。また、Linux 用 Oracle RMAN APM v4.500 を使用します。ファイルとしては” orr4510.npk”になります。本検証では、両方のオ プションについて確認を行うため、同時にインストールを行っていますが、通常通常の運用環境ではどちらか一つ を選択します。 [Node1]上で NetVault Configurator を起動し、「パッケージ」タブから「ソフトウェアインストール」を選択することで、 指定の APM を導入が可能です。 [root@server1 ~]# nvconfigurator & また、GUI を使用できる環境では無い場合には、CLI を使用しての導入も可能です。 [root@server1 ~]# cd /media/cdrom/linux24/oracle/v4.600/ [root@server1 v4.600]# /mnt/share/netvault/bin/installplugin ./orf4jr10.npk Successfully installed './orf4jr10.npk' [root@server1 v4.600]# cd /media/cdrom/linux24/oracle_rman/v4.500/ [root@server1 v4.500]# /mnt/share/netvault/bin/installplugin ./orr4510.npk Successfully installed './orr4510.npk' 手順 4 NetVault サービス自動起動削除 [Node1] NetVault はシステム起動時にサービスを起動するように OS 上で設定されていますが、サービスの起動/停止は すべて CLUSTERPRO X 側で制御を行う必要があるため設定を解除します。起動スクリプトとして/etc/rc[x].d/以 下に生成される S99netvault ファイルが削除されます。また、起動中のプロセスも停止します。 [root@server1 ~]# /mnt/share/netvault/bin/nvpmgr remove NetVault モジュールがインストールされているディスクが切り離されてしまう事態が発生した場合、NetVault プロ セスを正常に停止することができなくなってしまいます。それを回避するには、以下の手順で共有ディスク領域に ある必要なファイルをローカルディスクにコピーします。 [root@server1 ~]# rm /usr/bin/nvpmgr rm: remove シンボリックリンク `/usr/bin/nvpmgr'? y [root@server1 ~]# cp -r /mnt/share/netvault/bin/nvpmgr /usr/bin [root@server1 ~]# cd /usr/lib [root@server1 lib]# rm libnv6.so libnv6plugin.so libnv6jobs.so libnv6audit.so libnv6db.so rm: remove シンボリックリンク `libnv6.so'? y rm: remove シンボリックリンク `libnv6plugin.so'? y rm: remove シンボリックリンク `libnv6jobs.so'? y rm: remove シンボリックリンク `libnv6audit.so'? y rm: remove シンボリックリンク `libnv6db.so'? y [root@server1 lib]# cd /mnt/share/netvault/lib [root@server1 lib]# cp -r libnv6.so /usr/lib [root@server1 lib]# cp -r libnv6plugin.so /usr/lib [root@server1 lib]# cp -r libnv6jobs.so /usr/lib [root@server1 lib]# cp -r libnv6audit.so /usr/lib [root@server1 lib]# cp -r libnv6db.so /usr/lib Page(s): 7/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 5 Oracle RMAN APM のための SBT ライブラリのリンク設定[Node1] Oracle RMAN APM については、インスタンスを停止後、Oracle ライブラリが SBT ライブラリを参照できるように リンクします。詳細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。 [oracle@server1 ~]$ cd $ORACLE_HOME/lib [oracle@server1 lib]$ ln -s /mnt/share/netvault/lib/orasbt.so orasbt.so [oracle@server1 lib]$ ln -s orasbt.so libobk.so 手順 6 NetVault モジュール・ディレクトリのリネーム [Node1] [Node1]側でインストール後、[Node2]からも同一ディレクトリにインストールを行います。そのためにリネームをし ます。削除を行わないのは、後でライセンスファイルをコピーするためです。ここでは、”NetVault”ディレクトリ を”NetVault.server1”とホスト名を追記した形でリネームしています。 [root@server1 ~]# mv /mnt/share/netvault /mnt/share/netvault.server1 手順 7 CLUSTERPRO X WebManager によるフェイルオーバグループの移動 [Node1] CLUSTERPRO X WebManager を使用し、[Node1:server1]から[Node2:server2]へ”failover”フェイルオーバグ ループを移動します。 手順 8 NetVault インストール [Node2] [Node2]上で共有ディスク領域である/mnt/share ボリュームのマウントを確認後、手順 2 とまったく同様に NetVault のインストールを行います。 手順 9 NetVault Oracle Online/Oracle RMAN APM インストール [Node2] [Node2]上で手順 3 と同様に、Oracle Online/Oracle RMAN APM を導入します。 [root@server2 ~]# cd /media/cdrom/linux24/oracle/v4.600/ [root@server2 v4.600]# /mnt/share/netvault/bin/installplugin ./orf4jr10.npk Successfully installed './orf4jr10.npk' [root@server2 v4.600]# cd /media/cdrom/linux24/oracle_rman/v4.500/ [root@server2 v4.500]# /mnt/share/netvault/bin/installplugin ./orr4510.npk Successfully installed './orr4510.npk' Page(s): 8/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 10 NetVault サービス自動起動削除 [Node2] NetVault はシステム起動時にサービスを起動するように設定されていますが、サービスの起動/停止はすべて CLUSTERPRO X 側で制御を行う必要があるため設定を解除します。手順 4 と同様です。 [root@server2 ~]# /mnt/share/netvault/bin/nvpmgr remove 手順 11 Oracle RMAN APM のための SBT ライブラリのリンク設定[Node2] Oracle RMAN APM については、インスタンスを停止後、Oracle ライブラリが SBT ライブラリを参照できるように リンクします。詳細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。 [oracle@server2 ~]$ sqlplus /nolog SQL*Plus: Release 10.2.0.1.0 - Production on 火 1 月 23 14:56:39 2007 Copyright (c) 1982, 2005, Oracle. All rights reserved. SQL> conn / as sysdba 接続されました。 SQL> shutdown immediate; データベースがクローズされました。 データベースがディスマウントされました。 ORACLE インスタンスがシャットダウンされました。 SQL> quit Oracle Database 10g Enterprise Edition Release 10.2.0.1.0 - Production With the Partitioning, OLAP and Data Mining options との接続が切断されました。 [oracle@server2 ~]$ cd $ORACLE_HOME/lib [oracle@server2 lib]$ ln -s /mnt/share/netvault/lib/orasbt.so orasbt.so [oracle@server2 lib]$ ln -s orasbt.so libobk.so 手順 12 NetVault Oracle Online/Oracle RMAN APM ライセンスファイルのコピー [Node2] APM を使用する場合には、個々のクライアント毎にライセンスが必要になるため、ライセンスファイルをコピーしま す。リネームにより退避しておいたディレクトリから、コピーします。 [root@server2 ~]# cp /mnt/share/netvault.server1/db/bkl/* /mnt/share/netvault/db/bkl/ [root@server2 ~]# cd /mnt/share/netvault/db/bkl/ [root@server2 bkl]# ls plg-1022000-server1.bkl plg-1023000-server1.bkl plg-1103000-server1.bkl plg-1022000-server2.bkl plg-1023000-server2.bkl plg-1103000-server2.bkl 2 種類の APM を 2 ノード分のライセンスファイルとして保存してあるため、4 つのライセンスファイルになっていま すが、通常 APM が 1 種類の場合には合計 2 つとなります。 ※正規のライセンスを適用する場合は、[Node1]で対象のアプリケーションを稼動させた状態で[Node1]用のライ センスキーを適用し、さらにフェイル・オーバーさせ、[Node2]側で[Node2]用のライセンスキーを適応してください。 手順 13 NetVault リネームされたモジュール・ディレクトリの削除 [Node2] ライセンスファイルをコピー後、不要となった[Node1]の退避ディレクトリを削除します。ディレクトリ以下をすべて削 除するため、十分に確認した上で実行してください。 [root@server2 bkl]# rm -rf /mnt/share/netvault.server1/ Page(s): 9/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 14 NetVault によるクラスタ用ネットワーク設定 [Node2] [Node2]上で NetVault Configurator を起動し、クラスタ用の IP アドレス設定を行います。最終的には、共有ディ レクトリ上に反映されるため、現在稼動している[Node2]側のみで実行すれば問題ありません。 Network Manager タブ > Connections タブ内のいくつかの項目を設定する必要があります。 表 2. Network Manager の設定 項目 設定 Comma separated list 192.168.0.10 of barred address(es) 192.168.0.11 10.0.0.1 10.0.0.2 Comma separated list 192.168.0.1 of fallback address(es) 192.168.0.2 概要 接続を行わない IP アドレスを指定します。通常クラス タサービス用のアドレスやアプリケーション用のアドレ スを指定します フェイル・オーバーした際に、NetVault サーバが代行 するホストの IP アドレスを指定します 複数指定する場合にはカンマ「,」で区切って入力可能です NetVault のフォールバック・アドレス項目に「Node1,Node2」指定した場合は下記のような動きをします。 NetVault Node 1 障害発生 NetVault サーバ NetVault サーバが対象の クライアントにアクセスでき ない場合に別のアドレスに 接続します NetVault Node2 Page(s): 10/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 X 環境が無い場合には、設定ファイルを直接編集することで同様の作業を行うことができます。 [Network:Barred Addresses] Tab Name=Connections Tab Name Id=5625 Type=String Width=32 Label=Comma separated list of barred !naddress(es) Label Id=5626 Reset=Network Manager Value=192.168.0.10!, 192.168.0.11!, 10.0.0.1!, 10.0.0.2 [Network:Fallback Addresses] Tab Name=Connections Tab Name Id=5627 Type=String Width=32 Label=Comma separated list of fallback !naddress(es) Label Id=5628 Reset=Network Manager Value=192.168.0.1!,192.168.0.2 手順 15 CLUSTERPRO X Builder によるスクリプト編集 [管理コンソール] NetVault のサービスを CLUSTERPRO X Builder により、フェイルオーバグループに登録します。Builder の機 能を使用し、情報ファイルを開いて、クラスタ構成を変更する機能により、既存のリソースを編集します。 新規表示されるウィンドウ内の、スクリプトタブを選択し、スクリプトの編集を実行します。GUI 上で編集を選択す るとあらかじめ決められたテキストエディタ(デフォルトは Linux の場合 vi)が起動され、自由に編集保存ができま す。設定後は、後述するコマンドにより各サーバへ配信する必要があります。 start.sh および stop.sh をそれぞれ編集します。 あらかじめ、Oracle 用のフェイルオーバ設定がスクリプトに対して完了している場合を想定しています。まず、 startup.sh に対して異常時フェイルオーバの際に、NetVault が起動されるよう、編集を行います。次に、stop.sh に対して停止するためのスクリプト登録をそれぞれ2箇所行います。スクリプト内の詳細は環境によって異なるた め都度確認するようにしてください。 スクリプト名:start.sh #! /bin/sh #*************************************** #* start.sh * #*************************************** if [ "$CLP_EVENT" = "START" ] then if [ "$CLP_DISK" = "SUCCESS" ] then echo "NORMAL1" # CLUSTERPRO X su - oracle -c "export ORACLE_SID=oradb; \ . /usr/local/bin/oraenv; lsnrctl start listener; \ sqlplus /nolog @/mnt/share/admin/sql/startup.sql" #NetVault /mnt/share/netvault/etc/startup.sh start Page(s): 11/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 if [ "$CLP_SERVER" = "HOME" ] then echo "NORMAL2" else echo "ON_OTHER1" fi else echo "ERROR_DISK from START" fi elif [ "$CLP_EVENT" = "FAILOVER" ] then if [ "$CLP_DISK" = "SUCCESS" ] then echo "FAILOVER1" # CLUSTERPRO X su - oracle -c "export ORACLE_SID=oradb; \ . /usr/local/bin/oraenv; lsnrctl start listener; \ sqlplus /nolog @/mnt/share/admin/sql/startup.sql" # NetVault /mnt/share/netvault/etc/startup.sh start if [ "$CLP_SERVER" = "HOME" ] then echo "FAILOVER2" else echo "ON_OTHER2" fi else echo "ERROR_DISK from FAILOVER" fi else echo "NO_CLP" fi echo "EXIT" exit 0 スクリプト名:stop.sh #! /bin/sh #*************************************** #* stop.sh * #*************************************** if [ "$CLP_EVENT" = "START" ] then if [ "$CLP_DISK" = "SUCCESS" ] then echo "NORMAL1" # NetVault /mnt/share/netvault/etc/startup.sh stop # CLUSTERPRO X su - oracle -c "ORACLE_SID=oradb; \ . /usr/local/bin/oraenv; \ sqlplus /nolog @/mnt/share/admin/sql/shutdown.sql; \ lsnrctl stop listener" if [ "$CLP_SERVER" = "HOME" ] then echo "NORMAL2" Page(s): 12/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 else echo "ON_OTHER1" fi else echo "ERROR_DISK from START" fi elif [ "$CLP_EVENT" = "FAILOVER" ] then if [ "$CLP_DISK" = "SUCCESS" ] then echo "FAILOVER1" # NetVault /mnt/share/netvault/etc/startup.sh stop # CLUSTERPRO X su - oracle -c "ORACLE_SID=oradb; \ . /usr/local/bin/oraenv; \ sqlplus /nolog @/mnt/share/admin/sql/shutdown.sql; \ lsnrctl stop listener" if [ "$CLP_SERVER" = "HOME" ] then echo "FAILOVER2" else echo "ON_OTHER2" fi else echo "ERROR_DISK from FAILOVER" fi else echo "NO_CLP" fi echo "EXIT" exit 0 修正したスクリプトを各サーバに反映させます。詳細は CLUSTERPRO X のドキュメントをご参照ください。設定 ファイルが保存されたディレクトリを指定し、CLI からコマンドを実行します。ここでは、server1 で作業しています。 [root@server1 ~]# clpcl -t -a [root@server1 ~]# clpcfctrl --push -l -x /root/CLUSTERPRO_X/configuration Need to shutdown system and reboot please shutdown system after push. (hit return) : file delivery to server 10.0.0.1 success. file delivery to server 10.0.0.2 success. Command succeeded.(code:0) [root@server1 ~]# clpcl -s -a Start server1 : Success Start server2 : Success clpcl -t -a クラスタ停止 clpcfctrl --push -l -x ディレクトリ (Linux で対象ディレクトリの構成ファイルを配布) clpcl -s -a クラスタ起動 Page(s): 13/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 手順 16 フェイルオーバグループのフェイル・オーバー手動確認 [管理コンソール] 手順 3 と同様に CLUSTERPRO X WebManager を使用し、[Node2:server2]から[Node1:server]へ”failover”フ ェイルオーバグループを移動します。起動・停止スクリプト内に NetVault の記述を行ったことで、各種ディスクリソ ース、Oracle に合わせて、NetVault のサービスもフェイル・オーバー時に自動起動することを確認します。 手順 17 NetVault Server のインストール設定 NetVault Server へのインストールおよび各種デバイス設定を行います。詳細については、弊社 NetVault Backup 7.4.x アドミニストレーターズ・ガイド等を確認してください。 手順 18 NetVault Client 登録 [NetVault Server] NetVault GUI の Client Management より、クラスタリング環境となっている 2 台の共通 NetVault マシン名が確 認できます。この例では[nvcluster]となっています。クライアント追加を行います。 その際には、インストール時に 設定したパスワード認証を求められますので、入力します。 クライアント追加後、[nvcluster]の詳細表示を確認して見ると NetVault マシン名が同一で、IP アドレスやネットワ ーク名が異なっていることが、フェイルオーバグループを変更した場合に確認できます。 [Node1:server1 が Active] Page(s): 14/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 [Node2:server2 が Active] 手順 19 Oracle RMAN APM のための CLI ベースの設定 [NetVault Server] デフォルトではアクセス制御のために、コマンドラインからバックアップ/リストアを実行するための機能が無効にな っているため、nvpluginaccess コマンドを使用して、クラスタ化されたクライアントからの Oracle RMAN APM に よる実行について権限を与えます。本例では nvpluginaccess コマンドは NetVault Server 上から実行 し、”nvcluster”の NetVault Client を指定し、ログオンアカウントとしては”default”アカウントを使用しています。詳 細については、「Application Plugin Module ユーザーズ・ガイド」で確認してください。 [root@backup ~]# cd /usr/netvault/util/ [root@backup util]# ./nvpluginaccess -remove -client nvcluster Removed client stanza 'nvcluster' [root@backup util]# ./nvpluginaccess -client nvcluster -account default Please select a plugin you wish to allow client 'nvcluster' to access: 1) Informix plugin 2) Oracle RMAN plugin 3) Informix and Oracle RMAN plugins 4) Specify plugin name 2 Please enter the password for the account 'default': Successfully added client 'nvcluster' Page(s): 15/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 6. Oracle Online/RMAN APM 設定方法 Oracle Online/RMAN APM を使用するにあたって、事前に Oracle 側でアーカイブログモードに設定しておく必 要があります。その後、NetVault の GUI から Oracle データベースの登録を行います。 手順 1 Oracle Online APM によるデータベースの登録とデータベースの表示の確認 必要な項目をマニュアルに従って入力していきます。ORACLE_HOME はそれぞれのローカルディスクですが、 アーカイブログディレクトリ等は共有ディスクということになります。また、登録後はアカウントとパスワードを入力し て正しく表領域等が表示できるか確認します。 手順 2 Oracle RMAN APM によるデータベースの登録とデータベースの表示の確認 必要な項目をマニュアルに従って入力していきます。ORACLE_HOME や RMAN コマンドのパスはそれぞれの ローカルディスクですが、Init File(ここでは実際には、SPFILE を指定しています)は共有ディスクということになり ます。また、登録後はアカウントとパスワードを入力して正しく表領域等が表示できるか確認します。 Page(s): 16/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 7. NetVault Backup によるバックアップ検証 CLUSTERPRO X にて NetVault Backup を使用してバックアップする際の動作検証結果について記載します。 なお、すべての結果は共有ディスク構成とミラー構成で同一でしたので違いについては割愛しています。 検証 1. CLUSTERPRO X での基本検証 表 3. CLUSTERPRO X 基本検証 項目 NetVault サービスを含むフェイルオー バグループの起動 結果 正常稼動 NetVault サービスを含むフェイルオー バグループの移動 正常稼動 NetVault サービスを含むフェイルオー バグループの停止 正常稼動 趣旨 CLUSTERPRO X WebManager を使用して NetVault サービスを含むフェイルオーバグループの 起動 CLUSTERPRO X WebManager を使用して NetVault サービスを含むフェイルオーバグループの 移動 CLUSTERPRO X WebManager を使用して NetVault サービスを含むフェイルオーバグループの 停止 検証 2. ファイルシステムプラグイン動作検証 表 4. ファイルシステムプラグイン基本検証 項目 結果 基本バックアップ 正常稼動 趣旨 各ノードでフェイル・オーバーを実施しバックアップ実 施 基本リストア 正常稼動 各ノードでフェイル・オーバーを実施しリストア実施。 また、[Node1]で取得したバックアップを[Node2]でサ ービスを起動させたリストア バックアップ中のフェイル・オーバー 正常稼動 バックアップ中にフェイル・オーバー処理が実施され た場合に次回バックアップ処理の検証(*) リストア中のフェイル・オーバー 正常稼動 リストア中にフェイル・オーバー処理が実施された場 合に次回リストア処理の検証(*) (*) 但し、バックアップ/リストア中のジョブはフェイル・オーバー時には強制終了します。ジョブリトライの機能によ り、自動的な再実行を行うことも可能です。詳細は、項目 8 の検証方法についてを参照してください。 検証 3. Oracle Online APM 動作検証 表 9. CLUSTERPRO X Oracle Online APM 検証 項目 結果 オラクルバックアップ検証 1 正常稼動 オラクルリストア検証 1 正常稼動 検証 4. Oracle RMAN APM 動作検証 表 10. CLUSTERPRO X Oracle RMAN APM 検証 項目 結果 オラクルバックアップ検証 1 正常稼動 オラクルリストア検証 1 正常稼動 趣旨 ファイルシステム上にオラクルデータがある場合のバ ックアップ検証 ファイルシステム上にオラクルデータがある場合のリ ストア検証(DATA_TS 表領域) 趣旨 ファイルシステム上にオラクルデータがある場合のバ ックアップ検証 ファイルシステム上にオラクルデータがある場合のリ ストア検証(DATA_TS 表領域) 本検証で全てのテスト項目で正常稼動することを確認することができました。リストア処理については、項目 8 の 「検証方法について」を参照してください。DATA_TS 表領域は、リストア/リカバリ用に作成したテスト用の表領域 です。12 万件のテストデータを使用し、確認を行いました。 Page(s): 17/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。 8. 検証方法について 検証方法 1. フェイル・オーバー時のジョブリトライについて ジョブ作成時に、スケジュールタブのジョブオプションにて、NetVault 7.1.0 よりの新機能であるジョブリトライの機 能を有効にすることで、フェイル・オーバーによりジョブが途中で失敗しても、あらかじめ指定した時間の間隔をあ けて再実行することが可能となります。再実行のタイミングはジョブが失敗した時間からリトライ間隔の時間を足し た時が新たにスケジュールされます。 なお、フェイル・オーバー時には NetVault Backup サーバからクラスタ化された NetVault Backup クライアントが 再認識されるまでに 3~5 分程度時間がかかる場合もあるため、あらかじめ簡単な検証を行った上で、リトライ間 隔を設定するようにしてください。 検証方法 2. Oracle のリストア処理について Oracle Online APM および Oracle RMAN APM を利用したバックアップ/リストアを実施する際には以下のような 方法で実施しております。 1. データベース破損処理 Oracle 稼働中に対象の表領域を破損させます。Linux では稼働中でもファイル名のリネームや削除が可能 なため強制実行し、Oracle 側から障害であることを確認しました。 2. データベースの復旧作業 Oracle Online APM ではリストア処理を NetVault Backup から実施し、破損した表領域のリストアを行った 後オラクル側でリカバリ処理を実施しました。また、Oracle RMAN APM ではリストア処理およびリカバリ共に、 NetVault Backup の GUI を使用して可能な限りの復旧を行いました。Oracle のリカバリでは状況に応じた判 断を行う必要がある場合もあり、その際にはオラクル側でのリカバリ処理も併用する必要があります。 9. まとめ 以上で、Linux 環境の Oracle が CLUSTERPRO X により Active-Standby のクラスタリングとなっている環境に て、NetVault Backup を使用して、別途設置したバックアップ・サーバにより、バックアップジョブを変更することな く1台のマシンとして認識しバックアップ/リストアが行えることが確認できました。動作としては、共有ディスク構成 およびミラー構成について確認を行い、その結果はまったく同一でした。 それぞれの製品に関する技術的な詳細につきましては、各種ドキュメントをご参照ください。また、NetVault Backup の基本的な操作方法等に付きましても NetVault Backup アドミニストレーターズ・ガイドをご覧ください。 Page(s): 18/18 ________________________________________________ 本ドキュメントは、検証作業や検証結果についてまとめられている ものであり、本ドキュメントに関する内容について、 バック ボーン・ソフトウエア株式会社が動作を保証するものでは ありません。 各ソフトウェアのバージョンおよび環境等の違いにより 動作しない 場合も想定されますので、導入の際には事前に検証をされることを 推奨いたします。 記載された会社名および製品名などは該当する各社の商標または登録商標です。
© Copyright 2024 Paperzz