1. はじめに

本書は、SAP NetWeaverを、CLUSTERPROによるクラスタ構成を構築し、動作させるための手順を説明したものです。

1.1. 対象読者と目的

本書は、クラスタシステムに関して、システムを構築する管理者、およびユーザサポートを行うシステムエンジニア、保守員を対象にしています。
本書では、CLUSTERPRO環境下での動作確認が取れたソフトウェアを紹介しています。ここで紹介するソフトウェアや設定例は、あくまで参考情報として提供するものであり、各ソフトウェアの動作保証をするものではありません。
同梱のスクリプトはフェイルオーバを実現するためのサンプルスクリプトです。
サンプルスクリプトはあらゆるSAPのプロセスを監視対象としておりません。
サンプルスクリプトの内容をご確認の上、使用環境や監視対象に合わせて調整してください。
本書以外の構成のサポートをご希望の場合は、CLUSTERPROプリセールス窓口: info@clusterpro.jp.nec.com にご相談ください。

1.2. 本書の構成

本書は、以下の2つのドキュメントで構成されています。

1.3. 本書の表記規則

本書では、注意すべき事項、重要な事項および関連情報を以下のように表記します。

注釈

この表記は、重要ではあるがデータ損失やシステムおよび機器の損傷には関連しない情報を表します。

重要

この表記は、データ損失やシステムおよび機器の損傷を回避するために必要な情報を表します。

参考

この表記は、参照先の情報の場所を表します。

また、本書では以下の表記法を使用します。

表記

使用方法

[ ] 角かっこ

コマンド名の前後
画面に表示される語(ダイアログボックス、メニューなど)の前後
[スタート]をクリックします。
[プロパティ]ダイアログ ボックス

コマンドライン中の [ ] 角かっこ

かっこ内の値の指定が省略可能であることを示します。

clpstat -s [-h host_name ]

モノスペースフォント

パス名、コマンドライン、システムからの出力(メッセージ、プロンプトなど)、ディレクトリ、ファイル名、関数、パラメータ

/Linux/server/

太字

ユーザが実際にコマンドプロンプトから入力する値を示します。

以下を入力します。
clpcl -s -a

斜体

ユーザが有効な値に置き換えて入力する項目

clpstat -s [-h host_name]

CLUSTERPRO X 本書の図では、CLUSTERPROを表すために このアイコンを使用します。

1.4. CLUSTERPRO マニュアル体系(内部バージョン 3.3.x/4.0.x の場合)

CLUSTERPROのマニュアルは、以下の4つに分類されます。各ガイドのタイトルと役割を以下に示します。

『CLUSTERPRO X スタートアップガイド』 (Getting Started Guide)

すべてのユーザを対象読者とし、製品概要、動作環境、アップデート情報、既知の問題などについて記載します。

『CLUSTERPRO X インストール&設定ガイド』 (Install and Configuration Guide)

CLUSTERPRO を使用したクラスタシステムの導入を行うシステムエンジニアと、クラスタシステム導入後の保守・運用を行うシステム管理者を対象読者とし、CLUSTERPRO を使用したクラスタシステム導入から運用開始前までに必須の事項について説明します。実際にクラスタシステムを導入する際の順番に則して、CLUSTERPRO を使用したクラスタシステムの設計方法、CLUSTERPRO のインストールと設定手順、設定後の確認、運用開始前の評価方法について説明します。

『CLUSTERPRO X リファレンスガイド』 (Reference Guide)

管理者を対象とし、CLUSTERPRO の運用手順、各モジュールの機能説明、メンテナンス関連情報およびトラブルシューティング情報等を記載します。『CLUSTERPRO X インストール&設定ガイド』を補完する役割を持ちます。

『CLUSTERPRO X 統合WebManager 管理者ガイド』 (Integrated WebManager Administrator's Guide)

CLUSTERPRO を使用したクラスタシステムを CLUSTERPRO 統合WebManager で管理するシステム管理者、および統合WebManager の導入を行うシステムエンジニアを対象読者とし、統合WebManager を使用したクラスタシステム導入時に必須の事項について、実際の手順に則して詳細を説明します。

1.5. CLUSTERPRO マニュアル体系(内部バージョン 4.1.x 以降の場合)

CLUSTERPRO のマニュアルは、以下の 6 つに分類されます。各ガイドのタイトルと役割を以下に示します。

CLUSTERPRO X スタートアップガイド』 (Getting Started Guide)

すべてのユーザを対象読者とし、製品概要、動作環境、アップデート情報、既知の問題などについて記載します。

CLUSTERPRO X インストール&設定ガイド』 (Install and Configuration Guide)

CLUSTERPRO を使用したクラスタシステムの導入を行うシステムエンジニアと、クラスタシステム導入後の保守・運用を行うシステム管理者を対象読者とし、CLUSTERPRO を使用したクラスタシステム導入から運用開始前までに必須の事項について説明します。実際にクラスタシステムを導入する際の順番に則して、CLUSTERPRO を使用したクラスタシステムの設計方法、CLUSTERPRO のインストールと設定手順、設定後の確認、運用開始前の評価方法について説明します。

CLUSTERPRO X リファレンスガイド』 (Reference Guide)

管理者、および CLUSTERPRO を使用したクラスタシステムの導入を行うシステムエンジニアを対象とし、CLUSTERPRO の運用手順、各モジュールの機能説明およびトラブルシューティング情報等を記載します。『CLUSTERPRO X インストール&設定ガイド』を補完する役割を持ちます。

CLUSTERPRO X メンテナンスガイド』 (Maintenance Guide)

管理者、および CLUSTERPRO を使用したクラスタシステム導入後の保守・運用を行うシステム管理者を対象読者とし、CLUSTERPRO のメンテナンス関連情報を記載します。

CLUSTERPRO X ハードウェア連携ガイド』 (Hardware Feature Guide)

管理者、および CLUSTERPRO を使用したクラスタシステムの導入を行うシステムエンジニアを対象読者とし、特定ハードウェアと連携する機能について記載します。『CLUSTERPRO X インストール&設定ガイド』を補完する役割を持ちます。

CLUSTERPRO X 互換機能ガイド』 (Legacy Feature Guide)

管理者、および CLUSTERPRO を使用したクラスタシステムの導入を行うシステムエンジニアを対象読者とし、CLUSTERPRO X 4.0 WebManager および Builder に関する情報について記載します。

1.7. 本書で用いる用語

本書で用いる用語について説明します。

本製品
  • CLUSTERPRO X 3.3 の場合
    CLUSTERPRO X for Linux SAP NetWeaver
  • CLUSTERPRO X 4.0 以降の場合
    CLUSTERPRO X for Linux SAP NetWeaver/SAP HANA
システム構築ガイド

CLUSTERPRO X for Linux SAP NetWeaver システム構築ガイド

設定例

CLUSTERPRO X for Linux SAP NetWeaver設定例

連携コネクタ

本製品に同梱するSAPと連携するコネクタ

SAP NW

SAP NetWeaver の略

ASCS

ABAP SAP Central Servicesの略

ERS

Enqueue Replication Serverの略

PAS

Primary Application Serverの略

AAS

Additional Application Serverの略

DA

Diagnostics Agentの略

ENSA

Standalone Enqueue Server の略

ENSA2

Standalone Enqueue Server 2 の略

2. クラスタシステムの概要

2.1. SAP NWクラスタ概要

2.1.1. 機能概要

SAP NWとCLUSTERPROを連携させることで、以下の構成のクラスタを構築することができます。

2.1.1.1. CLUSTERPROによるSAP NWクラスタ構成

以下のコンポーネントを独立したActive-StandbyのフェイルオーバグループとしてCLUSTERPROへ設定し、障害発生時に現用系ノードから待機系ノードへフェイルオーバすることでSAP NW環境の可用性を向上させます。
ENSA2を利用する場合は、Enqueue Replication Server Instance(以降、ERS)も Active-Standby のフェイルオーバグループとして設定します。
  • ABAP SAP Central Services Instance(以降、ASCS)

  • (ENSA2を利用する場合)ERS

以下のコンポーネントは各ノードで動作するSingle Server構成のフェイルオーバグループとして設定します。

  • (ENSAを利用する場合)ERS

  • Primary Application Server Instance(以降、PAS)

  • Additional Application Server Instance(以降、AAS)

  • Diagnostics Agent(以降、DA)

  • saphostexec

以下の図はENSAを利用する場合の構成図です。

SAP Netweaverクラスタを構成する2つのノード

図 2.1 SAP ABAP Platform クラスタ構成(ENSAの場合)

以下の図はENSA2を利用する場合の構成図です。

SAP Netweaverクラスタを構成する3つのノード

図 2.2 SAP ABAP Platform クラスタ構成(ENSA2の場合)(1)

SAP Netweaverクラスタを構成する3つのノード

図 2.3 SAP ABAP Platform クラスタ構成(ENSA2の場合)(2)

2.1.1.2. フェイルオーバグループ間の依存関係

SAP NWコンポーネントの起動・停止には、順序関係が存在します。
CLUSTERPROでは、起動・停止の順序をフェイルオーバグループ間の依存関係として設定することにより、SAP NWコンポーネントの起動・停止の順序を制御します。

2.1.1.3. CLUSTERPROによるSAP NW監視

SAP NWクラスタシステムでは、CLUSTERPROが持つ監視機能に加えて、SAPをサポートしている監視パッケージおよびSAP NW固有の監視機能を使用して、SAP NWコンポーネントの応答異常/ハングアップの監視を行います。

2.1.1.4. SAP NWコンポーネントのインスタンス番号の構成

SAP NWコンポーネントには、インスタンス番号を割り当てる必要があります。
クラスタを構成するすべてのノードにおいて、各SAP NWコンポーネントのインスタンス番号が重複しないように設定します。
ノード間、ノード内を問わず、インスタンス番号の重複がある場合は、いずれかのノードの SAP NW コンポーネントの再インストールとインスタンス番号の再割当てを実施してください。

2.1.1.5. SAP NW / CLUSTERPRO連携イメージ

SAP NWに対するユーザの操作要求は、連携コネクタ(clp_shi_connector)を経由してCLUSTERPROに通知されます。これにより、CLUSTERPROで構成したクラスタをSAP NWから操作することが可能です。

CLUSTERPROとSAP NetWeaver

図 2.4 連携イメージ

2.1.1.6. ASCSインスタンスおよびERSインスタンスの排他制御のイメージ

CLUSTERPROは以下の制御を行うことで、SAP NWで要求されるASCSインスタンスとERSインスタンスの排他起動を実現します。
下図中のExclusiveとは排他制御用のフェイルオーバグループを表します。
  1. ASCSインスタンスとERSインスタンスを異なるノードで起動させます。ERSインスタンスは、1つのノードでのみ起動させます。ENSAを利用する場合は、ERSインスタンスが起動していない全てのノードで、排他制御用のフェイルオーバグループを起動させます。

クラスタ化された2つのノード

図 2.5 クラスタ起動時

ASCSインスタンスのフェイルオーバをCLUSTERPROは以下の動作で実現します。

  1. ENSAを利用する場合は、ASCSインスタンスをERSインスタンスが起動しているノードにフェイルオーバさせます。ENSA2を利用する場合は、ASCSインスタンスをASCS用フェイルオーバグループの起動サーバの優先順位の設定に従って決定されるノードにフェイルオーバさせます。

    クラスタ化された2つのノード

    図 2.6 ASCSインスタンスフェイルオーバ時

  2. ENSA を利用する場合は、ASCS インスタンスフェイルオーバ後、ASCS インスタンスによって ERS インスタンスは SAP NW の仕様により自動停止します。ENSA2 を利用し、かつASCS インスタンスのフェイルオーバ先ノードで ERS インスタンスが起動していた場合は、CLUSTERPRO のカスタムモニタリソースが ERS インスタンスを別のノードにフェイルオーバさせます。

    クラスタ化された2つのノード

    図 2.7 ERSインスタンス停止時

  3. ENSA を利用する場合は、ERS インスタンスの SAP NW の仕様による自動停止後、CLUSTERPRO は以下の動作を行います。

    • ASCS インスタンスのフェイルオーバ先ノードで排他制御用のフェイルオーバグループを起動させます。

    • ASCS インスタンスのフェイルオーバ先ノードと異なるノードで ERS インスタンスを起動させます。

    • ERS インスタンス起動ノードで排他制御用のフェイルオーバグループを停止させます。

    クラスタ化された2つのノード

    図 2.8 他ノードでのERSインスタンス起動時

    CLUSTERPROによるASCSインスタンスとERSインスタンスの排他制御は、3ノード以上でも同様に機能します。

2.1.1.7. ERSインスタンスの手動操作に関する注意事項

  1. ERSインスタンスは、ASCSインスタンスで管理しているロック情報等をレプリケートするためのインスタンスです。冗長化のために、ASCSインスタンスが動作していないノードでERSインスタンスを動作させる必要があります。手動の操作であっても、ERSインスタンスをASCSインスタンスが動作しているノードで起動しないでください。また、ERSインスタンスを同時に2ノード以上で起動しないでください。

  2. ERSインスタンスが動作するノードが停止後、クラスタ復帰しても、ERSインスタンス用フェイルオーバグループは自動起動しません。ノードが正常に動作していることを確認した上で、ERSインスタンス用フェイルオーバグループを手動で再起動してください。

2.1.1.8. ENSA2(内部バージョン 4.1.0-1 以降)

ENSA2を利用するには、SAP NetWeaver Application Server for ABAP 7.52 以降が必要です。
また、SAP NetWeaver Application Server for ABAP 7.52 ではENSAを利用することも可能です。
ENSAもしくはENSA2によりフェイルオーバグループやサンプルスクリプトの設定にも差分が発生します。フェイルオーバグループについては「3.3.4. フェイルオーバグループの作成」、サンプルスクリプトについては『SAP NetWeaver 設定例』の「サンプルスクリプト」も参照してください。

ERSインスタンス用フェイルオーバグループの差分は以下のとおりです。

項目

ENSA

ENSA2

フェイルオーバグループの個数

ノードごとに1個

クラスタ内で1個

フェイルオーバグループの起動ノード

フェイルオーバグループの所属ノードのみ

全てのノードで起動可能。
ただし、ASCS用フェイルオーバグループの起動サーバの優先順位とは逆順の起動サーバの優先順位を設定してください。

起動属性

手動起動

自動起動

フェイルオーバグループを構成するリソース

<>内の数字は依存関係の深度。
<1> ERSインスタンスサービス用EXECリソース
<1> ERSインスタンス用EXECリソース


<>内の数字は依存関係の深度。
<0> ERSインスタンス用フローティングIPリソース
<1> ASCS起動ノード確認用EXECリソース
<2> ERSインスタンスサービス用EXECリソース
<2> ERSインスタンス用EXECリソース

2.1.2. 動作環境

SAP連携コネクタの動作確認を行った OS および SAP NW のバージョン情報を下記に提示します。

x86_64

NW Version / ABAP Platform

SAPカーネルバージョン

CLUSTERPRO Version

OS

クラスタ構成

7.4

742
745
3.3.2-1~
Red Hat Enterprise Linux 7.0
Red Hat Enterprise Linux 7.1

NAS接続、SAN接続、共有ディスク型

7.5

745
749
3.3.3-1~
Red Hat Enterprise Linux 7.2
Red Hat Enterprise Linux 7.3
SUSE LINUX Enterprise Server 12 SP1
NAS接続、SAN接続、共有ディスク型

7.5

745
749

3.3.5-1~

Red Hat Enterprise Linux 7.4

NAS接続、SAN接続、共有ディスク型

NW Version / ABAP Platform

SAPカーネルバージョン

CLUSTERPRO Version

OS

クラスタ構成

7.5

745
749
753
4.0.0-1~
Red Hat Enterprise Linux 7.3
Red Hat Enterprise Linux 7.4
SUSE LINUX Enterprise Server 12 SP1

NAS接続、SAN接続、共有ディスク型

7.52

753

4.1.0-1~

Red Hat Enterprise Linux 7.5

NAS接続、SAN接続、共有ディスク型

7.52

753

4.2.0-1~

Red Hat Enterprise Linux 7.6
Red Hat Enterprise Linux 7.7

NAS接続、SAN接続、共有ディスク型

1809

773

4.1.0-1~

Red Hat Enterprise Linux 7.6
Red Hat Enterprise Linux 7.7

NAS接続、SAN接続、共有ディスク型

2020

781

4.3.0-1~

Red Hat Enterprise Linux 8.2

NAS接続、SAN接続、共有ディスク型

IBM POWER

NW Version / ABAP Platform

SAPカーネルバージョン

CLUSTERPRO Version

OS

クラスタ構成

7.5

745
749
753
3.3.5-1~
4.0.0-1~
SUSE LINUX Etnerprise Server 11 SP4

NAS接続、SAN接続、共有ディスク型

7.52

753

4.1.0-1~

SUSE LINUX Etnerprise Server 11 SP4

NAS接続、SAN接続、共有ディスク型

以下の注意事項があります。

  • LANハートビートを使用する場合、LANハートビートリソースを使用してください。カーネルモードLANハートビートリソースは使用しないでください。

  • ユーザ空間モニタリソースを使用する場合、[監視方法]はsoftdogを指定してください。

  • シャットダウン監視を使用する場合、[監視方法]はsoftdogを指定してください。

SAP NWのハードウェア要件およびソフトウェア要件は、SAP NWのドキュメントを参照してください。

2.1.3. 構築手順

SAP NWクラスタの構築の流れは以下のようになります。

  1. Linux OSのインストールおよび基本設定

  2. ディスクとネットワークの設定

  3. CLUSTERPROのインストール

  4. NASリソースおよびフローティングIPを持つノードのクラスタ構築

  5. SAP NWのインストール

  6. CLUSTERPROでのSAP NWのクラスタ設定

2.1.4. SAP NW用データベース

SAP NWは、SAP HANA、SAP MaxDB、IBM DB2、Oracle、Microsoft SQL Serverなどのデータベースに対応しています。本書では、これらのデータベースが可用性を持つ構成で構築済みであることを前提にしています。CLUSTERPRO環境下でのデータベース構築については、関連するCLUSTERPROのソフトウェア構築ガイドを参照してください。ソフトウェア構築ガイドは以下のURLからダウンロード可能です。

本書では、以降、可用性を持つデータベース構成を「データベース」と表記します。

2.1.5. 機能強化

各バージョンにおいて以下の機能強化を実施しています。

内部バージョン 3.3.x

内部バージョン

機能強化項目

3.3.4-1

SAP NW用SAP連携コネクタが以下のOSに対応しました。
・Red Hat Enterprise Linux 7.3
・SUSE Linux Enterprise Server 12 SP1

3.3.5-1

SAP NW用SAP連携コネクタが以下のOSに対応しました。
・Red Hat Enterprise Linux 7.4
・Novell SUSE LINUX Enterprise Server 11 SP4 (IBM POWER)

3.3.5-1

カスタムモニタ用サンプルスクリプトについて、下記の環境での動作に対応いたしました。
・Red Hat Enterprise Linux 7以降
・クラウド環境のインスタンス
サンプルスクリプトはサポートポータルから取得可能です(コンテンツID:9010106690)。
『CLUSTERPRO X for Linux SAP NetWeaver 設定例』の「3.2.カスタムモニタ」を参照してください。

-

NFSサーバ2台によるクラスタ構成の検証を行いました。「3.1.2. NFSサーバ2台によるクラスタ構成の場合」を参照してください。

内部バージョン 4.0.x以降

内部バージョン

機能強化項目

4.1.0-1

SAP NW用SAP連携コネクタが以下のOSに対応しました。
・Red Hat Enterprise Linux 7.5

4.1.0-1

SAP NW用SAP連携コネクタが以下のSAP NWに対応しました。
・SAP NetWeaver Application Server for ABAP 7.52

4.1.0-1

SAP NW用SAP連携コネクタ/サンプルスクリプトが以下に対応しました。
・メンテナンスモード
・Standalone Enqueue Server 2

4.1.0-1

SAP NW用サンプルスクリプトの以下を改善しました。
・カスタマイズを容易にするため clp_shi_connector.conf および一部のサンプルスクリプトにパラメータを追加
・SAP Host Agentのプロセス死活検出精度を向上

4.3.0-1

SAP NetWeaver 用 SAP 連携コネクタが以下の SAP NetWeaver に対応しました。
・ABAP Platform 2020

2.1.6. 修正情報

各バージョンにおいて以下の修正を実施しています。

内部バージョン 3.3.x

修正バージョン
/ 発生バージョン

修正項目

致命度

発生条件
発生頻度
3.3.5-1/
3.3.2-1~3.3.4-2

SAP NW に対する ERS インスタンス用フェイルオーバグループと同ノードの排他制御用のフェイルオーバグループが連動しない場合がある。
※本問題の対処にはサンプルスクリプトを手動で置換する必要があります。
サンプルスクリプトはサポートポータルから取得可能です(コンテンツID:9010107181)。

ASCS インスタンス用フェイルオーバグループの起動時に稀に発生する。

内部バージョン 4.0.x以降

修正バージョン
/ 発生バージョン

修正項目

致命度

発生条件
発生頻度
4.1.0-1/
3.3.0-1, 4.0.0-1

SAP NW用サンプルスクリプトを利用したカスタムモニタリソースの障害検出時において、SAPインスタンスサービスの停止処理中にSAPインスタンスサービスの開始処理が行われる。

SAPインスタンスサービスの停止処理に時間が掛かる場合に発生する。

4.1.0-1/
3.3.0-1, 4.0.0-1

CLUSTERPROの言語設定に「英語」以外が選択された場合、SAP NW用SAP連携コネクタが正常に動作しない。

「英語」以外が選択された場合、必ず発生する。

4.3.0-1/
4.1.0-1~4.2.2-1

SAP NetWeaver 用 SAP 連携コネクタの不要なエラーメッセージがsyslogへ出力される。

clp_shi_connector.confにSMM_PATHを設定し、SAPインスタンスを起動/停止した場合に発生する。

2.2. OSインストールと基本設定

Node#1およびNode#2でのSAP NWのインストールに伴う事前設定およびインストールが必要なソフトウェアについては、以下のSAP NOTEを参照してください。

SAP NOTE

  • #0171356: SAP software on Linux: General information

  • #0784391: SAP support terms and 3rd-party Linux kernel drivers

  • #1391070: Linux UUID solutions

  • #0146003: Application servers cannot be started

本書での設定例については、『カスタムモニタ』の「OSの設定例」を参照してください。

3. CLUSTERPRO / SAP NWのインストール

3.1. SAP NWクラスタとNFSサーバの構成

本書では、SAP NWのクラスタを現用系ノード(Node#1)と待機系ノード(Node#2)で構成します。また、SAP NW用の共有データ類の格納のためにNFSサーバを使用します。従って、SAP NWクラスタ向けのノード2台に加えて、NFSサーバが1台以上必要となります。NFSサーバを冗長化する場合は、2台以上でクラスタを構成します。

3.1.1. NFSサーバが1台の場合

NFSサーバが1台(Node#3)の場合の構成を以下に示します。

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサーバ

図 3.1 NFSサーバが1台の構成 (1)

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサーバ

図 3.2 NFSサーバが1台の構成 (2)

本構成の場合、SAP NW用の共有データ類が1台のNFSサーバから提供されることになるため、このNFSサーバがSAP NWクラスタの単一障害点となります。

3.1.2. NFSサーバ2台によるクラスタ構成の場合

NFSサーバとして2台のノード(Node#3、Node#4)を用いる場合の構成を以下に示します。

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサービスクラスタを構成する2台のサーバ

図 3.3 NFSサーバが2台の構成、SAP NWサーバ障害時 (1)

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサービスクラスタを構成する2台のサーバ

図 3.4 NFSサーバが2台の構成、SAP NWサーバ障害時 (2)

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサービスクラスタを構成する2台のサーバ

図 3.5 NFSサーバが2台の構成、NFSサーバ障害時 (1)

SAP NetWeaverクラスタを構成する2台のサーバ、およびNFSサービスクラスタを構成する2台のサーバ

図 3.6 NFSサーバが2台の構成、NFSサーバ障害時 (2)

NFSサーバとして用いる2台のノードもCLUSTERPROを用いて片方向スタンバイ構成のクラスタにします。また、SAP NWの共有データ類(図 3.3 NFSサーバのノードが2台の構成 のASCS用データ、コマンド・ファイル類)は共有ディスクまたはミラーディスクに格納し、2台のノード間で同一の情報が保たれるようにします。本構成の場合、2台のノード間でNFSサービスをフェイルオーバできるようになるため、NFSサーバはSAP NWクラスタの単一障害点にはなりません。

詳細については、『SAP NetWeaver 設定例』の「NFSクラスタのCLUSTERPRO設定例」を参照してください。

3.1.3. NFS接続切断による監視失敗の対策

SAP NWコンポーネントを監視するCLUSTERPROのカスタムモニタリソースは、NFSサーバ上にインストールされるSAP NWのコマンドを利用します。このためSAP NWクラスタとNFSサーバ間のNFS接続が切断されると、カスタムモニタリソースがコマンドにアクセスできなくなり監視処理を完了できない状態となります。この状態がカスタムモニタリソースの[タイムアウト]の時間よりも長く続くと監視処理は失敗します。

このような監視処理の失敗を軽減するために、SAP NWクラスタではディスクモニタリソースでNFS接続先へのアクセス可否をチェックし、そのディスクモニタリソースが異常を検出していない場合のみカスタムモニタリソースによるSAP NWコンポーネントの監視処理が実行されるように設定します。

カスタムモニタリソースおよびディスクモニタリソースの設定については、「 3.5.2. モニタリソースの設定」を参照してください。

NFS接続の切断によるSAP NWコンポーネントの監視失敗が頻繁に発生する場合は、以下の対策をとってください。

  • SAP NWクラスタとNFSサーバ間のネットワーク状態の改善

  • カスタムモニタリソースの[タイムアウト]の延長

また、NFS接続の切断によるSAP NWコンポーネントの監視失敗の発生後に、SAP NWコンポーネントが異常状態のまま再起動できなくなる場合があります。このような場合は、異常状態で再起動不可となったSAP NWコンポーネントを含むノードをCLUSTERPROより再起動してください。

3.2. ディスクとネットワークの設定

3.2.1. マウントポイントの作成

SAP NWをインストールする前に、各ノードにマウントポイントを作成します。

本書では、/sapmnt用、/usr/sap/trans用、およびASCSインスタンス用のマウントポイントを設定します。/sapmntと/usr/sap/transへは常時NFSマウントが実施されるよう各ノードのfstabで設定し、ASCSインスタンス用のマウントポイントへのマウントはCLUSTERPROのNASリソースで制御します。
詳細については、『SAP NetWeaver 設定例』の「マウントポイント」を参照してください。

3.2.2. ネットワークの設定

SAP NWをインストールするに前に、以下のフローティングIPの割り当てが必要です。
また、ASCSインスタンス用のフローティングIPに関連付けされたホスト名を、名前解決できるようにしておく必要があります。
ENSA2を利用する場合は、ERSインスタンス用のフローティングIPの割り当ても必要です。
また、そのERSインスタンス用のフローティングIPに関連付けされたホスト名を名前解決できるようにしておく必要があります。

詳細については、『SAP NetWeaver 設定例』の「SAP NW用の静的IPとフローティングIP」を参照してください。

なお、2台のNFSサーバをクラスタ構成にする場合は、以下のフローティングIPの割り当ても必要です。
また、SAP NWクラスタのノードから以下のフローティングIPに関連付けされたNFSサーバのホスト名を名前解決できるようにしておく必要があります。
  • NFSサーバのクラスタ用フローティングIP

詳細については、『SAP NetWeaver 設定例』の「NFSサーバ用の静的IPとフローティングIP」を参照してください。

AWSやMicrosoft Azureなどのクラウド環境上にクラスタを構築する場合は、フローティングIPリソースの代わりにAWS仮想IPリソースやAzure DNSリソースなどを使用してください。なお、AWS仮想IPリソースなどによるASCSインスタンス用の仮想IPに関連付けされたホスト名を、名前解決できるようにしておく必要があります。

3.3. CLUSTERPROの事前設定

CLUSTERPRO環境構築の詳細は、『インストール&設定ガイド』を参照してください。

以下の順で、2ノード+NFSサーバで構成されたクラスタ環境を構築します。

SAP NWをインストールする前に、CLUSTERPROのインストールが完了して、NASリソースおよびフローティングIPを持つクラスタを構築し、CLUSTERPROを起動しておく必要があります。

SAP NWをインストールするための事前準備

  • CLUSTERPROのインストール

  • ライセンスの登録

  • クラスタ構成情報の作成

    • クラスタの作成

    • フェイルオーバグループの作成

    • グループリソースの追加

  • フェイルオーバグループ間の依存関係の設定

本書での設定例については、『SAP NetWeaver 設定例』の「SAP NWクラスタのCLUSTERPRO設定例」を参照してください。

上記作業の後、「3.4. SAP NW環境設定」‐「3.5. CLUSTERPROの設定」の順で作業を進めます。

3.3.1. CLUSTERPROのインストール

各ノード(Node#1およびNode#2)に本製品をインストールします。
CLUSTERPROのインストール方法については、以下のドキュメントを参照してください。

本製品の既存バージョンをインストールしている場合、SAP連携コネクタの設定ファイルおよびサンプルスクリプトのバックアップを保存してください。サンプルスクリプトを /root/sample にインストールしており、/home/backupへ保存する場合の例を示します。

# cp -p /opt/nec/clusterpro/etc/clp_shi_connector.conf /home/backup
# cp -rp /root/sample /home/backup
# rpm -e clusterpro_spnw-<バージョン>.x86_64.rpm

CLUSTERPROのインストール後、以下のコマンドを実行し連携コネクタをインストールしてください。x86_64用、IBM POWER用は同じrpmパッケージを使用します。

# rpm -i clusterpro_spnw-<バージョン>.x86_64.rpm

3.3.2. ライセンスの登録

CLUSTERPROを利用可能な状態にするには、ライセンスの登録が必要です。

ライセンスの登録方法については、以下のドキュメントを参照してください。

本製品は、以下のライセンスが含まれています。

ライセンス製品名

CLUSTERPRO X for Linux

CLUSTERPRO X Database Agent for Linux

CLUSTERPRO X File Server Agent for Linux

CLUSTERPRO X System Resource Agent for Linux

3.3.3. クラスタの作成

WebManager(内部バージョン 3.3.x/4.0.x の場合)、Cluster WebUI(内部バージョン 4.1.x以降の場合)からクラスタを作成します。

クラスタの作成方法については、以下のドキュメントを参照してください。

注釈

(内部バージョン 3.3.x/4.0.x の場合)WebManagerの [クラスタ生成ウィザード] の [クラスタの定義] 画面において、[言語] フィールドには必ず「英語」を選択してください。「英語」以外が選択された場合、クラスタが正常に動作しなくなります。

3.3.4. フェイルオーバグループの作成

WebManager(内部バージョン 3.3.x/4.0.x の場合)、Cluster WebUI(内部バージョン 4.1.x以降の場合)から、各ノードが属するフェイルオーバグループを作成します。

フェイルオーバグループの作成方法については、以下のドキュメントを参照してください。

ここでは、以下のフェイルオーバグループを作成します。

  • ASCSインスタンス用

  • ERSインスタンス用(ENSA2 を利用する場合のみ)

  • ERS1インスタンス用(ENSA を利用する場合のみ)

  • ERS2インスタンス用(ENSA を利用する場合のみ)

  • PASインスタンス用

  • AASインスタンス用

  • DA1インスタンス用

  • DA2インスタンス用

  • hostexec1用

  • hostexec2用

  • Exclusive1用(ENSA を利用する場合のみ)

  • Exclusive2用(ENSA を利用する場合のみ)

フェイルオーバグループ名に含まれる数字(例:ERS1の「1」)は、そのフェイルオーバグループが動作するノードの番号を示します。すなわち、DA1はNode#1で、DA2はNode#2で動作することを示します。

なお、ENSA2を利用する場合は、ERSインスタンス用フェイルオーバグループを1個のみ作成してください。

3.3.4.1. 排他制御用のフェイルオーバグループ

ENSAを利用する場合は、以下で説明するASCSインスタンスとERSインスタンスの排他制御用のフェイルオーバグループの作成も必要です。

排他制御用フェイルオーバグループ名は、以下のように、全てのノードで共通のフェイルオーバグループ名と、末尾に連続した番号(1、2、…)を付けて設定してください。
末尾の番号は、ERS1インスタンス、ERS2インスタンスをインストールしたノードの順に、1、2、…と設定してください。
<共通のフェイルオーバグループ名><番号>

本書での設定例

Exclusive-Group1 (Node#1)
Exclusive-Group2 (Node#2)

注釈

フェイルオーバグループ名に半角空白を含まないように設定してください。

注釈

ASCSインスタンスおよびERSインスタンスの排他制御用フェイルオーバグループ名が命名規則に従っていない場合、排他制御を正常に実施できなくなります。

ASCSインスタンスおよびERSインスタンスの排他制御については、「2.1.1.6. ASCSインスタンスおよびERSインスタンスの排他制御のイメージ 」を参照してください。

3.3.4.2. フェイルオーバグループの起動属性

構成により、起動属性は以下を設定してください。

フェイルオーバグループ

ENSA

ENSA2

ERSインスタンス用フェイルオーバグループ

手動起動

自動起動

その他のフェイルオーバグループ

自動起動

自動起動

3.3.5. グループリソースの追加

前節で作成したフェイルオーバグループに、「フローティングIPリソース」と「NASリソース」を追加してください。

グループリソースの追加方法ついては、以下のドキュメントを参照してください。

ここでは、各フェイルオーバグループに以下のグループリソースを追加します。

ASCSインスタンス用グループ

- フローティングIPリソースを追加し、「3.2.2. ネットワークの設定」で設定したIPアドレスを割り当てます。
- NASリソースを追加し、ASCSのマウントポイントを割り当てます。

3.3.6. フェイルオーバグループ間の依存関係設定

フェイルオーバグループの依存関係を設定します。

SAP NWの各インスタンス依存関係(起動順序)を以下に示します。

データベース

ASCS

ERS
PAS
AAS

インスタンスを停止する場合は、上記の逆の順序で停止する必要があります。

注釈

2.1.4. SAP NW用データベース」に記載のとおり、データベースが構築済みであることが上記の依存関係の前提条件です。データベースが使用可能になっていない場合、以降の手順は実施できません。

注釈

DAおよびhostexecについては依存関係の設定をしません。

CLUSTERPROでの依存関係の設定方法については、以下のドキュメントを参照してください。

内部バージョン 3.3.x/4.0.xの場合

  • 『リファレンスガイド』の「グループの起動、停止待ち合わせ設定を理解する」

  • 『リファレンスガイド』の「グループリソースの依存関係設定を理解する(グループリソース共通)」

内部バージョン 4.1.x以降の場合

3.4. SAP NW環境設定

3.4. SAP NW環境設定」および「3.5. CLUSTERPROの設定」で使用する用語を以下に示します。

SID

SAP System ID

DASID

Diagnostics Agent System ID

INO

インスタンス番号

SAP NWのプロダクトファイルのインストール先のパスおよびインストール方法は、使用するシステム構成により変わることがあります。

SAP NWの環境構築については、以下のドキュメントを参照してください。

Master Guide

Installation Guide

以下のURLより、SAP NWが対応している、データベースおよびOS種別ごとのInstallation Guideがダウンロードできます。

詳細については、使用環境に合ったガイドを参照してください。

SAP NOTE

  • #0171356: SAP software on Linux: Essential information

  • #0784391: SAP support terms and 3rd-party Linux kernel drivers

  • #2002167: Red Hat Enterprise Linux 7.x: Installation and Upgrade

  • #0174911: Determining the hardware key (customer key)

  • #0181543: License key for high availability environment

  • #0870871: License key installation

  • #1391070: Linux UUID solutions

  • #0146003: Application servers cannot be started

以下の順でSAP NWの環境構築を行います。

SAP NWのインストール方法については、SAP提供のドキュメント(上記URL参照)を参照してください。

注釈

以下の手順を実行する前に、SAP提供のドキュメントに従ってデータベースがインストール済みで使用可能であることを必ず確認してください。

  1. Node#1およびNode#2でSAP NWインストールの準備(「3.4.1. SAP NWインストールの準備(Node#1 / Node#2)」)

  2. Node#1にASCSインスタンスおよびERSインスタンスをインストール(「3.4.2. ASCSインスタンスおよびERSインスタンスのインストール(Node#1)」)

  3. Node#1にPASインスタンスをインストール(「3.4.3. PASインスタンスのインストール(Node#1)」)

  4. Node#2にERSインスタンスをインストール(「3.4.4. ERSインスタンスのインストール(Node#2)」)

  5. Node#2にAASインスタンスをインストール(「3.4.5. AASインスタンスのインストール(Node#2)」)

  6. Node#1およびNode#2で連携コネクタの有効化(「3.4.6. 連携コネクタの有効化」)

  7. SAPライセンス登録(「3.4.7. SAPライセンス登録」)

  8. SAPインスタンスサービスの設定変更(「3.4.8. SAPインスタンスサービスの設定変更」)

  9. SAPインスタンスの自動起動の抑制(「3.4.9. SAPインスタンスの自動起動の抑制」)

  10. ERSインスタンスの自動停止の有効化(「3.4.10. ERSインスタンスの自動停止の有効化」)

本書でのインスタンス名、インスタンス番号の設定例については、『SAP NetWeaver 設定例』の「SAP NW設定例」を参照してください。

SAP NWのアップデート手順については「4.1. SAP NWのアップデート」を参照してください。

3.4.1. SAP NWインストールの準備(Node#1 / Node#2)

SAP NWをインストールする前に、CLUSTERPROのインストールが完了して、「フローティングIPリソース」および「NASリソース」を設定し、CLUSTERPROを起動し、「フローティングIP」「NASリソース」をNode#1でアクティブにしておく必要があります。

また、SAP NWのインストールに使用するコマンド「sapinst」の保存場所は、使用環境およびインストール媒体(DVD-ROMまたはダウンロードしたファイル)によって異なります。

3.4.2. ASCSインスタンスおよびERSインスタンスのインストール(Node#1)

この作業はNode#1で実施します。

環境変数SAPINST_USE_HOSTNAMEにASCSインスタンス用フローティングIPと関連付けされたホスト名を指定し、sapinstを実行します。

# env SAPINST_USE_HOSTNAME=ASCS_Hostname ./sapinst

注釈

ASCS_Hostnameには、ASCSインスタンス用フローティングIPと関連付けされたホスト名を入力します。

ASCS向けのインストール完了後、ERSをインストールします。
ENSAを利用する場合は以下のようにsapinstを実行します。
# ./sapinst

ENSA2を利用する場合は、環境変数SAPINST_USE_HOSTNAMEにERSインスタンス用フローティングIPと関連付けされたホスト名を指定し、sapinstを実行します。

# env SAPINST_USE_HOSTNAME=ERS_Hostname ./sapinst

注釈

ERS_Hostnameには、ERSインスタンス用フローティングIPと関連付けされたホスト名を入力します。

このインストールで設定したACSCのSID(SAP System ID)とINO(インスタンス番号)は、「3.5.1.1. ASCSリソースの設定」で使用します。

ERSのSIDとINOは、ENSAを利用する場合は「3.5.1.2. ERS1 (Node#1)リソースの設定(ENSA を利用する場合のみ)」で、ENSA2を利用する場合は「3.5.1.4. ERSリソースの設定(ENSA2を利用する場合)」で使用します。

本書では、SIDとINOを以下のように設定します。

インスタンス

SID

INO

ASCS

NEC

10

ERS

NEC

20

3.4.3. PASインスタンスのインストール(Node#1)

この作業はNode#1で実施します。

PASはNode#1でのみ動作しますので、フローティングIPを指定する必要はありません。
環境変数を指定せずにsapinstを実行します。
# ./sapinst

このインストールで設定したPASのSID(SAP SID)とインスタンス番号は、「3.5.1.5. PASリソースの設定」で使用します。

DAのDASID(Diagnostics Agent System ID)とインスタンス番号は、「3.5.1.7. DA1 (Node#1)リソースの設定」で使用します。

本書では、SIDとINOを以下のように設定します。

インスタンス

SID

INO

PAS

NEC

30

DA1

DAA

97

注釈

DA(Diagnostics Agent)は、PASインスタンスのインストールの際、同時にインストールされるインスタンスです。

3.4.4. ERSインスタンスのインストール(Node#2)

この作業はNode#2で実施します。

ENSAを利用する場合は以下のようにsapinstを実行します。

# ./sapinst

ENSA2を利用する場合は、環境変数SAPINST_USE_HOSTNAMEにERSインスタンス用フローティングIPと関連付けされたホスト名を指定し、sapinstを実行します。

# env SAPINST_USE_HOSTNAME=ERS_Hostname ./sapinst

注釈

ERS_Hostnameには、ERSインスタンス用フローティングIPと関連付けされたホスト名を入力します。

このインストールで設定したERSのSID(SAP SID)とインスタンス番号は、ENSAを利用する場合は「3.5.1.3. ERS2 (Node#2)リソースの設定(ENSA を利用する場合のみ)」で、ENSA2を利用する場合は「3.5.1.4. ERSリソースの設定(ENSA2を利用する場合)」で使用します。

本書では、SIDとINOを以下のように設定します。

インスタンス

SID

INO

ERS

NEC

ENSAを利用する場合:21
ENSA2を利用する場合:20

3.4.5. AASインスタンスのインストール(Node#2)

この作業はNode#2で実施します。

AASはNode#2でのみ動作しますので、フローティングIPを指定する必要はありません。
環境変数を指定せずにsapinstを実行します。
このインストールで設定したAASのSID(SAP SID)とインスタンス番号は、「3.5.1.6. AASリソースの設定」で使用します。
DAのDASID(Diagnostics Agent System ID)とインスタンス番号は、「3.5.1.8. DA2 (Node#2)リソースの設定」で使用します。

本書では、SIDとINOを以下のように設定します。

インスタンス

SID

INO

AAS

NEC

40

DA2

DAA

96

注釈

DA(Diagnostics Agent)は、AASインスタンスのインストールの際、同時にインストールされるインスタンスです。

3.4.6. 連携コネクタの有効化

連携コネクタを有効化させるために以下の設定を行います。

この作業は、Node#1およびNode#2で実施します。

3.4.6.1. SAPプロファイルの設定

連携コネクタを有効化しCLUSTERPROと連携するためには、SAPインスタンスの全てのインスタンスプロファイルに以下の記述を追加します。

本書での設定例を以下に示します。パスは、インストール環境によって異なる場合があります。

/sapmnt/<SID>/profile/<SID>_<インスタンス名><INO>_<ホスト名>

service/halib = /usr/sap/<SID>/<インスタンス名><INO>/exe/saphascriptco.so
service/halib_cluster_connector = /opt/nec/clusterpro/bin/clp_shi_connector_wrapper

上記の情報を各インスタンスプロファイルに追加してください。

また、以下の情報をNode#1およびNode#2のDAインスタンスのインスタンスプロファイルにも追加してください。

/usr/sap/<DASID>/SYS/profile/<SID>_<インスタンス名><INO>_<ホスト名>

service/halib = /usr/sap/<DAAのSID>/SMDA<DAのINO>/exe/saphascriptco.so
service/halib_cluster_connector = /opt/nec/clusterpro/bin/clp_shi_connector_wrapper

service/halibに指定するsaphascriptco.soの配置場所はNWのバージョンにより異なります。 /usr/sap/<SID>/<インスタンス名><INO>/exe/saphascriptco.so が存在しない場合、service/halib には/usr/sap/hostctrl/exe/saphascriptco.soを指定してください。

3.4.6.2. SAP NWユーザへのsudo権限の付与

連携コネクタを実行可能にするには、SAP NWのユーザに対しsudo権限を付与します。rootユーザでvisudoコマンドを使用して設定してください。以下のような記述を追加します。

Defaults:%sapsys     !requiretty
%sapsys ALL=(ALL)    NOPASSWD: ALL

注釈

SAP NWとCLUSTERPROを正常に連携させるため、SAP NWのインストールで自動作成されたグループに対し、sudoを実行可能なように設定してください。SAP NWのユーザがsudoを実行できない場合、SAP NWインスタンスの起動・停止を正常に制御できなくなります。

3.4.7. SAPライセンス登録

SAPライセンスの登録方法の詳細については、SAPより提供されているドキュメントを参照してください。

3.4.8. SAPインスタンスサービスの設定変更

この作業は、Node#1およびNode#2で実施します。

SAPの各プロセスはCLUSTERPROから起動するため、以下を実行しSAPインスタンスサービスの自動起動の設定を無効とします。

# systemctl disable sapinit

上記コマンド実行後、以下のようにSAPインスタンスサービスの自動起動設定が無効化されていることを確認してください。

# chkconfig --list sapinit
sapinit 0:off 1:off 2:off 3:off 4:off 5:off 6:off

3.4.9. SAPインスタンスの自動起動の抑制

この作業はNode#1およびNode#2で実施します。

SAPインターフェースによるERSインスタンスとDAインスタンスの自動起動を抑制するために、これらのインスタンスのプロファイルの記述を変更します。

ERSインスタンスのプロファイルは以下にあります。

/sapmnt/<SID>/profile/<SID>_ERS<INO>_<ホスト名>

DAインスタンスのプロファイルは以下にあります。

/usr/sap/<DASID>/SYS/profile/<DASID>_SMDA<INO>_<ホスト名>

各プロファイルのAutostartの値を0に変更します。

Autostart=0

3.4.10. ERSインスタンスの自動停止の有効化

この作業はNode#1およびNode#2で実施します。

ASCSインスタンスがERSインスタンスが動作しているノードへフェイルオーバした際の、ERSインスタンスの自動停止を有効化するために、ERSインスタンスのプロファイルの記述を変更します。

ERSインスタンスのプロファイルは以下にあります。

/sapmnt/<SID>/profile/<SID>_ERS<INO>_<hostname>
プロファイルの Restart_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID) の行をコメントアウトします。
プロファイルに Start_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID) を追加します。
#Restart_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID)
Start_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID)

3.5. CLUSTERPROの設定

3.5.1. リソースの設定

3.3.4. フェイルオーバグループの作成」で作成したフェイルオーバグループに、EXECリソースを追加します。

各インスタンスの起動・停止を制御するため、EXECリソースを設定します。

各種SAPインスタンスの起動・停止を制御するサンプルスクリプトを提供しております。
本サンプルスクリプトを用いて各SAPインスタンスの起動・停止を制御するには、EXECリソースを設定する必要があります。
なお、起動・停止を制御するサンプルスクリプトは、リソース名をキーにして制御を行うので、制御対象に合わせてリソース名を設定する必要があります。

以下の文字列をリソース名に含むように設定します。

instance_<SID>_<INO>
<>内は以下を示しています。
- SID:SAP System ID
- INO:インスタンス番号

注釈

同梱のサンプルスクリプトに記述されているSAPユーザ(SAPUSER)、SAP System ID(SID)、SAPプロファイルパス(PROFILE)およびインスタンス番号(INO)を、使用環境に合わせて修正してください。

EXECリソースの追加方法については、以下のドキュメントを参照してください。

3.5.1.1. ASCSリソースの設定

ASCSインスタンス用フローティングIPを設定しているグループに以下の2つのEXECリソースを追加します。

本書での例

exec-ascs-SAP-instance_NEC_10

3.5.1.2. ERS1 (Node#1)リソースの設定(ENSA を利用する場合のみ)

ERS1用グループに以下の2つのEXECリソースを追加します。

本書での例

exec-ERS1-SAP-instance_NEC_20

3.5.1.3. ERS2 (Node#2)リソースの設定(ENSA を利用する場合のみ)

ERS2用グループに以下の2つのEXECリソースを追加します。

  • SAPインスタンスサービスを制御するEXECリソースを追加

  • SAPインスタンスを起動するEXECリソースを追加
    ※「3.4.4. ERSインスタンスのインストール(Node#2)」で設定したSID(SAP System ID)とINO(インスタンス番号)をリソース名に含むように設定します。

本書での例

exec-ERS2-SAP-instance_NEC_21

3.5.1.4. ERSリソースの設定(ENSA2を利用する場合)

ERSインスタンス用フローティングIPを設定しているグループに以下の3つのEXECリソースを追加します。

本書での例

exec-ERS-SAP-instance_NEC_20

3.5.1.5. PASリソースの設定

PAS用グループに以下の2つのEXECリソースを追加します。

  • SAPインスタンスサービスを制御するEXECリソースを追加

  • SAPインスタンスを起動するEXECリソースを追加
    ※「3.4.3. PASインスタンスのインストール(Node#1)」で設定したSID(SAP System ID)とINO(インスタンス番号)をリソース名に含むように設定します。

本書での例

exec-PAS-SAP-instance_NEC_30

3.5.1.6. AASリソースの設定

AAS用グループに以下の2つのEXECリソースを追加します。

  • SAPインスタンスサービスを制御するEXECリソースを追加

  • SAPインスタンスを起動するEXECリソースを追加
    ※「3.4.5. AASインスタンスのインストール(Node#2)」で設定したSID(SAP System ID)とINO(インスタンス番号)をリソース名に含むように設定します。

本書での例

exec-AAS-SAP-instance_NEC_40

3.5.1.7. DA1 (Node#1)リソースの設定

DA1用グループに以下の2つのEXECリソースを追加します。

  • SAPインスタンスサービスを制御するEXECリソースを追加

  • SAPインスタンスを起動するEXECリソースを追加
    ※「3.4.3. PASインスタンスのインストール(Node#1)」で設定したDASID(Diagnostics Agent System ID)とINO(インスタンス番号)をリソース名に含むように設定します。

本書での例

exec-DA1-instance_DAA_97

3.5.1.8. DA2 (Node#2)リソースの設定

DA2用グループに以下の2つのEXECリソースを追加します。

  • SAPインスタンスサービスを制御するEXECリソースを追加

  • SAPインスタンスを起動するEXECリソースを追加
    ※「3.4.5. AASインスタンスのインストール(Node#2)」で設定したDASID(Diagnostics Agent System ID)とINO(インスタンス番号)をリソース名に含むように設定します。

本書での例

exec-DA2-instance_DAA_96

3.5.1.9. hostexec1 (Node#1)リソースの設定

hostexec1用グループに以下のEXECリソースを追加します。

  • saphostexecを制御するEXECリソースを追加

3.5.1.10. hostexec2 (Node#2)リソースの設定

hostexec2用グループに以下のEXECリソースを追加します。

  • saphostexecを制御するE EXECリソースを追加

3.5.1.11. 排他制御用 (Node#1)リソースの設定(ENSAを利用する場合)

  • グループリソースは追加しません

3.5.1.12. 排他制御用 (Node#2)リソースの設定(ENSAを利用する場合)

  • グループリソースは追加しません

本書の設定例の詳細については、『SAP NetWeaver 設定例』‐「SAP NWクラスタのCLUSTERPRO設定例」と「EXECリソース」を参照してください。

注釈

SAP NWインスタンスの起動・停止を制御するEXECリソースは、命名規則に従ったリソース名を設定してください。リソース名が命名規則に従っていない場合、SAP NWインスタンスの起動・停止を正常に制御できなくなります。

3.5.2. モニタリソースの設定

前節で作成したグループリソースに、「カスタムモニタリソース」と「NIC Link Up/Downモニタリソース」と「ディスクモニタリソース」を追加します。

詳細については、以下のドキュメントを参照してください。

本書の設定例の詳細については、『SAP NetWeaver 設定例』の「SAP NWクラスタのCLUSTERPRO設定例」と「カスタムモニタ」を参照してください。

カスタムモニタリソースに設定するサンプルスクリプトは、本製品のインストールメディアに同梱されています。

注釈

同梱のサンプルスクリプトに記述されているSAPユーザ(SAPUSER)およびインスタンス番号(INO)を、使用環境に合わせて修正してください。

3.5.2.2. SAP NWインスタンスモニタリソースの設定

本製品に同梱されているサンプルスクリプトをカスタムモニタリソースへ設定し、以下のインスタンスを監視します。インスタンスの監視にはsapcotrolコマンドをご利用ください。sapcontrolコマンドを利用したサンプルスクリプトは、『SAP NetWeaver 設定例』の「カスタムモニタ」を参照してください。CLUSTERPRO X 3.3 の場合、サンプルスクリプトはサポートポータルから取得可能です(コンテンツID:9010107181)。

  • ASCS

  • ERS1(ENSAを利用する場合)

  • ERS2(ENSAを利用する場合)

  • ERS(ENSA2を利用する場合)

  • PAS

  • AAS

  • DA1

  • DA2

3.5.2.3. SAP NWインスタンスサービスモニタリソースの設定

本製品に同梱されているサンプルスクリプトをカスタムモニタリソースへ設定し、以下のインスタンスサービスを監視します。

  • ASCS

  • ERS1(ENSAを利用する場合)

  • ERS2(ENSAを利用する場合)

  • ERS(ENSA2を利用する場合)

  • PAS

  • AAS

  • DA1

  • DA2

  • hostexec1

  • hostexec2

3.5.2.4. ディスクモニタリソースの設定

ディスクモニタリソースの追加方法については、以下のドキュメントを参照してください。

3.6. 連携コネクタ

3.6.1. ログの設定

ここでは、連携コネクタが出力するログについて説明します。

CLUSTERPROのログ情報については、以下のドキュメントを参照してください。

3.6.1.1. logrotateの設定

Linuxのlogrotateを利用しログの格納先と世代管理の設定をします。

本製品をインストールすると以下の設定ファイルが作成されます。

/etc/logrotate.d/clp_shi_connector

既定の設定を以下に示します。

/opt/nec/clusterpro/log/clp_shi_connector.log
{
    rotate 1
    size 1M
}

連携コネクタのログは以下に出力します。

/opt/nec/clusterpro/log/clp_shi_connector.log

3.6.1.2. ログレベルの設定

SAP連携コネクタのログのログレベルは、以下のファイルのパラメータを変更して設定します。

/opt/nec/clusterpro/etc/clp_shi_connector.conf

パラメータ名

レベル値

説明

LOGLEVEL

0、1、2、4、8
(既定値:4)
出力するログのレベルを設定します。
※LOGLEVELの設定に関わらず、エラーレベルのログは標準エラー出力とsyslogにも出力します。

0:ログを出力しません。
1(ERROR):
エラーレベルのログを出力します。
2(WARNING):
警告レベル、エラーレベルのログを出力します。
4(INFORMATION):
情報レベル、警告レベル、エラーレベルのログを出力します。
8(TRACE):
内部トレース、情報レベル、警告レベル、エラーレベルのログを出力します。

設定方法は以下のとおりです。以下の例では、LOGLEVELに4を設定しています。

LOGLEVEL=4

3.6.1.3. ログのフォーマット

連携コネクタの出力ログの例を以下に示します。

ログフォーマット

LEVEL YY/MM/DD HH:MM:SS[PID] message

ログの出力例

I 12/08/22 18:54:50[32412] ********** main: clp_shi_connector start **********
E 12/08/22 18:54:50[32412] Invalid options. (aaa bbb)
I 12/08/22 18:54:50[32412] main: retval: 2
I 12/08/22 18:54:50[32412] ********** main: clp_shi_connector end **********

3.6.1.4. エラーメッセージ一覧

連携コネクタがsyslogに出力するエラーメッセージを以下に示します。

メッセージ

説明

対処

clp_shi_connector invoked. (options: args)

clp_shi_connectorが起動しました。(指定オプション:args)

-

Invalid options. (args)

オプションの指定が不正です。(指定オプション:args)

usageを参考に、オプションを正しく指定してください。

failed to get cluster resource name. (SID: ${sid}, INO: ${ino})

SIDが${sid}、INOが${ino}のSAPインスタンスを制御するリソース名の取得に失敗しました。

- SIDが${sid}、INOが${ino}のSAPインスタンスを制御するリソースのリソース名を命名規則に従い正しく設定してください。
- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

failed to get cluster group name.

クラスタのグループ名の取得に失敗しました。

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

failed to get cluster node name.

クラスタのノード名の取得に失敗しました。

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

failed to get current node name. (ret=${ret})

現在グループが起動しているノード名の取得に失敗しました(戻り値:${ret})

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

resource "${res_name}" is not ONLINE.

リソース名"${res_name}"のリソースが起動していません。

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- リソース"${res_name}"を起動してください。
- システムの状態を確認してください。

clpfunctions is missing.

clpfunctionsファイルがありません。

- CLUSTERPROを再インストールしてください。
- システムの状態を確認してください。

clpstat failed. (ret=${ret})

clpstatコマンドの実行に失敗しました。(戻り値:${ret})

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

Can't find cluster resource. (SID: $1, INO: $2)

SID: $1、INO: $2を制御するクラスタリソースが見つかりませんでした。

- SIDが${sid}、INOが${ino}のSAPインスタンスを制御するリソースのリソース名を命名規則に従い正しく設定してください。
- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

Failed to analyze resource line.

リソース行の解析に失敗しました。

システムの状態を確認してください。

Can't find cluster group. (resource: $1)

リソース: $1に関連するグループが見つかりませんでした。

- sudoの設定を正しく実施してください。
- クラスタを起動してください。
- システムの状態を確認してください。

failed to control group resource (${res_name}) because group is stopped.

グループが停止中のため、リソース( ${res_name})の制御に失敗しました。

- sudoの設定を正しく実施してください。
- リソースが属しているグループを起動してください。
- システムの状態を確認してください。

failed to start group resource (${res_name}) because group resource is not OFFLINE. (ret=${ret})

リソース(${res_name})が停止状態ではないため、リソースの起動に失敗しました。(戻り値:${ret})

- sudoの設定を正しく実施してください。
- リソースを停止状態にしてください。
- システムの状態を確認してください。

failed to stop group resource (${res_name}) because group resource is not ONLINE. (ret=${ret})

リソース(${res_name})が起動状態ではないため、リソースの停止に失敗しました。(戻り値:${ret})

- sudoの設定を正しく実施してください。
- リソースを起動状態にしてください。
- システムの状態を確認してください。

3.6.2. タイムアウトの設定

連携コネクタから実行される以下の処理は、システムの負荷によってはタイムアウトで失敗する場合があります。

  • クラスタ起動時のCLUSTERPROの製品情報取得

  • Rolling Kernel Switch発動時のグループリソースの状態確認

その場合、以下のファイルのパラメータ(下記の表参照)を調整してください。

/opt/nec/clusterpro/etc/clp_shi_connector.conf

パラメータ

説明

GVI_CHECKCOUNT

1~60
(既定値:30)
クラスタ起動時にCLUSTERPROが製品情報の取得を試行する回数を設定します。製品情報取得の間隔は、後述のGVI_CHECK_INTERVALで設定します。
実行回数が設定値以下でも、処理が成功した時点で製品情報取得は終了します。

GVI_CHECKINTERVAL

1~60
(既定値:10)

CLUSTERPROが製品情報取得を実行する間隔を秒単位で設定します。情報取得を行う回数が1回の場合(GVI_CHECKCOUNT=1)、本パラメータの値は無視されます。

FRA_CHECKCOUNT

1~60
(既定値:30)
Rolling Kernel Switch実行時に、グループリソースの状態を確認する回数を設定します。状態確認の間隔は、後述のFRA_CHECK_INTERVALで設定します。
実行回数が設定値以下でも、処理が成功した時点で状態確認は終了します。

FRA_CHECKINTERVAL

1~60
(既定値:10)

グループリソースの状態確認を実行する間隔を秒単位で設定します。状態確認を行う回数が1回の場合(FRA_CHECKCOUNT=1)、本パラメータの値は無視されます。

3.6.3. メンテナンスモードの設定(内部バージョン 4.1.0-1 以降)

メンテナンスモードを使用する場合、以下のファイルのパラメータ(下記の表参照)を調整してください。

/opt/nec/clusterpro/etc/clp_shi_connector.conf

パラメータ

説明

SMM_PATH

メンテナンスモード用に連携コネクタが使用するファイルを保存するディレクトリ
(既定値:なし)
メンテナンスモード用に連携コネクタが使用するファイルを保存するディレクトリを設定します。各クラスタノードから書き込み可能なディレクトリを指定してください。また、指定したディレクトリ配下に手動でファイルやディレクトリを作成しないでください。最大長は240文字、半角文字のみ指定可能です。
例: SMM_PATH="/sapmnt/sapmm"

3.6.4. ENSAの設定(内部バージョン 4.1.0-1 以降)

使用するENSAのバージョンを以下のファイルのパラメータ(下記の表参照)で指定してください。

ENSAのバージョンは、SAP NW側の設定と一致するようにしてください。

/opt/nec/clusterpro/etc/clp_shi_connector.conf

パラメータ

説明

ENSA_VERSION

1、2
(既定値:1)
ENSAを使用する場合、1を設定してください。
ENSA2を使用する場合、2を設定してください。

3.6.5. 各インスタンスにおけるプロセス異常判定の設定(内部バージョン 4.1.0-1 以降)

サンプルスクリプトでは各インスタンスを構成するプロセスの状態を sapcontrol -function GetProcessList で確認しますが、その結果を異常とするか否かを、以下の2つのパターンから選択できます。

  • すべてのプロセスの状態がGREENになっていない場合、監視異常とする。

  • すべてのプロセスの状態がGREENまたはYELLOWになっていない場合、監視異常とする。

どの場合に監視異常とするかを以下のファイルのパラメータ(下記の表参照)で指定してください。
詳細は『SAP NetWeaver 設定例』の「カスタムモニタ」を参照してください。

プロセス別に処理を変更したい場合は、サンプルスクリプトをカスタマイズしてください。(例.プロセスAがYELLOWの時は監視正常、プロセスBがYELLOWの時は監視異常とする場合)

/opt/nec/clusterpro/etc/clp_shi_connector.conf

パラメータ

説明

YELLOW_AS_ERROR

0、1
(既定値:1)
すべてGREENになっていない場合に監視異常とする場合、1を設定してください。この場合、YELLOWは監視異常と判定します。
YELLOWを監視異常としない場合、0を設定してください。

4. その他

4.1. SAP NWのアップデート

SAP NWのアップデートを行うには、Software Update Manager (以降、SUMと表記) を使用してください。SUMを使ったアップデートはSAPインスタンスの再起動を伴うため、SAPコンポーネントが稼動している状態を維持しようとするCLUSTERPROの動作に干渉する可能性があります。CLUSTERPROに対する干渉を回避するためには、SUMによって再起動されるSAPの全コンポーネントに対するCLUSTERPROの監視機能を一時停止します。

CLUSTERPROの監視機能を一時停止するには、以下の2通りの方法があります。

  • クラスタ全体を一時停止する

  • 関係するインスタンスやインスタンスサービスに対するモニタリソースを一時停止する

クラスタもしくはモニタリソースの一時停止中に、SUMを使ってアップデートを実行してください。アップデートが完了したら、一時停止したクラスタもしくはモニタリソースを再開してください。

クラスタやモニタリソースの一時停止・再開方法については、以下のドキュメントを参照してください。

内部バージョン 3.3.x/4.0.x の場合

  • 『リファレンスガイド』の「WebManagerの機能」-「WebManagerから実行できる操作」

内部バージョン 4.1.x以降の場合

  • Cluster WebUIのオンラインマニュアル

4.1.1. メンテナンスモード(内部バージョン 4.1.0-1 以降)

sapcontrolコマンドおよびSAP 管理コンソールからメンテナンスモードの有効/無効の切り替えが可能です。メンテナンスモード、sapcontrolコマンドの詳細はSAP提供のドキュメントを参照してください。

メンテナンスモードを有効にすると、SAP連携コネクタからクラスタサスペンドを実行します。
メンテナンスモードを無効にすると、SAP連携コネクタからクラスタリジュームを実行します。
メンテナンスモードを利用する場合は競合防止のため、Cluster WebUIおよびclpclコマンドからクラスタサスペンド/クラスタリジュームを実行しないでください。

sapcontrolコマンドにてメンテナンスモードを有効にする場合の例は以下のとおりです。

sapcontrol -nr <SID> -function HASetMaintenanceMode 1

sapcontrolコマンドにてメンテナンスモードを無効にする場合の例は以下のとおりです。

sapcontrol -nr <SID> -function HASetMaintenanceMode 0

4.2. 注意・制限事項

  • グループ起動/停止の注意事項(内部バージョン 3.3.x/4.0.x の場合)
    『リファレンスガイド』の「グループリソースの詳細」-「グループとは?」-「グループの起動待ち合わせ、停止待ち合わせについて」の「注意事項」を参照してください。
  • グループ起動/停止の注意事項(内部バージョン 4.1.x以降の場合)
  • 半角空白文字の使用制限について
    ノード名、フェイルオーバグループ名、グループリソース名には半角空白を含まないでください。半角空白が含まれた場合、SAP NW インスタンスの起動・停止を正常に制御できなくなります。
  • SAP NWコンポーネントのインスタンス番号の構成と、各構成に関する注意事項に関しては、「2.1.1.4. SAP NWコンポーネントのインスタンス番号の構成」を参照してください。

  • フェイルオーバグループの命名規則について
    ASCSインスタンスおよびERSインスタンスの排他制御用フェイルオーバグループは、命名規則に従ったフェイルオーバグループ名を設定してください。フェイルオーバグループ名が命名規則に従っていない場合、ASCSインスタンスおよびERSインスタンスの排他制御を正常に実施できなくなります。
  • EXECリソースの命名規則について
    SAP NWインスタンスの起動・停止を制御するEXECリソースは、命名規則に従ったリソース名を設定してください。リソース名が命名規則に従っていない場合、SAP NWインスタンスの起動・停止を正常に制御できなくなります。
  • 1ノードのみ回復した場合について
    ERSインスタンスが動作するノードが回復しクラスタに加わる場合、ERSインスタンス用フェイルオーバグループは自動起動しません。
    ノードが正常に動作していることを確認した上で、ERSインスタンス用フェイルオーバグループを手動で再起動してください。
  • 権限の設定について
    SAP NWとCLUSTERPROを正常に連携させるため、SAP NWのインストールで自動作成されたグループに対し、sudoを実行可能なように設定してください。SAP NWのユーザがsudoを実行できない場合、SAP NWインスタンスの起動・停止を正常に制御できなくなります。
  • 言語の設定について(内部バージョン 3.3.x/4.0.x の場合)
    WebManagerの [クラスタ生成ウィザード] の [クラスタの定義] 画面において、[言語] フィールドには必ず「英語」を選択してください。「英語」以外が選択された場合、クラスタが正常に動作しなくなります。
  • メンテナンスモードについて(内部バージョン 4.1.x以降の場合)
    メンテナンスモードを利用する場合は競合防止のため、Web UIおよびclpclコマンドからクラスタサスペンド/クラスタリジュームを実行しないでください。
    clp_shi_connector.conf のパラメータ SMM_PATH には、各クラスタノードから書き込み可能なディレクトリを指定してください。また、指定したディレクトリ配下に手動でファイルやディレクトリを作成しないでください。