<div dir="ltr"><div>Dear List,</div><div><br></div><div>After the creation and testing of a simple 2 node active-passive drbd+postfix cluster nearly everything works flawlessly (standby, failure of a filesystem resource + failover, splitbrain + manual recovery) however when delibarately killing the postfix instance, after reaching the migration threshold failover does not occur and resources revert to the Stopped state (except the master-slave drbd resource, which works as expected).</div><div><br></div><div>Ordering and colocation is configured, STONITH and quorum disabled, the goal is to always have one node running all the resources and at any sign of error it should fail over to the passive node, nothing fancy.</div><div><br></div><div>Is my configuration wrong or am I hitting a bug?</div><div><br></div><div>All software from centos 7 + elrepo repositories.</div><div><br></div><div>Regarding STONITH: the machines are running on free ESXi instances on separate machines, so the Vmware fencing agents won't work because in the free version the API is read-only.</div><div>Still trying to figure out a way to go, until then manual recovery + huge arp cache times on the upstream firewall...</div><div><br></div><div><div>Please find pe-input*.bz files attached, logs and config below. The situation: on node mail1 postfix was killed 3 times (migration threshold), it should have failed over to mail2.</div><div>When killing a filesystem resource three times this happens flawlessly.</div><div><br></div><div>Thanks for your input!</div><div><br></div><div>Best regards,</div><div>Lorand</div><div><br></div><div><br></div><div><div>Cluster Name: mailcluster</div><div>Corosync Nodes:</div><div> mail1 mail2 </div><div>Pacemaker Nodes:</div><div> mail1 mail2 </div><div><br></div><div>Resources: </div><div> Group: network-services</div><div>  Resource: virtualip-1 (class=ocf provider=heartbeat type=IPaddr2)</div><div>   Attributes: ip=10.20.64.10 cidr_netmask=24 nic=lan0 </div><div>   Operations: start interval=0s timeout=20s (virtualip-1-start-interval-0s)</div><div>               stop interval=0s timeout=20s (virtualip-1-stop-interval-0s)</div><div>               monitor interval=30s (virtualip-1-monitor-interval-30s)</div><div> Master: spool-clone</div><div>  Meta Attrs: master-max=1 master-node-max=1 clone-max=2 clone-node-max=1 notify=true </div><div>  Resource: spool (class=ocf provider=linbit type=drbd)</div><div>   Attributes: drbd_resource=spool </div><div>   Operations: start interval=0s timeout=240 (spool-start-interval-0s)</div><div>               promote interval=0s timeout=90 (spool-promote-interval-0s)</div><div>               demote interval=0s timeout=90 (spool-demote-interval-0s)</div><div>               stop interval=0s timeout=100 (spool-stop-interval-0s)</div><div>               monitor interval=10s (spool-monitor-interval-10s)</div><div> Master: mail-clone</div><div>  Meta Attrs: master-max=1 master-node-max=1 clone-max=2 clone-node-max=1 notify=true </div><div>  Resource: mail (class=ocf provider=linbit type=drbd)</div><div>   Attributes: drbd_resource=mail </div><div>   Operations: start interval=0s timeout=240 (mail-start-interval-0s)</div><div>               promote interval=0s timeout=90 (mail-promote-interval-0s)</div><div>               demote interval=0s timeout=90 (mail-demote-interval-0s)</div><div>               stop interval=0s timeout=100 (mail-stop-interval-0s)</div><div>               monitor interval=10s (mail-monitor-interval-10s)</div><div> Group: fs-services</div><div>  Resource: fs-spool (class=ocf provider=heartbeat type=Filesystem)</div><div>   Attributes: device=/dev/drbd0 directory=/var/spool/postfix fstype=ext4 options=nodev,nosuid,noexec </div><div>   Operations: start interval=0s timeout=60 (fs-spool-start-interval-0s)</div><div>               stop interval=0s timeout=60 (fs-spool-stop-interval-0s)</div><div>               monitor interval=20 timeout=40 (fs-spool-monitor-interval-20)</div><div>  Resource: fs-mail (class=ocf provider=heartbeat type=Filesystem)</div><div>   Attributes: device=/dev/drbd1 directory=/var/spool/mail fstype=ext4 options=nodev,nosuid,noexec </div><div>   Operations: start interval=0s timeout=60 (fs-mail-start-interval-0s)</div><div>               stop interval=0s timeout=60 (fs-mail-stop-interval-0s)</div><div>               monitor interval=20 timeout=40 (fs-mail-monitor-interval-20)</div><div> Group: mail-services</div><div>  Resource: postfix (class=ocf provider=heartbeat type=postfix)</div><div>   Operations: start interval=0s timeout=20s (postfix-start-interval-0s)</div><div>               stop interval=0s timeout=20s (postfix-stop-interval-0s)</div><div>               monitor interval=45s (postfix-monitor-interval-45s)</div><div><br></div><div>Stonith Devices: </div><div>Fencing Levels: </div><div><br></div><div>Location Constraints:</div><div>Ordering Constraints:</div><div>  start network-services then promote mail-clone (kind:Mandatory) (id:order-network-services-mail-clone-mandatory)</div><div>  promote mail-clone then promote spool-clone (kind:Mandatory) (id:order-mail-clone-spool-clone-mandatory)</div><div>  promote spool-clone then start fs-services (kind:Mandatory) (id:order-spool-clone-fs-services-mandatory)</div><div>  start fs-services then start mail-services (kind:Mandatory) (id:order-fs-services-mail-services-mandatory)</div><div>Colocation Constraints:</div><div>  network-services with spool-clone (score:INFINITY) (rsc-role:Started) (with-rsc-role:Master) (id:colocation-network-services-spool-clone-INFINITY)</div><div>  network-services with mail-clone (score:INFINITY) (rsc-role:Started) (with-rsc-role:Master) (id:colocation-network-services-mail-clone-INFINITY)</div><div>  network-services with fs-services (score:INFINITY) (id:colocation-network-services-fs-services-INFINITY)</div><div>  network-services with mail-services (score:INFINITY) (id:colocation-network-services-mail-services-INFINITY)</div><div><br></div><div>Resources Defaults:</div><div> migration-threshold: 3</div><div>Operations Defaults:</div><div> on-fail: restart</div><div><br></div><div>Cluster Properties:</div><div> cluster-infrastructure: corosync</div><div> cluster-name: mailcluster</div><div> cluster-recheck-interval: 5min</div><div> dc-version: 1.1.13-10.el7_2.2-44eb2dd</div><div> default-resource-stickiness: infinity</div><div> have-watchdog: false</div><div> last-lrm-refresh: 1457613674</div><div> no-quorum-policy: ignore</div><div> pe-error-series-max: 1024</div><div> pe-input-series-max: 1024</div><div> pe-warn-series-max: 1024</div><div> stonith-enabled: false</div></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.15 2</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.16 (null)</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=16</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/lrm[@id='1']/lrm_resources/lrm_resource[@id='postfix']/lrm_rsc_op[@id='postfix_last_failure_0']:  @transition-key=4:1234:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @transition-magic=0:7;4:1234:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @call-id=1274, @last-rc-change=1457613440</div><div>Mar 10 13:37:20 [7420] HWJ-626.domain.local       crmd:     info: abort_transition_graph:       Transition aborted by postfix_monitor_45000 'modify' on mail1: Inactive graph (magic=0:7;4:1234:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, cib=0.197.16, source=process_graph_event:598, 1)</div><div>Mar 10 13:37:20 [7420] HWJ-626.domain.local       crmd:     info: update_failcount:     Updating failcount for postfix on mail1 after failed monitor: rc=7 (update=value++, time=1457613440)</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_client_update:  Expanded fail-count-postfix=value++ to 3</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail1/crmd/196, version=0.197.16)</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_peer_update:    Setting fail-count-postfix[mail1]: 2 -> 3 from mail2</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: write_attribute:      Sent update 400 with 2 changes for fail-count-postfix, id=<n/a>, set=(null)</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Forwarding cib_modify operation for section status to master (origin=local/attrd/400)</div><div>Mar 10 13:37:20 [7420] HWJ-626.domain.local       crmd:     info: process_graph_event:  Detected action (1234.4) postfix_monitor_45000.1274=not running: failed</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_peer_update:    Setting last-failure-postfix[mail1]: 1457613347 -> 1457613440 from mail2</div><div>Mar 10 13:37:20 [7420] HWJ-626.domain.local       crmd:   notice: do_state_transition:  State transition S_IDLE -> S_POLICY_ENGINE [ input=I_PE_CALC cause=C_FSA_INTERNAL origin=abort_transition_graph ]</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: write_attribute:      Sent update 401 with 2 changes for last-failure-postfix, id=<n/a>, set=(null)</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.16 2</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.17 (null)</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=17</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/transient_attributes[@id='1']/instance_attributes[@id='status-1']/nvpair[@id='status-1-fail-count-postfix']:  @value=3</div><div>Mar 10 13:37:20 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail2/attrd/400, version=0.197.17)</div><div>Mar 10 13:37:20 [7420] HWJ-626.domain.local       crmd:     info: abort_transition_graph:       Transition aborted by status-1-fail-count-postfix, fail-count-postfix=3: Transient attribute change (modify cib=0.197.17, source=abort_unless_down:319, path=/cib/status/node_state[@id='1']/transient_attributes[@id='1']/instance_attributes[@id='status-1']/nvpair[@id='status-1-fail-count-postfix'], 1)</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 400 for fail-count-postfix: OK (0)</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 400 for fail-count-postfix[mail1]=3: OK (0)</div><div>Mar 10 13:37:20 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 400 for fail-count-postfix[mail2]=(null): OK (0)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Forwarding cib_modify operation for section status to master (origin=local/attrd/401)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.17 2</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.18 (null)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=18</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/transient_attributes[@id='1']/instance_attributes[@id='status-1']/nvpair[@id='status-1-last-failure-postfix']:  @value=1457613440</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail2/attrd/401, version=0.197.18)</div><div>Mar 10 13:37:21 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 401 for last-failure-postfix: OK (0)</div><div>Mar 10 13:37:21 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 401 for last-failure-postfix[mail1]=1457613440: OK (0)</div><div>Mar 10 13:37:21 [7418] HWJ-626.domain.local      attrd:     info: attrd_cib_callback:   Update 401 for last-failure-postfix[mail2]=1457610376: OK (0)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: abort_transition_graph:       Transition aborted by status-1-last-failure-postfix, last-failure-postfix=1457613440: Transient attribute change (modify cib=0.197.18, source=abort_unless_down:319, path=/cib/status/node_state[@id='1']/transient_attributes[@id='1']/instance_attributes[@id='status-1']/nvpair[@id='status-1-last-failure-postfix'], 1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: unpack_config:        On loss of CCM Quorum: Ignore</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_online_status:      Node mail1 is online</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_online_status:      Node mail2 is online</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource mail:0 active in master mode on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource spool:0 active in master mode on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource fs-spool active on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource fs-mail active on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:  warning: unpack_rsc_op_failure:        Processing failed op monitor for postfix on mail1: not running (7)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource spool:1 active in master mode on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource mail:1 active in master mode on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: network-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      virtualip-1        (ocf::heartbeat:IPaddr2):     Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: clone_print:   Master/Slave Set: spool-clone [spool]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Masters: [ mail1 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Slaves: [ mail2 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: clone_print:   Master/Slave Set: mail-clone [mail]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Masters: [ mail1 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Slaves: [ mail2 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: fs-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      fs-spool   (ocf::heartbeat:Filesystem):    Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      fs-mail    (ocf::heartbeat:Filesystem):    Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: mail-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      postfix    (ocf::heartbeat:postfix):       FAILED mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: get_failcount_full:   postfix has failed 3 times on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:  warning: common_apply_stickiness:      Forcing postfix away from mail1 after 3 failures (max=3)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: Promoting mail:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: mail-clone: Promoted 1 instances of a possible 1 to master</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: Promoting spool:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: spool-clone: Promoted 1 instances of a possible 1 to master</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: rsc_merge_weights:    postfix: Rolling back scores from virtualip-1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_color: Resource virtualip-1 cannot run anywhere</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: RecurringOp:   Start recurring monitor (45s) for postfix on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    virtualip-1     (mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   spool:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   spool:1 (Slave mail2)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   mail:0  (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   mail:1  (Slave mail2)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    fs-spool        (Started mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    fs-mail (Started mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    postfix (Started mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: process_pe_message:   Calculated Transition 1235: /var/lib/pacemaker/pengine/pe-input-302.bz2</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: handle_response:      pe_calc calculation pe_calc-dc-1457613441-3756 is obsolete</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: unpack_config:        On loss of CCM Quorum: Ignore</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_online_status:      Node mail1 is online</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_online_status:      Node mail2 is online</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource mail:0 active in master mode on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource spool:0 active in master mode on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource fs-spool active on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource fs-mail active on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:  warning: unpack_rsc_op_failure:        Processing failed op monitor for postfix on mail1: not running (7)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource spool:1 active in master mode on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: determine_op_status:  Operation monitor found resource mail:1 active in master mode on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: network-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      virtualip-1        (ocf::heartbeat:IPaddr2):     Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: clone_print:   Master/Slave Set: spool-clone [spool]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Masters: [ mail1 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Slaves: [ mail2 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: clone_print:   Master/Slave Set: mail-clone [mail]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Masters: [ mail1 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: short_print:       Slaves: [ mail2 ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: fs-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      fs-spool   (ocf::heartbeat:Filesystem):    Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      fs-mail    (ocf::heartbeat:Filesystem):    Started mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: group_print:   Resource Group: mail-services</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_print:      postfix    (ocf::heartbeat:postfix):       FAILED mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: get_failcount_full:   postfix has failed 3 times on mail1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:  warning: common_apply_stickiness:      Forcing postfix away from mail1 after 3 failures (max=3)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: Promoting mail:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: mail-clone: Promoted 1 instances of a possible 1 to master</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: Promoting spool:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: master_color: spool-clone: Promoted 1 instances of a possible 1 to master</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: rsc_merge_weights:    postfix: Rolling back scores from virtualip-1</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: native_color: Resource virtualip-1 cannot run anywhere</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: RecurringOp:   Start recurring monitor (45s) for postfix on mail2</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    virtualip-1     (mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   spool:0 (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   spool:1 (Slave mail2)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   mail:0  (Master mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:     info: LogActions:   Leave   mail:1  (Slave mail2)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    fs-spool        (Started mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    fs-mail (Started mail1)</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: LogActions:   Stop    postfix (Started mail1)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: do_state_transition:  State transition S_POLICY_ENGINE -> S_TRANSITION_ENGINE [ input=I_PE_SUCCESS cause=C_IPC_MESSAGE origin=handle_response ]</div><div>Mar 10 13:37:21 [7419] HWJ-626.domain.local    pengine:   notice: process_pe_message:   Calculated Transition 1236: /var/lib/pacemaker/pengine/pe-input-303.bz2</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: do_te_invoke: Processing graph 1236 (ref=pe_calc-dc-1457613441-3757) derived from /var/lib/pacemaker/pengine/pe-input-303.bz2</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: te_rsc_command:       Initiating action 12: stop virtualip-1_stop_0 on mail1</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: te_rsc_command:       Initiating action 5: stop postfix_stop_0 on mail1</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.18 2</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.19 (null)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=19</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/lrm[@id='1']/lrm_resources/lrm_resource[@id='virtualip-1']/lrm_rsc_op[@id='virtualip-1_last_0']:  @operation_key=virtualip-1_stop_0, @operation=stop, @transition-key=12:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @transition-magic=0:0;12:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @call-id=1276, @last-run=1457613441, @last-rc-change=1457613441, @exec-time=66</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail1/crmd/197, version=0.197.19)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: match_graph_event:    Action virtualip-1_stop_0 (12) confirmed on mail1 (rc=0)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.19 2</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.20 (null)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=20</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/lrm[@id='1']/lrm_resources/lrm_resource[@id='postfix']/lrm_rsc_op[@id='postfix_last_0']:  @operation_key=postfix_stop_0, @operation=stop, @transition-key=5:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @transition-magic=0:0;5:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @call-id=1278, @last-run=1457613441, @last-rc-change=1457613441, @exec-time=476</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: match_graph_event:    Action postfix_stop_0 (5) confirmed on mail1 (rc=0)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: te_rsc_command:       Initiating action 79: stop fs-mail_stop_0 on mail1</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail1/crmd/198, version=0.197.20)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.20 2</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.21 (null)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=21</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/lrm[@id='1']/lrm_resources/lrm_resource[@id='fs-mail']/lrm_rsc_op[@id='fs-mail_last_0']:  @operation_key=fs-mail_stop_0, @operation=stop, @transition-key=79:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @transition-magic=0:0;79:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @call-id=1280, @last-run=1457613441, @last-rc-change=1457613441, @exec-time=88, @queue-time=1</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail1/crmd/199, version=0.197.21)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: match_graph_event:    Action fs-mail_stop_0 (79) confirmed on mail1 (rc=0)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: te_rsc_command:       Initiating action 77: stop fs-spool_stop_0 on mail1</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: --- 0.197.21 2</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       Diff: +++ 0.197.22 (null)</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib:  @num_updates=22</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_perform_op:       +  /cib/status/node_state[@id='1']/lrm[@id='1']/lrm_resources/lrm_resource[@id='fs-spool']/lrm_rsc_op[@id='fs-spool_last_0']:  @operation_key=fs-spool_stop_0, @operation=stop, @transition-key=77:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @transition-magic=0:0;77:1236:0:ae755a85-c250-498f-9c94-ddd8a7e2788a, @call-id=1282, @last-run=1457613441, @last-rc-change=1457613441, @exec-time=86</div><div>Mar 10 13:37:21 [7415] HWJ-626.domain.local        cib:     info: cib_process_request:  Completed cib_modify operation for section status: OK (rc=0, origin=mail1/crmd/200, version=0.197.22)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: match_graph_event:    Action fs-spool_stop_0 (77) confirmed on mail1 (rc=0)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:  warning: run_graph:    Transition 1236 (Complete=11, Pending=0, Fired=0, Skipped=0, Incomplete=1, Source=/var/lib/pacemaker/pengine/pe-input-303.bz2): Terminated</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:  warning: te_graph_trigger:     Transition failed: terminated</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_graph:  Graph 1236 with 12 actions: batch-limit=12 jobs, network-delay=0ms</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   16]: Completed pseudo op network-services_stopped_0     on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   15]: Completed pseudo op network-services_stop_0        on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   12]: Completed rsc op virtualip-1_stop_0                on mail1 (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   84]: Completed pseudo op fs-services_stopped_0          on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   83]: Completed pseudo op fs-services_stop_0             on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   77]: Completed rsc op fs-spool_stop_0                   on mail1 (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   79]: Completed rsc op fs-mail_stop_0                    on mail1 (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   90]: Completed pseudo op mail-services_stopped_0        on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   89]: Completed pseudo op mail-services_stop_0           on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action   86]: Pending rsc op postfix_monitor_45000               on mail2 (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:         * [Input 85]: Unresolved dependency rsc op postfix_start_0 on mail2</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action    5]: Completed rsc op postfix_stop_0                    on mail1 (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: print_synapse:        [Action    8]: Completed pseudo op all_stopped                    on N/A (priority: 0, waiting: none)</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:     info: do_log:       FSA: Input I_TE_SUCCESS from notify_crmd() received in state S_TRANSITION_ENGINE</div><div>Mar 10 13:37:21 [7420] HWJ-626.domain.local       crmd:   notice: do_state_transition:  State transition S_TRANSITION_ENGINE -> S_IDLE [ input=I_TE_SUCCESS cause=C_FSA_INTERNAL origin=notify_crmd ]</div><div>Mar 10 13:37:26 [7415] HWJ-626.domain.local        cib:     info: cib_process_ping:     Reporting our current digest to mail2: 3896ee29cdb6ba128330b0ef6e41bd79 for 0.197.22 (0x1544a30 0)</div><div><br></div></div></div>