<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, 30 Aug 2023 at 17:35, David Dolan <<a href="mailto:daithidolan@gmail.com">daithidolan@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">> Hi All,<br>
><br>
> I'm running Pacemaker on Centos7<br>
> Name        : pcs<br>
> Version     : 0.9.169<br>
> Release     : 3.el7.centos.3<br>
> Architecture: x86_64<br>
><br>
><br>
Besides the pcs-version versions of the other cluster-stack-components<br>
could be interesting. (pacemaker, corosync)<br></blockquote><div> rpm -qa | egrep "pacemaker|pcs|corosync|fence-agents"</div>fence-agents-vmware-rest-4.2.1-41.el7_9.6.x86_64<br>corosynclib-2.4.5-7.el7_9.2.x86_64<br>pacemaker-cluster-libs-1.1.23-1.el7_9.1.x86_64<br>fence-agents-common-4.2.1-41.el7_9.6.x86_64<br>corosync-2.4.5-7.el7_9.2.x86_64<br>pacemaker-cli-1.1.23-1.el7_9.1.x86_64<br>pacemaker-1.1.23-1.el7_9.1.x86_64<br>pcs-0.9.169-3.el7.centos.3.x86_64<br>pacemaker-libs-1.1.23-1.el7_9.1.x86_64<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
<br>
> I'm performing some cluster failover tests in a 3 node cluster. We have 3<br>
> resources in the cluster.<br>
> I was trying to see if I could get it working if 2 nodes fail at different<br>
> times. I'd like the 3 resources to then run on one node.<br>
><br>
> The quorum options I've configured are as follows<br>
> [root@node1 ~]# pcs quorum config<br>
> Options:<br>
>   auto_tie_breaker: 1<br>
>   last_man_standing: 1<br>
>   last_man_standing_window: 10000<br>
>   wait_for_all: 1<br>
><br>
><br>
Not sure if the combination of auto_tie_breaker and last_man_standing makes<br>
sense.<br>
And as you have a cluster with an odd number of nodes auto_tie_breaker<br>
should be<br>
disabled anyway I guess.<br></blockquote><div>Ah ok I'll try removing auto_tie_breaker and leave last_man_standing </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
<br>
> [root@node1 ~]# pcs quorum status<br>
> Quorum information<br>
> ------------------<br>
> Date:             Wed Aug 30 11:20:04 2023<br>
> Quorum provider:  corosync_votequorum<br>
> Nodes:            3<br>
> Node ID:          1<br>
> Ring ID:          1/1538<br>
> Quorate:          Yes<br>
><br>
> Votequorum information<br>
> ----------------------<br>
> Expected votes:   3<br>
> Highest expected: 3<br>
> Total votes:      3<br>
> Quorum:           2<br>
> Flags:            Quorate WaitForAll LastManStanding AutoTieBreaker<br>
><br>
> Membership information<br>
> ----------------------<br>
>     Nodeid      Votes    Qdevice Name<br>
>          1          1         NR node1 (local)<br>
>          2          1         NR node2<br>
>          3          1         NR node3<br>
><br>
> If I stop the cluster services on node 2 and 3, the groups all failover to<br>
> node 1 since it is the node with the lowest ID<br>
> But if I stop them on node1 and node 2 or node1 and node3, the cluster<br>
> fails.<br>
><br>
> I tried adding this line to corosync.conf and I could then bring down the<br>
> services on node 1 and 2 or node 2 and 3 but if I left node 2 until last,<br>
> the cluster failed<br>
> auto_tie_breaker_node: 1  3<br>
><br>
> This line had the same outcome as using 1 3<br>
> auto_tie_breaker_node: 1  2 3<br>
><br>
><br>
Giving multiple auto_tie_breaker-nodes doesn't make sense to me but rather<br>
sounds dangerous if that configuration is possible at all.<br>
<br>
Maybe the misbehavior of last_man_standing is due to this (maybe not<br>
recognized) misconfiguration.<br>
Did you wait long enough between letting the 2 nodes fail?<br></blockquote><div>I've done it so many times so I believe so. But I'll try remove the auto_tie_breaker config, leaving the last_man_standing. I'll also make sure I leave a couple of minutes between bringing down the nodes and post back.</div></div></div></blockquote><div>Just confirming I removed the auto_tie_breaker config and tested. Quorum configuration is as follows:</div><div> Options:</div>  last_man_standing: 1<br>  last_man_standing_window: 10000<br>  wait_for_all: 1<br><br>I waited 2-3 minutes between stopping cluster services on two nodes via pcs cluster stop<br>The remaining cluster node is then fenced. I was hoping the remaining node would stay online running the resources.<br><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
Klaus<br>
<br>
<br>
> So I'd like it to failover when any combination of two nodes fail but I've<br>
> only had success when the middle node isn't last.<br>
><br>
> Thanks<br>
> David<br><br>
<br><br>
</blockquote></div></div>
</blockquote></div></div>