<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Tue, Mar 25, 2025 at 3:37 PM Narayanan, Devarajan via Users <<a href="mailto:users@clusterlabs.org">users@clusterlabs.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-1149863384711949803">





<div lang="EN-IN" style="overflow-wrap: break-word;">
<div class="m_-1149863384711949803WordSection1">
<p class="MsoNormal"><span style="font-size:11pt">Hi,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">I have a setup where I have multiple docker instances on a base linux (Node1).<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">I have a cluster inside each docker instances which pair with a similar setup on another node (node2) and form 2 node clusters.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">See pic1 below.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">In this setup, the cluster status etc resides in the docker overlay file system I presume.<u></u><u></u></span></p>
<p class="MsoNormal"><b><span style="font-size:11pt"><Query1></span></b><span style="font-size:11pt"> Is there a clear list of files which have the cluster status (Basically data of corosync, pacemaker, sbd, crmsh processes I think)?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><b><span style="font-size:11pt"><Query2></span></b><span style="font-size:11pt"> In this setup if I wanted the cluster data to be persistent across “remove and re-run of the docker instance”, what can I do?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">Presuming cluster data will be in /var, /etc, /usr folders, I tried the following solution.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">Created volumes for var, etc and usr and then during docker run used the options like “-v var_vol:/var -v etc_vol:/etc -v usr_vol”<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">With this some portion worked and saw some weird behaviour as well.<u></u><u></u></span></p>
<p class="MsoNormal"><b><span style="font-size:11pt"><Query3></span></b><span style="font-size:11pt"> Is this a correct way of solving the problem to have a persistent cluster data? Have I missed mapping any folder?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">FYI, I have given the details about the experiment I tried to verify if the cluster data is consistent below (Experiment).
<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">Let me know if this makes sense.</span></p></div></div></div></blockquote><div><br></div><div>Slightly off topic regarding your questions ...</div><div>Just out of curiosity without really having investigated what docker offers to help with I wanted to ask how you are tackling the - quite strict - requirement</div><div>of sbd for a watchdog-device (even if it is just softdog - which isn't available for your setup either) to guarantee reliable self-fencing?</div><div>sbd in containers would be an interesting field to investigate and thus I'm interested in what is there and what we could do to improve the</div><div>situation. Many years back I for instance implemented a pipe-device offering a similar interface as the kernel-watchdog-drivers provided by</div><div>each instance of the per container lxc process (iirc the lxc processes then had an integration with watchdog-daemon while an instance of </div><div>watchdog daemon interacting with the pipe running inside each container - everything way before sbd appeared on the horizon - just as an example).</div><div><br></div><div>Regards,</div><div>Klaus</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-1149863384711949803"><div lang="EN-IN" style="overflow-wrap: break-word;"><div class="m_-1149863384711949803WordSection1"><p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><b><u><span style="font-size:11pt">Pic1<u></u><u></u></span></u></b></p>
<p class="MsoNormal"><span style="font-size:11pt"><img width="947" height="532" style="width: 9.8645in; height: 5.5416in;" id="m_-1149863384711949803Picture_x0020_3" src="cid:ii_195dbbf10715b16b21"></span><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><b><u><span style="font-size:11pt">Experiment<u></u><u></u></span></u></b></p>
<p class="MsoNormal"><span style="font-size:11pt">Tried the following experiment. Please let me know if this makes sense<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">1) In a proper working cluster, stopped app-1-on-node-2 container on node2 to get the following crm status in app-1-on-node-1<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><i><span style="font-size:11pt">Node List:<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * Online: [ app-1-on-node-1 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * OFFLINE: [ app-1-on-node-2 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">2) Stopped and started the app-1-on-node-1 and checked the crm status. Remained the same as before<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><i><span style="font-size:11pt">Node List:<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * Online: [ app-1-on-node-1 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * OFFLINE: [ app-1-on-node-2 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">3) Remove the container app-1-on-node-1 and run it newly and then checked the crm status.
<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">  Now the status was changed by not showing the app-1-on-node-2 (Presume the reason for this is old cluster data is not available)<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><i><span style="font-size:11pt;background:yellow">Node List:<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt;background:yellow">  * Online: [ app-1-on-node-1 ]</span></i><i><span style="font-size:11pt"><u></u><u></u></span></i></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">4) Repeated the step 1 and observed the crm status (This time I used “-v var_vol:/var -v etc_vol:/etc -v usr_vol" during docker run)<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><i><span style="font-size:11pt">Node List:<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * Online: [ app-1-on-node-1 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt">  * OFFLINE: [ app-1-on-node-2 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">5) Remove the container app-1-on-node-1 and run it newly (with “-v var_vol:/var -v etc_vol:/etc -v usr_vol" during docker run) and then checked the crm status.
<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"> <u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">6) Now checked the crm status<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u><u></u></span></p>
<p class="MsoNormal"><i><span style="font-size:11pt;background:lime">Node List:<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt;background:lime">  * Online: [ app-1-on-node-1 ]<u></u><u></u></span></i></p>
<p class="MsoNormal"><i><span style="font-size:11pt;background:lime">  * OFFLINE: [ app-1-on-node-2 ]</span></i><i><span style="font-size:11pt"><u></u><u></u></span></i></p>
<p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">Regards,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt">Deva.<u></u><u></u></span></p>
</div>
<br>
<p style="font-family:Calibri;font-size:7pt;color:rgb(115,115,115);margin:5pt;font-style:normal;font-weight:normal;text-decoration:none" align="Left">
Internal Use - Confidential<br>
</p>
</div>

_______________________________________________<br>
Manage your subscription:<br>
<a href="https://lists.clusterlabs.org/mailman/listinfo/users" rel="noreferrer" target="_blank">https://lists.clusterlabs.org/mailman/listinfo/users</a><br>
<br>
ClusterLabs home: <a href="https://www.clusterlabs.org/" rel="noreferrer" target="_blank">https://www.clusterlabs.org/</a><br>
</div></blockquote></div></div>