<div dir="ltr">Following command was failing <div><span style="font-family:arial,sans-serif;font-size:13px">pcs  </span><span class="" style="font-family:arial,sans-serif;font-size:13px">resource</span><span style="font-family:arial,sans-serif;font-size:13px"> master ms-f3611cc5-a68f-4c69-ab35-</span><span style="font-family:arial,sans-serif;font-size:13px">a9b226473e5d vha-f3611cc5-a68f-4c69-ab35-</span><span style="font-family:arial,sans-serif;font-size:13px">a9b226473e5d meta clone-max=2 globally-unique=false target-role=started</span><br></div><div><span style="font-family:arial,sans-serif;font-size:13px"><br></span></div><div><span style="font-family:arial,sans-serif;font-size:13px">So i did the following</span></div><div><span style="font-family:arial,sans-serif;font-size:13px"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">pcs  </span><span class="" style="font-size:13px;font-family:arial,sans-serif">resource</span><span style="font-size:13px;font-family:arial,sans-serif"> master ms-f3611cc5-a68f-4c69-ab35-</span><span style="font-size:13px;font-family:arial,sans-serif">a9b226473e5d vha-f3611cc5-a68f-4c69-ab35-</span><span style="font-size:13px;font-family:arial,sans-serif">a9b226473e5d meta clone-max=2 globally-unique=false target-role=started --debug > xmlfile</span><span style="font-family:arial,sans-serif;font-size:13px"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">#removed first three lines which are not part of xml from the xmlfile generated</span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">cibadmin -Mc --xml-file=xmlfile </span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">But pcs status did not show the resource for which pcs resource command had failed</span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">Also tried</span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">cibadmin --R --xml-file=xmlfile</span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif">But even then didnt find the resource in output of pcs status</span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div><div><font face="arial, sans-serif">1. Are these right set of commands  ?</font></div><div><font face="arial, sans-serif">2. Which version of pcs has fix for this issue ?</font></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif">regards,</font></div><div><font face="arial, sans-serif"> kiran</font></div><div><font face="arial, sans-serif"><br></font></div><div><span style="font-size:13px;font-family:arial,sans-serif"><br></span></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Mon, Jul 21, 2014 at 10:21 PM, Colin Mason <span dir="ltr"><<a href="mailto:cmason@frontiernetworks.ca" target="_blank">cmason@frontiernetworks.ca</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple"><div><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d">Yes, I had 10 (20) Master/Slave resources, 5 (10) clone resources, 24 simple resources for a total of 54 when I started running into this error. I could not create another Master/Slave resource with the exact same error.<u></u><u></u></span></p><span class=""><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal">Error: unable to locate command: /usr/sbin/cibadmin<span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p></span><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d">You are simply hitting a limit of the amount of characters you can use on one command because cib.xml is getting large. Use pcs --debug to dump the XML to screen, paste it into a file and run cibadmin --xml-file directly for a workaround. Works great.<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d">Colin<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><b><span style="font-size:10.0pt;font-family:"Tahoma","sans-serif"">From:</span></b><span style="font-size:10.0pt;font-family:"Tahoma","sans-serif""> K Mehta [mailto:<a href="mailto:kiranmehta1981@gmail.com" target="_blank">kiranmehta1981@gmail.com</a>] <br><b>Sent:</b> Monday, July 21, 2014 12:28 PM<br><b>To:</b> Colin Mason</span></p><div><div class="h5"><br><b>Subject:</b> Re: [Pacemaker] Cannot create more than 27 multistate resources<u></u><u></u></div></div><p></p><div><div class="h5"><p class="MsoNormal"><u></u> <u></u></p><div><p class="MsoNormal">Colin,<u></u><u></u></p><div><p class="MsoNormal">          In your setup do you have multi state resources or simple resources ?<u></u><u></u></p></div><div><p class="MsoNormal">          In my case, I get error in creation of master after successful creation of 27 multi state resources.<u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal">          [root@vsanqa11 kiran]# pcs status<u></u><u></u></p></div><div><p class="MsoNormal">Cluster name: vsanqa11_12<u></u><u></u></p></div><div><p class="MsoNormal">Last updated: Mon Jul 21 09:25:36 2014<u></u><u></u></p></div><div><p class="MsoNormal">Last change: Mon Jul 21 09:17:25 2014 via cibadmin on vsanqa11<u></u><u></u></p></div><div><p class="MsoNormal">Stack: cman<u></u><u></u></p></div><div><p class="MsoNormal">Current DC: vsanqa12 - partition with quorum<u></u><u></u></p></div><div><p class="MsoNormal">Version: 1.1.10-14.el6_5.2-368c726<u></u><u></u></p></div><div><p class="MsoNormal">2 Nodes configured<u></u><u></u></p></div><div><p class="MsoNormal">55 Resources configured **<<<<< (27 multi state resources on two node cluster = 54 resources + 1 resource whose master is to be created)<u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal">After this master resource cannot be created.<u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div></div><div><p class="MsoNormal" style="margin-bottom:12.0pt"><u></u> <u></u></p><div><p class="MsoNormal">On Mon, Jul 21, 2014 at 8:51 PM, Colin Mason <<a href="mailto:cmason@frontiernetworks.ca" target="_blank">cmason@frontiernetworks.ca</a>> wrote:<u></u><u></u></p><p class="MsoNormal">I have run into this issue with greater than 55 resources when using pcs-0.9.90-2.el6.centos.2.noarch.<br><br>The other workaround is to run the pcs command with --debug. Take the whole XML text that pcs is trying to run cibadmin with and place it into a text file. Now convert the cibadmin command from --xml-text (-X) to --xml-file (-x) and use the XML file you just created. Fixed.<br><span style="color:#888888"><br><span>Colin</span></span><u></u><u></u></p><div><div><p class="MsoNormal" style="margin-bottom:12.0pt"><br>-----Original Message-----<br>From: Chris Feist [mailto:<a href="mailto:cfeist@redhat.com" target="_blank">cfeist@redhat.com</a>]<br>Sent: Monday, July 21, 2014 11:14 AM<br>To: K Mehta<br>Cc: The Pacemaker cluster resource manager<br>Subject: Re: [Pacemaker] Cannot create more than 27 multistate resources<br><br>On 07/21/2014 05:22 AM, Andrew Beekhof wrote:<br>> Chris,<br>><br>> Does the error below mean anything to you?<br>> This seems to be happening once the CIB reaches a certain size, but is on the client side and possibly before the pacemaker tools are invoked.<br><br>I grabbed your debug file and did some tests and it looks like the issue is caused by earlier version of pcs (0.9.90 is affected) which try to pass the entire cib on the command line to cibadmin.  This has been fixed upstream (and should be built in the next release of RHEL/CentOS).<br><br>As a workaround, you can use the upstream sources here:<br><a href="https://github.com/feist/pcs" target="_blank">https://github.com/feist/pcs</a> (just run pcs from the directory that is cloned).<br><br>Thanks!<br>Chris<br><br>><br>> On 9 Jul 2014, at 6:49 pm, K Mehta <<a href="mailto:kiranmehta1981@gmail.com" target="_blank">kiranmehta1981@gmail.com</a>> wrote:<br>><br>>> [root@vsanqa11 ~]# pcs resource create<br>>> vha-3de5ab16-9917-4b90-93d2-7b04fc71879c<br>>> ocf:heartbeat:vgc-cm-agent.ocf<br>>> cluster_uuid=3de5ab16-9917-4b90-93d2-7b04fc71879c op monitor<br>>> role="Master" interval=30s timeout=100s op monitor role="Master"<br>>> interval=30s timeout=100s<br>>><br>>><br>>> pcs status output includes<br>>>   vha-3de5ab16-9917-4b90-93d2-7b04fc71879c       (ocf::heartbeat:vgc-cm-agent.ocf):      Started vsanqa11<br>>><br>>><br>>> [root@vsanqa11 ~]# pcs resource master<br>>> ms-3de5ab16-9917-4b90-93d2-7b04fc71879c<br>>> vha-3de5ab16-9917-4b90-93d2-7b04fc71879c meta clone-max=2<br>>> globally-unique=false target-role=started<br>>> Error: unable to locate command: /usr/sbin/cibadmin<br>>><br>><br>><br>> Looking in the logs, I see:<br>><br>> Jul 12 11:18:24 vsanqa11 cibadmin[7966]:   notice: crm_log_args: Invoked: /usr/sbin/cibadmin -c -R --xml-text <crm_config>#012  <cluster_property_set id="cib-bootstrap-options">#012    <nvpair id="cib-bootstrap-options-dc-version" name="dc-version" value="1.1.10-14.el6_5.2-368c726"/>#012    <nvpair id="cib-bootstrap-options-cluster-infrastructure" name="cluster-infrastructure" value="cman"/>#012    #012    <nvpair id="cib-bootstrap-options-no-quorum-policy" name="no-quorum-policy" value="ignore"/>#012  <nvpair id="cib-bootstrap-options-stonith-enabled" name="stoni<br>><br>> But am I right in thinking that this that doesn't look like the result of a pcs command?<br>><br>> Kiran: Can you give us more information on the other commands you're running?<br>><br><br><u></u><u></u></p></div></div><div><div><p class="MsoNormal">_______________________________________________<br>Pacemaker mailing list: <a href="mailto:Pacemaker@oss.clusterlabs.org" target="_blank">Pacemaker@oss.clusterlabs.org</a> <a href="http://oss.clusterlabs.org/mailman/listinfo/pacemaker" target="_blank">http://oss.clusterlabs.org/mailman/listinfo/pacemaker</a><br><br>Project Home: <a href="http://www.clusterlabs.org" target="_blank">http://www.clusterlabs.org</a> Getting started: <a href="http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf" target="_blank">http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf</a><br>Bugs: <a href="http://bugs.clusterlabs.org" target="_blank">http://bugs.clusterlabs.org</a><u></u><u></u></p></div></div></div><p class="MsoNormal"><u></u> <u></u></p></div></div></div></div></div></blockquote></div><br></div>