<div dir="ltr">Thanks, Emmanuel.  After some trial and error, I ended up changing the order constraints, and that seemed to solve the problem.  This new configuration works:<div><br></div><div><div>    <constraints></div>

<div>      <rsc_colocation id="drbd-nfs-ha" rsc="ms-drbd_r0" rsc-role="Master" score="INFINITY" with-rsc="nfs_resources"/></div><div>      <rsc_order first="ms-drbd_r0" first-action="promote" id="drbd-before-nfs" score="INFINITY" then="nfs_fs" then-action="start"/></div>

<div>      <rsc_order first="nfs_fs" first-action="start" id="fs-before-ip" score="INFINITY" then="nfs_ip" then-action="start"/></div><div>      <rsc_order first="nfs_ip" first-action="start" id="ip-before-nfs" score="INFINITY" then="nfs" then-action="start"/></div>

<div>    </constraints></div></div></div><div class="gmail_extra"><br><br><div class="gmail_quote">On Mon, Sep 23, 2013 at 6:06 PM, emmanuel segura <span dir="ltr"><<a href="mailto:emi2fast@gmail.com" target="_blank">emi2fast@gmail.com</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">i'm not sure if this is the problem, but i think you only need one order constrain like this<br><br>

<rsc_order first="ms-drbd_r0" first-action="promote" id="drbd-before-nfsgroup" 
score="INFINITY" then="nfs_resources" then-action="start"/><br></div><div class="gmail_extra"><br><br><div class="gmail_quote">2013/9/23 David Parker <span dir="ltr"><<a href="mailto:dparker@utica.edu" target="_blank">dparker@utica.edu</a>></span><br>


<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5"><div dir="ltr"><div>Hello,</div><div><br></div><div>I'm attempting to set up a simple NFS failover test using Pacemaker and DRBD on 2 nodes.  The goal is to have one host be the DRBD master, and have the volume mounted, the NFS server running, and a virtual IP address up.  The other node is the DRBD slave with no NFS services or virtual IP running.  The DRBD resource is configured in master-slave (not dual-master) mode and seems to work fine when it's not being controlled by Pacemaker.</div>




<div><br></div><div>The problem is that both nodes start out as DRBD slaves, and neither node gets promoted:</div><div><br></div><div><div># crm_mon -1</div><div>============</div><div>Last updated: Mon Sep 23 14:39:12 2013</div>




<div>Last change: Mon Sep 23 14:26:15 2013 via cibadmin on test-vm-1</div><div>Stack: openais</div><div>Current DC: test-vm-1 - partition with quorum</div><div>Version: 1.1.7-ee0730e13d124c3d58f00016c3376a1de5323cff</div>




<div>2 Nodes configured, 2 expected votes</div><div>5 Resources configured.</div><div>============</div><div><br></div><div>Online: [ test-vm-1 test-vm-2 ]</div><div><br></div><div> Master/Slave Set: ms-drbd_r0 [drbd_r0]</div>




<div>     Slaves: [ test-vm-1 test-vm-2 ]</div></div><div><br></div><div>If I try to force a promotion with "crm resource promote ms-drbd_r0" I get no output, and I see this line in the log:</div><div><br></div>




<div>cib: [27320]: info: cib_process_request: Operation complete: op cib_modify for section resources (origin=local/crm_resource/4, version=0.65.43): ok (rc=0)<br></div><div><br></div><div>However, "crm_mon -1" still shows that both nodes are slaves.  I have a constraint such that the NFS resources will only run on the DRBD master, and a node will only get promoted to master once the virtual IP is started on it.  I suspect that the IP is not starting and that's holding up the promotion, but I can't figure out why the IP wouldn't start.  Looking in the log, I see a bunch of pending actions to start the IP, but they're not actually firing:</div>




<div><br></div><div><div># grep 'nfs_ip' /var/log/cluster/corosync.log</div><div>Sep 23 14:28:24 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1 - blocked)</div><div>Sep 23 14:28:24 test-vm-1 crmd: [27325]: info: te_rsc_command: Initiating action 6: monitor nfs_ip_monitor_0 on test-vm-1 (local)</div>




<div>Sep 23 14:28:24 test-vm-1 lrmd: [27322]: info: rsc:nfs_ip probe[4] (pid 27398)</div><div>Sep 23 14:28:25 test-vm-1 lrmd: [27322]: info: operation monitor[4] on nfs_ip for client 27325: pid 27398 exited with return code 7</div>




<div>Sep 23 14:28:25 test-vm-1 crmd: [27325]: info: process_lrm_event: LRM operation nfs_ip_monitor_0 (call=4, rc=7, cib-update=28, confirmed=true) not running</div><div>Sep 23 14:28:27 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1)</div>




<div>Sep 23 14:28:27 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 7]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:28:27 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 8]: Pending (id: nfs_ip_monitor_10000, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:28:27 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 7]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:28:27 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 7]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:28:27 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 7]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:28:33 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1)</div>




<div>Sep 23 14:28:33 test-vm-1 crmd: [27325]: info: te_rsc_command: Initiating action 7: monitor nfs_ip_monitor_0 on test-vm-2</div><div>Sep 23 14:28:36 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1)</div>




<div>Sep 23 14:28:37 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1)</div><div>Sep 23 14:28:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:28:37 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 9]: Pending (id: nfs_ip_monitor_10000, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:28:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:28:37 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:28:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:43:37 test-vm-1 pengine: [27324]: notice: LogActions: Start   nfs_ip  (test-vm-1)</div><div>Sep 23 14:43:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:43:37 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 9]: Pending (id: nfs_ip_monitor_10000, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:43:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




<div>Sep 23 14:43:37 test-vm-1 crmd: [27325]: WARN: print_elem:     [Action 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div><div>Sep 23 14:43:37 test-vm-1 crmd: [27325]: WARN: print_elem:      * [Input 8]: Pending (id: nfs_ip_start_0, loc: test-vm-1, priority: 0)</div>




</div><div><br></div><div>Any help will be greatly appreciated.</div><div><br></div><div>The relevant portion of my CIB is below:</div><div><br></div><div>  <configuration></div><div>    <crm_config></div><div>




      <cluster_property_set id="cib-bootstrap-options"></div><div>        <nvpair id="cib-bootstrap-options-dc-version" name="dc-version" value="1.1.7-ee0730e13d124c3d58f00016c3376a1de5323cff"/></div>




<div>        <nvpair id="cib-bootstrap-options-cluster-infrastructure" name="cluster-infrastructure" value="openais"/></div><div>        <nvpair id="cib-bootstrap-options-expected-quorum-votes" name="expected-quorum-votes" value="2"/></div>




<div>        <nvpair id="cib-bootstrap-options-stonith-enabled" name="stonith-enabled" value="false"/></div><div>        <nvpair id="cib-bootstrap-options-maintenance-mode" name="maintenance-mode" value="false"/></div>




<div>        <nvpair id="cib-bootstrap-options-no-quorum-policy" name="no-quorum-policy" value="ignore"/></div><div>      </cluster_property_set></div><div>    </crm_config></div>




<div>    <nodes></div><div>      <node id="test-vm-1" type="normal" uname="test-vm-1"/></div><div>      <node id="test-vm-2" type="normal" uname="test-vm-2"/></div>




<div>    </nodes></div><div>    <resources></div><div>      <group id="nfs_resources"></div><div>        <meta_attributes id="nfs_resources-meta_attributes"></div><div>          <nvpair id="nfs_resources-meta_attributes-target-role" name="target-role" value="Started"/></div>




<div>        </meta_attributes></div><div>        <primitive class="ocf" id="nfs_fs" provider="heartbeat" type="Filesystem"></div><div>          <instance_attributes id="nfs_fs-instance_attributes"></div>




<div>            <nvpair id="nfs_fs-instance_attributes-device" name="device" value="/dev/drbd1"/></div><div>            <nvpair id="nfs_fs-instance_attributes-directory" name="directory" value="/mnt/data/"/></div>




<div>            <nvpair id="nfs_fs-instance_attributes-fstype" name="fstype" value="ext3"/></div><div>            <nvpair id="nfs_fs-instance_attributes-options" name="options" value="noatime,nodiratime"/></div>




<div>          </instance_attributes></div><div>          <operations></div><div>            <op id="nfs_fs-start-0" interval="0" name="start" timeout="60"/></div>




<div>            <op id="nfs_fs-stop-0" interval="0" name="stop" timeout="120"/></div><div>          </operations></div><div>        </primitive></div><div>        <primitive class="lsb" id="nfs" type="nfs-kernel-server"></div>




<div>          <operations></div><div>            <op id="nfs-monitor-5s" interval="5s" name="monitor"/></div><div>          </operations></div><div>        </primitive></div>




<div>        <primitive class="ocf" id="nfs_ip" provider="heartbeat" type="IPaddr2"></div><div>          <instance_attributes id="nfs_ip-instance_attributes"></div>




<div>            <nvpair id="nfs_ip-instance_attributes-ip" name="ip" value="192.168.25.205"/></div><div>            <nvpair id="nfs_ip-instance_attributes-cidr_netmask" name="cidr_netmask" value="32"/></div>




<div>          </instance_attributes></div><div>          <operations></div><div>            <op id="nfs_ip-monitor-10s" interval="10s" name="monitor"/></div><div>          </operations></div>




<div>          <meta_attributes id="nfs_ip-meta_attributes"></div><div>            <nvpair id="nfs_ip-meta_attributes-is-managed" name="is-managed" value="true"/></div>



<div>
          </meta_attributes></div><div>        </primitive></div><div>      </group></div><div>      <master id="ms-drbd_r0"></div><div>        <meta_attributes id="ms-drbd_r0-meta_attributes"></div>




<div>          <nvpair id="ms-drbd_r0-meta_attributes-clone-max" name="clone-max" value="2"/></div><div>          <nvpair id="ms-drbd_r0-meta_attributes-notify" name="notify" value="true"/></div>




<div>          <nvpair id="ms-drbd_r0-meta_attributes-globally-unique" name="globally-unique" value="false"/></div><div>          <nvpair id="ms-drbd_r0-meta_attributes-target-role" name="target-role" value="Master"/></div>




<div>        </meta_attributes></div><div>        <primitive class="ocf" id="drbd_r0" provider="heartbeat" type="drbd"></div><div>          <instance_attributes id="drbd_r0-instance_attributes"></div>




<div>            <nvpair id="drbd_r0-instance_attributes-drbd_resource" name="drbd_resource" value="r0"/></div><div>          </instance_attributes></div><div>          <operations></div>




<div>            <op id="drbd_r0-monitor-59s" interval="59s" name="monitor" role="Master" timeout="30s"/></div><div>            <op id="drbd_r0-monitor-60s" interval="60s" name="monitor" role="Slave" timeout="30s"/></div>




<div>          </operations></div><div>        </primitive></div><div>      </master></div><div>    </resources></div><div>    <constraints></div><div>      <rsc_colocation id="drbd-nfs-ha" rsc="ms-drbd_r0" rsc-role="Master" score="INFINITY" with-rsc="nfs_resources"/></div>




<div>      <rsc_order first="nfs_ip" first-action="start" id="ip-before-drbd" score="INFINITY" then="ms-drbd_r0" then-action="promote"/></div><div>      <rsc_order first="ms-drbd_r0" first-action="promote" id="drbd-before-nfs" score="INFINITY" then="nfs_fs" then-action="start"/></div>




<div>      <rsc_order first="nfs_fs" first-action="start" id="fs-before-nfs" score="INFINITY" then="nfs" then-action="start"/></div><div>    </constraints></div>




<div>    <rsc_defaults></div><div>      <meta_attributes id="rsc-options"></div><div>        <nvpair id="rsc-options-resource-stickiness" name="resource-stickiness" value="100"/></div>




<div>      </meta_attributes></div><div>    </rsc_defaults></div><div>    <op_defaults/></div><div>  </configuration></div><span><font color="#888888"><div><br></div>-- <br><div>Dave Parker</div>
Systems Administrator<br>Utica College<br>

Integrated Information Technology Services<br><a href="tel:%28315%29%20792-3229" value="+13157923229" target="_blank">(315) 792-3229</a><br>Registered Linux User #408177
</font></span></div>
<br></div></div>_______________________________________________<br>
Pacemaker mailing list: <a href="mailto:Pacemaker@oss.clusterlabs.org" target="_blank">Pacemaker@oss.clusterlabs.org</a><br>
<a href="http://oss.clusterlabs.org/mailman/listinfo/pacemaker" target="_blank">http://oss.clusterlabs.org/mailman/listinfo/pacemaker</a><br>
<br>
Project Home: <a href="http://www.clusterlabs.org" target="_blank">http://www.clusterlabs.org</a><br>
Getting started: <a href="http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf" target="_blank">http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf</a><br>
Bugs: <a href="http://bugs.clusterlabs.org" target="_blank">http://bugs.clusterlabs.org</a><br>
<br></blockquote></div><span class="HOEnZb"><font color="#888888"><br><br clear="all"><br>-- <br>esta es mi vida e me la vivo hasta que dios quiera
</font></span></div>
<br>_______________________________________________<br>
Pacemaker mailing list: <a href="mailto:Pacemaker@oss.clusterlabs.org">Pacemaker@oss.clusterlabs.org</a><br>
<a href="http://oss.clusterlabs.org/mailman/listinfo/pacemaker" target="_blank">http://oss.clusterlabs.org/mailman/listinfo/pacemaker</a><br>
<br>
Project Home: <a href="http://www.clusterlabs.org" target="_blank">http://www.clusterlabs.org</a><br>
Getting started: <a href="http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf" target="_blank">http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf</a><br>
Bugs: <a href="http://bugs.clusterlabs.org" target="_blank">http://bugs.clusterlabs.org</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div>-- <br><div>Dave Parker</div>Systems Administrator<br>Utica College<br>Integrated Information Technology Services<br>(315) 792-3229<br>Registered Linux User #408177
</div>