<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-2022-jp">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Aptos;}
@font-face
        {font-family:"\@SimSun";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        font-size:12.0pt;
        font-family:"Aptos",sans-serif;
        mso-ligatures:standardcontextual;
        mso-fareast-language:EN-US;}
p.MsoListParagraph, li.MsoListParagraph, div.MsoListParagraph
        {mso-style-priority:34;
        margin-top:0cm;
        margin-right:0cm;
        margin-bottom:0cm;
        margin-left:36.0pt;
        font-size:12.0pt;
        font-family:"Aptos",sans-serif;
        mso-ligatures:standardcontextual;
        mso-fareast-language:EN-US;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Aptos",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        mso-fareast-language:EN-US;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-IN" link="#467886" vlink="#96607D" style="word-wrap:break-word">
<div class="WordSection1">
<p class="MsoNormal">Thanks for the quick response and for offering to dig into this. Answers to your points below.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>The OCF agent and its configuration:<o:p></o:p></b></p>
<p class="MsoNormal">The failing resource is a lightly modified copy of the standard upstream "Dummy" OCF agent (resource-agents Dummy). For reproduction, the key point is that the start action is forced to fail. Below is how start/stop and the action dispatcher
 look in our agent.<o:p></o:p></p>
<p class="MsoListParagraph"><o:p> </o:p></p>
<p class="MsoNormal">start - deliberately returns a generic error after a fixed sleep (the real systemctl-based start logic is present but sits after the exit, so it is not reached while we are reproducing the failure):<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">start() {<o:p></o:p></p>
<p class="MsoListParagraph">        ocf_log info "Initiating ESAFMA component start"<o:p></o:p></p>
<p class="MsoListParagraph">        sleep 20<o:p></o:p></p>
<p class="MsoListParagraph">        ocf_log warn "Unable to start ESAFMA component"<o:p></o:p></p>
<p class="MsoListParagraph">        exit $OCF_ERR_GENERIC                 # start always returns 1<o:p></o:p></p>
<p class="MsoListParagraph"><o:p> </o:p></p>
<p class="MsoListParagraph">        # --- normal start logic (not reached in this failure scenario) ---<o:p></o:p></p>
<p class="MsoListParagraph">        systemctl start esafma.service<o:p></o:p></p>
<p class="MsoListParagraph">        sleep 10<o:p></o:p></p>
<p class="MsoListParagraph">        output=$(systemctl is-active esafma.service)<o:p></o:p></p>
<p class="MsoListParagraph">        if [ "$output" = "active" ]; then<o:p></o:p></p>
<p class="MsoListParagraph">            PID_COUNT=$(systemctl show --property MainPID --value esafma.service)<o:p></o:p></p>
<p class="MsoListParagraph">            echo "$PID_COUNT" > /opt/occ/var/pid/esafma.pid<o:p></o:p></p>
<p class="MsoListParagraph">            ocf_log info "ESAFMA component started successfully"<o:p></o:p></p>
<p class="MsoListParagraph">            return $OCF_SUCCESS<o:p></o:p></p>
<p class="MsoListParagraph">        else<o:p></o:p></p>
<p class="MsoListParagraph">            ocf_log warn "Unable to start ESAFMA component"<o:p></o:p></p>
<p class="MsoListParagraph">            exit $OCF_ERR_GENERIC<o:p></o:p></p>
<p class="MsoListParagraph">        fi<o:p></o:p></p>
<p class="MsoNormal">             }<o:p></o:p></p>
<p class="MsoListParagraph"><o:p> </o:p></p>
<p class="MsoNormal">stop - normal systemctl-based stop:<o:p></o:p></p>
<p class="MsoNormal">stop() {<o:p></o:p></p>
<p class="MsoListParagraph">        ocf_log info "Initiating ESAFMA component stop"<o:p></o:p></p>
<p class="MsoListParagraph">        systemctl stop esafma.service<o:p></o:p></p>
<p class="MsoListParagraph">        sleep 10<o:p></o:p></p>
<p class="MsoListParagraph">        output=$(systemctl is-active esafma.service)<o:p></o:p></p>
<p class="MsoListParagraph">        if [ "$output" != "active" ]; then<o:p></o:p></p>
<p class="MsoListParagraph">            rm -f /opt/occ/var/pid/esafma.pid<o:p></o:p></p>
<p class="MsoListParagraph">            ocf_log info "ESAFMA component stopped successfully"<o:p></o:p></p>
<p class="MsoListParagraph">            return $OCF_SUCCESS<o:p></o:p></p>
<p class="MsoListParagraph">        else<o:p></o:p></p>
<p class="MsoListParagraph">            ocf_log warn "Unable to stop ESAFMA component"<o:p></o:p></p>
<p class="MsoListParagraph">            exit $OCF_ERR_GENERIC<o:p></o:p></p>
<p class="MsoListParagraph">        fi<o:p></o:p></p>
<p class="MsoNormal">            }<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">monitor - normal pidfile/systemctl-based check (reports running / not-running / error). It is not really relevant to this reproduction because start never succeeds, so the resource is never up:
<o:p></o:p></p>
<p class="MsoNormal">monitor() {<o:p></o:p></p>
<p class="MsoNormal">        PIDFILE="/opt/occ/var/pid/esafma.pid"<o:p></o:p></p>
<p class="MsoNormal">        if [ -n "$PIDFILE" -a -f "$PIDFILE" ]; then<o:p></o:p></p>
<p class="MsoNormal">            PID=$(cat "$PIDFILE")<o:p></o:p></p>
<p class="MsoNormal">            if [ -n "$PID" ]; then<o:p></o:p></p>
<p class="MsoNormal">                timeout 90s ps -f --pid $PID<o:p></o:p></p>
<p class="MsoNormal">                rc=$?<o:p></o:p></p>
<p class="MsoNormal">                case $rc in<o:p></o:p></p>
<p class="MsoNormal">                    0) ocf_log info "ESAFMA component is running with $PID number"<o:p></o:p></p>
<p class="MsoNormal">                       return $OCF_SUCCESS ;;<o:p></o:p></p>
<p class="MsoNormal">                    1) ocf_log err  "ESAFMA component is not running"<o:p></o:p></p>
<p class="MsoNormal">                       return $OCF_NOT_RUNNING ;;<o:p></o:p></p>
<p class="MsoNormal">                    *) ocf_log warn "System command failed with $rc return code"<o:p></o:p></p>
<p class="MsoNormal">                       return $OCF_ERR_GENERIC ;;<o:p></o:p></p>
<p class="MsoNormal">                esac<o:p></o:p></p>
<p class="MsoNormal">            fi<o:p></o:p></p>
<p class="MsoNormal">        fi<o:p></o:p></p>
<p class="MsoNormal">    }<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">action dispatcher:<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">    case $__OCF_ACTION in<o:p></o:p></p>
<p class="MsoNormal">        meta-data)    meta_data; exit $OCF_SUCCESS ;;<o:p></o:p></p>
<p class="MsoNormal">        start)        start ;;<o:p></o:p></p>
<p class="MsoNormal">        stop)        stop ;;<o:p></o:p></p>
<p class="MsoNormal">        monitor)      monitor ;;<o:p></o:p></p>
<p class="MsoNormal">        validate-all) validate ;;<o:p></o:p></p>
<p class="MsoNormal">        *)            usage; exit $OCF_ERR_UNIMPLEMENTED ;;<o:p></o:p></p>
<p class="MsoNormal">    esac<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">The metadata is the stock metadata (start/stop/monitor timeout=20, monitor interval=10).<o:p></o:p></p>
<p class="MsoNormal">To reproduce on a stock system you only need to take the upstream agent, make its start action "sleep 20; exit $OCF_ERR_GENERIC" (OCF_ERR_GENERIC=1), install it as an OCF agent (e.g /usr/lib/ocf/resource.d/provider/ESAFMA_RA, class=ocf,
 provider=provider, type=ESAFMA_RA), and configure the primitive with the operation timeouts/thresholds already shared in the original report. Pacemaker then loops stop -> start -> stop roughly every 30s.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>on-fail / failure-handling configuration:<o:p></o:p></b></p>
<p class="MsoNormal">On the unaffected node (Pacemaker 2.1.6) we run exactly the same configuration - on-fail=restart, same timeouts and thresholds - and it works correctly: the resource is marked FAILED and the cluster stays up. Since only the Pacemaker version
 differs between the two nodes. If there is no fix or alternative available, we will try the on-fail=stop workaround.
<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>Other 3.0.x releases:<o:p></o:p></b></p>
<p class="MsoNormal">We haven't tried other 3.0.x releases yet. We'll try to reproduce on 3.0.1 and let you know.
<o:p></o:p></p>
<p class="MsoNormal">For reference:<o:p></o:p></p>
<p class="MsoNormal">  - affected node:   Pacemaker 3.0.3-1.el8, corosync 3.1.10, pcs 0.12.3.1<o:p></o:p></p>
<p class="MsoNormal">  - unaffected node: Pacemaker 2.1.6-1.el8, corosync 3.1.7,  pcs 0.10.16<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks and Regards,<br>
S Sathish S<o:p></o:p></p>
</div>
</body>
</html>