粉碎“四人幫”的籌劃，在毛澤東病重後便已經開始。據聶榮臻元帥和海軍司令員蕭勁光大將的回憶，都提到他們此時便向中共中央副主席中僅剩下的老帥葉劍英提出此事。聶榮臻還提到，此時在總參主持工作的副總參謀長楊成武在其中起到了重要的聯絡作用。蕭勁光在回憶錄中，也提到此事說：

為此，我曾兩次找到葉劍英同志。第一次是在得知毛澤東同志病危的消息以後，我預料江青、張春橋一夥在毛主席身後會有動作，他們會借毛主席的名義幹不可告人的篡權勾當.我到葉劍英同志處，與他深談過這件事。葉劍英同志比我更知底細。他肯定了我的判斷。我說，得想個辦法把這些傢夥搞掉，不然毛主席身後讓他們掌了權，黨和國家就糟糕了。葉釗英同志深深地點了點頭，他也正在考慮著這個關系黨和國家前途和命運的大事。我還向葉劍英同志建議說，下命令調集軍隊，採取分割圍殲的辦法，把江青、張春橋等抓起來。葉劍英同志沉思良久，擺了擺手說.主席病重，現在還不是時機。

十月六日上午，我又一次驅車來到葉劍英同志家裏，訴說了自己看了近兩天來報紙上宣傳的毛主席臨終囑咐的文章後夜不能寐的心情，把自己對時局的看法和盤托出。我說，事不宜遲，如果再不動手，江青、張春橋等人就要動手。如果黨和國家的最高領導權落到他們手裏，就要走大彎路了。葉劍英同志堅毅地告訴我說，正在採取措施解決這個問題。

當時的葉劍英，的確是軍隊中廣大幹部的希望所寄。這一年2月間毛澤東在病重中批發的中央文件通知:“在葉劍英生病期間”不讓他主持軍委日常工作，由兩年前從沈陽軍區調來的陳錫聯主持。由於當時毛澤東已病重且言語不清，從遼甯來的毛遠新擔任了對外的聯絡員。這份文件的意思，明顯是想讓毛遠新對軍隊施加影響。盡管如此，可是葉帥仍像磁石一樣，吸引著廣大幹部。

這種用中央文件形式，異乎尋常地發出葉劍英“生病”的通知，在軍隊歷史上是前所未有的，引起嚴重的反響。有些軍隊領導同志以為葉劍英病情嚴重，紛紛寫信或打電話詢問，當他們知道葉劍英身體仍健康時，便恍然大悟，方知所謂“生病”通知的特殊用意。關心黨和國家命運的解放軍高級將領，帶著憂慮經常不約而同地來到葉劍英家裏，盡管這時葉帥已經“靠邊站”。

在這種被宣佈“生病”交權的情況下，葉劍英仍分別接見了粟裕、宋時輪、韓先楚、蕭華等高級將領。他分別囑托他們要嚴密注意形勢，特別是要在各自的崗位上，注意掌握好部隊，提高警惕，防範萬一。在毛澤東去世前後，主持軍委日常工作的陳錫聯也服從葉劍英指揮，並與推薦他到中央來的毛遠新實際上劃清了界限，對於粉碎“四人幫”也起到了作用。“文化大革命”期間，陳錫聯在遼寧乃至整個東北受那個“東北太上皇”毛遠新的驅使，幹了不少錯事，由此在“文化大革命”結束後受到眾多批評並為此而辭職，不過在1976年那個關鍵時刻，他還是站對了隊。正因為如此，鄧小平後來在提出要陳錫聯檢討的同時，還是肯定了他過去的功績，中央顧問委員會仍安排他擔任了常委。陳錫聯在暮年發表的回憶錄中，特別提到了鄧小平對他的評價，那就是知道他是“沒有野心的”，“是不會造反的人”。

1976年夏天，是一個“山雨欲來風滿樓”的時刻，眾多在“文化大革命”中受到迫害的老將軍們住在301醫院。都憂心忡忡地關注著黨和國家的命運。原北京衛戍區司令員傅崇碧從獄中出來以後，長期住在這裏。有一天，他受老同志們之托，來到西山探望葉帥。剛走進客廳，還沒開口，葉劍英就轉過身來，伸出手，向他走來。

“葉帥，您身體很好噢!有人造謠，說您生了病！”

據傅崇碧回憶說，葉劍英一面向沙發走來，一邊幽默地說:“崇碧，我們是同案喲!我是二月逆流，你是為二月逆流翻案的楊余傅，我是楊余傅事件的後臺!”

傅崇碧當時憂慮地說:“欲加之罪，何患無詞。我差點被他們整死!”

“鹿死誰手，等著瞧吧!”葉劍英當時大聲地說著，隨即開懷大笑起來。傅崇碧看到葉帥很高興，一定是有什麼底牌。便連忙詢問。

這時葉劍英舉起右手，微笑地伸出四個指頭。他胸有成竹地講了四句話，精闢地分析出當前的形勢:

“一、不要緊，他們沒有抓到我們什麼東西；二、他們積怨甚多；三、要進行鬥爭；四、要講究方法。”講完這話。葉劍英突然從沙發前站起來，來到大玻璃窗前的一架鋼琴旁邊，興奮地拉開琴蓋，彈起鋼琴來，真是一副儒將的氣度。傅崇碧看到這一情景，心中馬上有數，說了聲“葉帥，祝您健康長壽”，便告辭回到301醫院。

回到醫院的傅崇碧，立刻把會見葉帥的所見所聞。報告給斷腿重傷的羅瑞卿和聚攏過來的其他老將們，寂靜的病房裏頓時喧嚷沸騰起來。

“幹吧，老子准備再拼一次!”

“他們抓了我們一次，坐了幾年監，難道我們還要吃二遍苦嗎？”

“老傢夥們，做好准備，拿起武器!”

當時各大軍區的主要領導經過1975年鄧小平主持的調整後，都明顯地站在江青一夥的對立面。海軍、空軍、二炮和總參、總政和總後的領導也是同樣的態度。作為共和國支柱的人民解放軍完全站在反對“四人幫”一邊。這為十月的勝利提供了最重要的保証。