劉少奇與粟裕的認識較晚，是在“皖南事變”前夕的1940年。後來，劉少奇對粟裕的信任與推舉也是不遺餘力的。

“皖南事變”後，劉少奇擔任了華中局書記兼新四軍政委，成為華中戰略區的一把手，一師師長粟裕正式成為他麾下的戰將。

劉少奇在新四軍的時間並不長，一年後的1942年3月就奉毛澤東之命返回延安，成為中共中央書記處三位書記之一(毛澤東、劉少奇、任弼時)，進入了中央核心領導層。但這麼短的時間內，他就敏銳地看出了粟裕的出色才幹。

離開新四軍前的1月20日，他在華中局擴大會議總結工作吋，給予了粟裕和他的一師非同一般的評價。

粟裕與其他師長們都參加了這次會議，對這位軍部最高負責人的嘉許，他當然由衷高興，也深感任重道遠。

這時候，蘇南的新四軍六師打得不夠好，有不能立足之勢。劉少奇當即向毛澤東提議，由粟裕統二指揮一、六兩個師。

毛澤東很快予以批准，粟裕也就獨挑大樑，成為唯一同時指揮兩個師的師長。 劉少奇經過九個月長途跋涉的“小長征”後回到延安，向毛澤東詳細地匯報了自己的工作。其間，他對粟裕還贊不絕口，高興地說在華中局和新四軍工作時發現兩個人才，“一是新四軍四師政委鄧子恢，他是農村工作的專家；二是新四軍一師師長粟裕，是新四軍7個師中，打仗打得最多相最好的一個師長。”

毛澤東原本和粟裕有井岡山同吃紅米飯的淵源，劉少奇又如此力薦這位“黑馬”，自然印象就更深了。

1945年8月28日，毛澤東赴重慶與蔣介石談判，由劉少奇代理其中共中央主席一職。從這時開始到第二年春天，劉少奇一直主持中共中央工作。

這期間，在東北，劉少奇決定“迅速地、堅決地爭取東北，在東北發展我黨強大力量”，並成立了以彭真為首的東北局；在華中，他又在10月8日批准了華中局的建議，“同意粟裕留華中任司令”。

1946年8月，粟裕率華中野戰軍在蘇中取得了七戰七捷，劉少奇為這位老部下的輝煌戰果興奮不已，特意搞了一小家庭聚會，交代夫人王光美做了幾樣難得一見的好菜，邀請了朱德、彭德懷等人來喝酒，慶賀勝利。

1948年5月，毛澤東調離陳毅，讓粟裕接任其職，擔任華東野戰軍司令員兼政委（粟裕堅持謙讓後，改任代司令員兼代政委)。這一決策的運籌過程，除了戰局需要與毛澤東的信任外，劉少奇的及時建言，也起了很大的作用。

建國後，劉少奇雖然短時間兼任過軍委副主席，但主要工作在地方，不分管軍隊的具體事務，不久又相繼擔任全國人大常委會委員長、中共中央副主席、國家主席，因此與從未脫下軍裝的粟裕交往不多，但他並未忘記這位老部下。

1955年全軍授銜，在粟裕早巳提出辭帥並獲毛澤東批准後的9月9日，負責決定元帥人選的中共中央書記處(即後來的中央政治局常委，成員為毛澤東、劉少奇、周恩來、朱德、)召開會議，有關元帥軍銜授予問題成為議題之一。兩天后的晚上，中央書記處又召開會議，再次專門討論元帥軍銜授予問題。會上，劉少奇提出對陳毅授銜元帥的異議。

此前的1954年9月，陳毅被任命國務院副總理，分工為常務副總理，兼管科學院、政法、文化，並“准備做外交工作”。1955年5月，國務院再次分工，確定陳毅分管第一、第二辦公室、民族事務和科學、衛生工作。按周恩來、劉少奇、鄧小平因工作重心在地方而不授銜的標准，陳毅顯然也可以不授銜。而如果陳毅不授銜，那麼南方紅軍遊擊隊;新四軍以及華東野戰軍(三野)必然要有一位其他代表授銜元帥，時任解放軍總參謀長的粟裕將再次成為當然人選。顯然，劉少奇在給粟裕爭取授銜元帥的最後機會。

但這兩次元帥人選最後確定的會議，中央書記處五大書記之一的周恩來均因正在北戴河療養而未參加，當中央書記處委託中央辦公廳主任徵求他的意見時，周恩來主張給陳毅授元帥銜。

據《周恩來年譜》記載:“1955年9月11日，周(恩來)致函，主張給陳毅授帥，認為給陳(毅)授帥，對陳(毅)現在和將來的工作都沒什麼影響。”

周恩來還引用了蘇聯布爾加寧的例子。他說:“軍銜授予，對陳毅同志現在和將來的工作均無不便之處，平時可以不穿軍服(必要時穿)。蘇聯的布爾加甯同志也有元帥銜，現在他做部長會議主席的工作就不常用元帥的頭街廠。可以說是一個例子。”

因為周恩來的堅持，劉少奇的異議未被書記處通過，粟裕也因此與軍人的最高榮譽——元帥軍銜再次失之奪臂。