受到李立三、王明批判
  1927年末，共產黨人發動的廣州起義失敗。1928年初，在李立三的實際主持下，廣東省委在香港召開會議，總結廣州起義的問題。李立三不符合事實地把這次起義說得一無是處，而「任紅軍總司令職務」的葉挺因「表示消極，應予以留黨察看6個月的處分」。後來，因中共中央不同意,廣東省委才撤銷了處分決定。
  此時,共產黨在香港的一些機關接連遭到破壞，香港當局應國民黨政府要求,加緊搜捕共產黨人。因起義失敗而撤退到香港的葉挺更是成為他們抓捕的重點對象。經組織同意，1928年初，葉挺離開香港到馬來西亞吉隆玻山區親友處躲避一下風頭。
  到達馬來西亞後的一天，當地一名流氓突然闖進葉挺的住處，向他勒索錢款,並聲稱如不答應的話，就要向當局告密。葉挺裝做若無其事的樣子，鎮靜地回答說:「你要錢沒有問題。請坐一會，我進去取款給你。」那流氓信以為真，在外面坐著等候。葉挺走到屋後，扒開籬笆，機智地跑上了山。
  4、5月間，葉挺接到黨中央和關心他的一些同志的通知，要他到蘇聯去休養治病。6月間，葉挺趕到莫斯科。在莫斯科，他給黨組織寫了一份關於廣州起義經驗教訓的報告，認為當時在廣州這樣的大城市舉行武裝起義是很難取得徹底勝利的。他還認為,起義後部隊應及時撤離,轉移到海陸豐與彭湃領導的農民運動相結合。
  這時，中共六大在莫斯科召開，葉挺的報告受到了米夫、王明集團的嚴厲批評與無情打擊。王明僅憑個人主觀臆測，就無理斥罵和攻擊葉挺，斥責他「政治動搖」。
  窮困中得宋慶齡幫助
  對於這些不符合事實的無理指責，葉挺感到極其的苦悶和彷徨，國內暫時是不能回去了，南京政府還在通緝他這個「反叛要犯」。大革命失敗之後，不少有志之士前往歐洲考察,葉挺決定步他們的後塵。於是，他便獨自離開莫斯科,離開黨組織赴徳，開始了十年艱苦漫長的漂泊流亡生活。
  關於這次出走，葉挺在抗戰時期曾多次表示這是他「一生的遺憾」。1946年他重新加入共產黨時也說過：「那時黨內清算中國革命失敗的問題,我覺得有些脫離事實。同時因失敗情緒的影響，與國民黨、共產黨都脫離了關係。」實踐證明，當時對於葉挺的無情指責與打擊，是完全錯誤的。周恩來後來曾就此強調指岀：「這件事我們應該給葉挺伸冤。」
  葉挺的流亡生活，前段時間主要是在德國和法國度過的。期間，他經濟困難，生活十分清貧，不時要出外做些短工,秋天就去鄉下幫人釆摘果子，這樣才能賺些錢來維持生活。
  當時宋慶齡在蘇聯，聽說葉挺的日子比較困難，曾主動寄錢接濟他。1929年5月，宋慶齡從蘇聯途經柏林回國時,特意抽空與葉挺見面，對他的情況十分關心,這使葉挺十分感激。
  剛到德國時的葉挺十分消沉，甚至打算從此再不涉足政治,放棄曾經引為驕傲的軍事專長,轉而從事徳文著作的翻譯和著述，以此為國家做些貢獻，同時作為謀生手段。在這種思想支配下，葉挺在柏林加入了一個提倡素食的流派，大有超脫塵世、修身養性之意。不久,在莫斯科參加完中共六大的周恩來取道歐洲回國，在柏林見到了葉挺，誠摯地與他交談，講了好多道理,最後批評他:「總不能放棄革命不幹。」周恩來的一番話,讓葉挺明白了幹革命在遭遇不公平對待的時候，既不能意氣用事，更不能消極沉淪。
  回祖國投身抗戰
  葉挺思想上的變化,給他增添了新的動力，使他又重新關心起祖國的革命事業，並主動與當時正在德國的廖承志等人來往。國民黨知悉葉挺流亡德國，也曾利用各種關係利誘他回國為其服務,但葉挺斷然拒絕了。葉挺還經常到圖書館等處翻閱報刊資料，進一步學習新的軍事科學,掌握有關工兵等方面的知識,研究爆破技術，準備日後有機會時再返回祖國大顯身手。
  1932年秋，葉挺離開德國，回到澳門（彼時尚未回歸），日子依然相當清貧,要靠一些老朋友接濟，以及靠借債或典當才能度日。1933年秋冬，蔡廷錯、蔣光鼐發動「福建事變」，派人到澳門邀請葉挺前往福建共事，葉挺欣然應允。
  在福州期間，葉挺協助蔡、蔣等進行福建事變的籌畫工作。「福建事變」於1934年1月宣告失敗，葉挺只好返回澳門，不久赴港，加入了李濟深、陳銘樞等組織的中華民族革命同盟。
  1937年7月，全面抗戰爆發，國共兩黨再次合作。在中共的邀請下，葉挺同意出任新四軍軍長，結束了海外流亡生涯,踏上了抗戰的征程。