1898年3月5日生,字翔宇。小名,大鸞。曾用名飛飛、伍豪、少山、冠生等。原籍浙江紹興,生于江蘇淮安。1913年進天津南開中學學習。1917年留學日本。1919年回國。在天津參加五四運動,組織覺悟社,從事反帝、反封建的革命活動。1920年至1924年先后去法國和德國勤工儉學,在旅歐的中國學生和工人中宣傳馬克思主義,發起組織旅歐中國少年共產黨(后改稱旅歐中國社會主義青年團)。1921年轉入中國共產黨(由張申府等人介紹),任中國社會主義青年團旅歐總支部書記,并參加中共旅歐總支部的領導工作,對早期的建黨、建團工作起了重大的作用。1924年8月從巴黎回國,曾任黃埔軍校政治部主任,國民革命軍第一軍政治部主任,中共兩廣區委委員長、常委兼軍事部部長,主持建立黨直接領導的革命武裝葉挺獨立團。

1925年2月、10月,領導進行了第一、二次東征,為鞏固和發展廣東革命根據地和進行北伐作出了重大貢獻。1926年曾在廣州農民運動講習所講授軍事課程,同年冬到上海,任中共中央軍委書記兼中共江浙區委軍委書記。1927年3月領導上海工人第三次武裝起義獲得勝利;8月領導了南昌起義,向國民黨反動派打響了第一槍,為創建人民軍隊作出了重要貢獻,在起義中任中共前敵委員會書記。同月在中共“八七”會議上,當選為中央政治局候補委員。1928年出席黨的六大,在會上作了關于軍事問題和組織問題的報告。后在上海堅持地下工作,任中共中央組織部長、中央軍委書記,曾發表《堅決肅清黨內一切非無產階級的意識》和《中共中央給紅軍第四軍前委的指示信》。1931年12月進入中央革命根據地后,任中共蘇區中央局書記,中國工農紅軍總政委兼第一方面軍政委,中央革命軍事委員會副主席。1933年春和朱德一起領導和指揮了第四次反“圍剿”戰爭,取得了重大的勝利。1935年1月在遵義會議上,堅決支持毛澤東的正確路線,為確立毛澤東在全黨的領導地位,起了十分重要的作用。在遵義會議后,仍任中央革命軍事委員會副主席,并任中央三人軍事指揮小組成員。