“北大紅樓兩巨人，紛傳北李與南陳，孤松獨秀如椽筆，日月雙懸照古今。北李南陳，兩大星辰；茫茫黑夜，吾輩仰辰。”（后四句有不同版本）“南陳”，就是陳獨秀；“北李”，就是李大釗。陳獨秀和李大釗早年就投身于反帝反封建運動，1915年后領導了新文化運動，也是五四愛國運動的重要領袖。

1920年初，為躲避反動軍閥政府的迫害，陳獨秀從北京秘密轉移到上海。李大釗不顧個人安危，護送他出京，在途中共商建黨大計，留下了“南陳北李，相約建黨”的佳話。1920年3月，李大釗發起成立北京大學馬克思學說研究會。

1920年4月，共產國際和俄共（布）中央派出以維經斯基為首的代表團到達北京，同李大釗、陳獨秀多次交談，商討在中國建黨的問題。他們在了解情況后認為，中國已經具備建立共產黨的條件，并對李大釗和陳獨秀的建黨工作給予了極大幫助。李大釗與陳獨秀經常通信相商建黨事宜，同時在北方和南方從事建黨的籌備工作。

陳獨秀在上海以《新青年》為陣地宣傳馬克思主義，并直接深入到群眾中，支持和參與工人運動。1920年5月，陳獨秀組織了馬克思主義研究會。在此基礎上，1920年6月，陳獨秀與李漢俊、俞秀松、施存統等人開會商議，決定建立共產黨組織，初步定名為社會共產黨，還起草了一個簡單的黨綱。關于黨的名稱，陳獨秀征求李大釗的意見，李大釗主張定名為“共產黨”，陳獨秀表示完全同意。經過醞釀和準備，上海的共產黨早期組織于1920年8月在上海法租界老漁陽里2號《新青年》編輯部正式成立，取名為“中國共產黨”。這是中國的第一個共產黨組織，陳獨秀為書記，其成員包括李漢俊、俞秀松、陳望道、施存統、李達、沈雁冰、林祖涵、沈澤民等。陳獨秀把《新青年》作為黨的公開宣傳刊物，同時創辦《共產黨》月刊作為黨的秘密宣傳刊物。1920年12月，陳獨秀赴廣州任職。

經過一系列準備工作，北京的共產黨早期組織于1920年10月在北京大學圖書館李大釗的辦公室正式成立，當時取名為“共產黨小組”，最初成員只有李大釗、張申府、張國燾三人。1920年底，北京黨組織召開會議，決定成立“共產黨北京支部”，由李大釗任書記，陸續發展一些成員，包括羅章龍、劉仁靜、鄧中夏、高君宇、何孟雄、張太雷等。

在南方的陳獨秀以上海、廣州為中心，在北方的李大釗以北京為中心，分別發動，又互相聯系，為建立無產階級政黨而積極工作。他們通過寫信聯系、派人指導或具體組織等方式，積極推動濟南、武漢、長沙、廣州等地及旅法、旅日黨組織的建立。北方各地黨組織的創建都和李大釗有關系，南方各地黨組織的創建都和陳獨秀有關系。“南陳北李，相約建黨”把革命的火種從北京點燃到上海，又傳播到全國各地乃至海外，形成星火燎原之勢。毛澤東在和斯諾談話中曾說：“一九二一年五月，我到上海去出席中國共產黨成立大會。在這個大會的組織上，起領導作用的是陳獨秀和李大釗，他們兩人都是中國最有才華的知識界領袖。”雖然陳獨秀和李大釗都沒有參加黨的一大，但他們是中國共產黨公認的主要創始人和領導人。