長征開始后，廣大干部、戰士眼看第五次反“圍剿”開始以來，紅軍迭次失利，現在又幾乎瀕于絕境，這與前四次反“圍剿”勝利發展的情況形成鮮明的對照。他們由此逐漸覺悟到，這是排斥以毛澤東為代表的正確領導，貫徹執行錯誤的軍事指導方針的結果。
還在中央根據地時，許多干部就對中央主要領導人在軍事指揮上的錯誤逐漸產生懷疑和不滿，一些軍團指揮員多次在作戰的電報、報告中提出批評意見，有的同志甚至同李德發生激烈的爭論。毛澤東等也多次提出自己的正確主張，但都沒有被接受。隨著長征中紅軍作戰的不斷失利，這種不滿情緒日益增長，到湘江戰役之后達到頂點。在干部特別是高級干部中，醞釀著要求糾正錯誤、改變領導的意見。許多人深感焦慮，認為不解決這個關鍵問題，黨和紅軍就難以擺脫極為被動的困境。毛澤東在行軍途中對王稼祥、張聞天及一些紅軍干部反復進行深入細致的工作，向他們分析第五次反“圍剿”和長征開始以來中央在軍事指導上的錯誤。他的正確意見得到王稼祥、張聞天等的支持。周恩來、朱德等也是支持毛澤東的。他們同博古、李德等人的分歧越來越大。從老山界到黎平，從黎平到猴場，一路展開爭論。這時，中央大部分領導人對于中央軍事指揮的錯誤問題，基本上取得一致意見。在這種形勢下，召開一次政治局會議，總結經驗教訓，糾正領導上的錯誤的條件已經成熟。
1935年1月15日至17日，中央政治局在遵義召開擴大會議(即遵義會議)。出席會議的政治局委員有毛澤東、張聞天、周恩來、朱德、陳云、博古，候補委員有王稼祥、劉少奇、鄧發、何克全(凱豐)，還有紅軍總部和各軍團負責人劉伯承、李富春、林彪、聶榮臻、彭德懷、楊尚昆、李卓然，以及中央秘書長鄧小平。李德及擔任翻譯工作的伍修權，也列席了會議。
會議首先由博古作關于反對第五次“圍剿”的總結報告。他過分強調客觀困難，把第五次反“圍剿”的失敗歸之于帝國主義、國民黨反動力量的強大，白區和各蘇區的斗爭配合不夠等，而不承認主要是由于他和李德壓制正確意見，在軍事指揮上犯了嚴重錯誤而造成的。接著，周恩來就軍事問題作副報告，他指出第五次反”圍剿“失敗的主要原因是軍事領導的戰略戰術的錯誤，并主動承擔責任，作了誠懇的自我批評，同時也批評了博古和李德。張聞天按照會前與毛澤東、王稼祥共同商量的意見，作反對”左“傾軍事錯誤的報告，比較系統地批評了博古、李德在軍事指揮上的錯誤。毛澤東接著作了長篇發言，對博古、李德在軍事指揮上的錯誤進行了切中要害的分析和批評，并闡述了中國革命戰爭的戰略戰術問題和此后在軍事上應該采取的方針。王稼祥在發言中也批評博古、李德的錯誤，支持毛澤東的正確意見。周恩來、朱德、劉少奇等多數與會同志相繼發言，不同意博古的總結報告，同意毛澤東、張聞天、王稼祥提出的提綱和意見。只有個別人在發言中為博古、李德的錯誤辯解。李德堅決不接受批評。會議最后指定張聞天起草決議，委托常委審查，然后發到支部討論。
張聞天在會后根據與會多數人特別是毛澤東發言的內容，起草了《中央關于反對敵人五次“圍剿”的總結的決議》。這個決議，在中共中央離開遵義到達云南省扎西(今威信)縣境后召開的會議上正式通過。決議充分肯定毛澤東等指揮紅軍多次取得反”圍剿“勝利所采取的戰略戰術的基本原則，明確指出博古、李德“在軍事上的單純防御路線，是我們不能粉碎敵人五次‘圍剿’的主要原因”。在敵大我小、敵強我弱的條件下，“我們的戰略路線應該是決戰防御(攻勢防御)，集中優勢兵力，選擇敵人的弱點，在運動戰中，有把握的去消滅敵人的一部或大部，以各個擊破敵人，以徹底粉碎敵人的‘圍剿’。然而在反對五次‘圍剿’的戰爭中卻以單純防御路線(或專守防御)代替了決戰防御，以陣地戰堡壘戰代替了運動戰，并以所謂’短促突擊‘的戰術原則來支持這種單純防御的戰略路線。這就使敵人持久戰與堡壘主義的戰略戰術達到了他的目的”。
決議還指出，在戰略轉變與實行突圍的問題上，博古、李德“同樣是犯了原則上的錯誤”。他們沒有及時轉變內線作戰的戰略方針，實行戰略上的退卻，以保持主力紅軍的有生力量，從而貽誤了時機。在突圍中，“基本上不是堅決的與戰斗的、而是一種驚慌失措的逃跑的以及搬家式的行動”。
決議總結了在同國民黨軍第十九路軍建立抗日統一戰線問題上的經驗教訓，指出博古、李德等根本不了解在政治上利用第十九路軍事變是粉碎第五次“圍剿”的重要關鍵之一，沒有在軍事上采取與之直接配合的方針，失去了一個寶貴的機會。
遵義會議根據變化了的情況，改變黎平會議先以黔北為中心、再去川南創建根據地的決議，決定紅軍渡過長江在成都之西南或西北地區建立根據地。會后，又根據敵情的變化，決定中央紅軍在川滇黔三省廣大地區創造新的根據地。
遵義會議改組了中央領導機構，選舉毛澤東為中央政治局常委；決定常委中再進行適當的分工；取消在長征前成立的“三人團”，仍由最高軍事首長朱德、周恩來為軍事指揮者，而周恩來是黨內委托的對于指揮軍事下最后決心的負責者。此后，在紅軍轉戰途中，2月5日在川滇黔交界的一個雞鳴三省的村子，中央政治局常委分工，根據毛澤東的提議，決定由張聞天代替博古負中央總的責任(習慣上也稱之為總書記)；決定以毛澤東為周恩來在軍事指揮上的幫助者，博古任總政治部代理主任。3月4日，中革軍委在第二次進駐遵義后設置前敵司令部，以朱德為司令員，毛澤東為政治委員。其后，鑒于作戰情況瞬息萬變，指揮需要集中，毛澤東提議成立”三人團“全權指揮軍事。3月中旬，在貴州鴨溪、茍壩一帶，成立由毛澤東、周恩來、王稼祥組成的新的”三人團“，以周恩來為團長，負責指揮全軍的軍事行動。在戰爭環境中，這是中央最重要的領導機構。
在緊急的戰爭形勢下舉行的遵義會議，沒有全面地討論政治路線方面的問題。這時，要就多年來黨的工作中所有重大問題的是非展開討論，是不可能的。中共中央對這些問題取得一致的正確認識，需要有一個過程。因此，會議決議只是一般地肯定中央的政治路線，也沒有探討造成軍事指揮錯誤的深刻的政治原因。但是，遵義會議明確地回答了紅軍的戰略戰術方面的是非問題，指出博古、李德軍事指揮上的錯誤，同時改變中央的領導特別是軍事領導，解決了黨內所面臨的最迫切的組織問題和軍事問題，結束了”左“傾教條主義錯誤在中央的統治，確立了毛澤東在中共中央和紅軍的領導地位。而這些成果，又是在中國共產黨同共產國際中斷聯系的情況下獨立自主地取得的。這次會議，在極端危急的歷史關頭，挽救了黨，挽救了紅軍，挽救了中國革命。從此，中國共產黨能夠在以毛澤東為代表的馬克思主義正確路線領導下，克服重重困難，一步步地引導中國革命走向勝利。遵義會議是黨的歷史上一個生死攸關的轉折點，它標志著中國共產黨在政治上開始走向成熟。
遵義會議后，中央紅軍重整旗鼓，振奮精神，在新的中央領導的指揮下，展開了機動靈活的運動戰。這時，蔣介石為阻止中央紅軍北進四川同紅四方面軍會合，或東出湖南同紅二、紅六軍團會合，部署其嫡系部隊和川、黔、湘、滇、桂五省地方部隊的數十萬兵力，從四面八方向遵義地區進逼，企圖在遵義一帶圍殲紅軍。1935年1月19日，中央紅軍由遵義地區北進，預定奪取川黔邊境的土城、赤水縣城，相機從四川的瀘州和宜賓之間北渡長江。蔣介石急調重兵布防于川黔邊境，封鎖長江。1月28日，紅軍在土城戰斗中因敵軍不斷增援，再戰不利，乃奉命撤出戰斗，1月29日凌晨從元厚、土城地區一渡赤水河，揮師西向進至川滇邊的扎西集中。在這里，中央紅軍進行整編，全軍除干部團外，縮編為16個團，分屬紅軍第一、第三、第五、第九軍團。川滇敵軍很快又從南北兩面向扎西逼近。這時紅軍決定暫緩執行北渡長江的計劃，突然掉頭東進，擺脫敵軍，于2月18日至21日二渡赤水，重入貴州，奇襲婁山關，再占遵義城。在遵義戰役中，紅軍取得殲敵兩個師又八個團、俘敵3000余人的勝利。這是中央紅軍長征以來取得的最大的一次勝利，沉重地打擊了敵軍的氣焰，鼓舞了紅軍的斗志。蔣介石在打了敗仗之后，調整部署，指揮多路敵軍向遵義、鴨溪一帶合圍。紅軍迅速跳出敵軍的合圍圈，再次轉兵西進，于3月16日至17日三渡赤水，重人川南。蔣介石以為紅軍又要北渡長江，急忙調動重兵圍堵。紅軍突然又揮師東進，折返貴州，于3月21日晚至22日四渡赤水。隨即南渡烏江，佯攻貴陽，分兵黔東，誘出滇軍來援。當各路敵軍紛紛向貴陽以東開進時，紅軍出其不意地以每天120里的速度向敵人兵力空虛的云南疾進。紅軍在昆明附近虛晃一槍，接著主力神速地向西北方向前進，于5月初渡過谷深水急的金沙江。至此，中央紅軍擺脫優勢敵軍的追堵攔截，粉碎蔣介石圍殲紅軍于川、黔、滇邊境的計劃，取得了戰略轉移中具有決定意義的勝利。這一勝利，是在改換了中央軍事領導之后取得的，充分顯示出毛澤東高超的軍事指揮藝術。