1949年4月參與指揮渡江戰役，實施京滬杭會戰，並親自指揮第二野戰軍主力分三路直出浙贛鐵路，解放了皖南、浙西、贛東北、閩北廣大地區。南京解放後任中共南京市委書記兼市長、南京市軍事管制委員會主任。11月與鄧小平率部進軍西南，12月任西南軍政委員會主席、中共中央西南局第二書記。他出色地執行了毛澤東提出的遠距離迂迴包圍的作戰方針，拊敵側背，斷敵逃路，各個殲敵，同時通過軍事打擊和政治爭取，促成大批國民黨上層軍政人員率部起義和投誠，在近半年的時間內共殲敵約90萬人，解放四川、雲南、貴州三省和西康省大部，徹底粉碎了蔣介石割據西南、伺機反攻的企圖。與此同時，他還領導了剿匪作戰和進軍西藏的準備工作，為鞏固西南邊疆作出了開拓性的貢獻。
1950年11月建議並受命在南京組建中國人民解放軍軍事學院，任院長兼政治委員。為了辦好這所人民解放軍第一個諸軍兵種合成的高等學府，他嘔心瀝血，鞠躬盡瘁，親自培訓師資、撰寫審定和翻譯教材，常常是“三更燈火五更雞”，宵衣旰食，手不釋卷。他通過在軍事學院陸續創立海軍、空軍、炮兵、裝甲兵、防化兵、情報等系，繁衍發展了我軍諸軍兵種齊全的指揮院校體系，培養了大批德才兼備的中高級軍官。他在教育訓練軍事人才方面所作出的貢獻，對國防和軍隊建設有著深遠的影響。
1954年起先後任中央人民政府人民革命軍事委員會副主席、國
防委員會副主席、軍委訓練總監部部長。
1955年9月獲一級八一勳章、一級獨立自由勳章、一級解放勳章。
1957年9月調任高等軍事學院院長兼政治委員。
1959年任xx戰略小組組長。
1962年參與指揮中印邊境自衛反擊戰。
1966年起任中共xx副主席。直至耄耋之年，他一如既往地關心國防事業和軍隊建設，適時為xx、總部出謀劃策。他提出的許多極富遠見卓識的戰略性建議，在加強國防建設和保衛邊疆的作戰中發揮了重要作用。
1982年後，由於年齡和健康原因辭去黨政軍領導職務。1986年10月7日在北京逝世。