1949年2月，華東野戰軍第6縱隊改稱為華人民解放軍第24軍，屬第三野戰軍第8兵團建制。轄第70師，第71師，第72師。6月，第70師北上配合兄弟部隊解放青島，第71師南下淮北，歸鄂豫皖邊區聯合剿匪指揮部指揮，進剿大別山地區土匪。8月11日，第72師配合兄弟部隊攻佔長山列島。1950年3月，第71師歸建。1952年7月20日，第71師撤銷，師部組建空15師。第25軍74師歸第24軍建制。9月，第24軍改歸第9兵團。1955年10月，第24軍駐防河北唐山。1961年1月12日，65軍炮575團加農，榴彈炮各1營歸24軍，改編為軍炮兵團，高炮團。1963年11月1日，建立工程兵第3工區，歸24軍建制。1966年6月15日，70師改編為北京衛戍區警衛第3師 ，24軍北移至承德。1969年12月全軍重排番號，第74師改稱第70師，並重建第71師，工程兵第3工區改為第71師。1985年7月，第24軍改編為陸軍第24集團軍。由原陸軍第24軍轄第70，71，72師，炮兵旅、高炮旅以及守備第4旅（1992年撤銷）組成。1996年原屬天津警備區的坦克第1師（該師是我軍第一支坦克部隊）調入該集團軍。1998年，步兵第72師與唐山預備役師合併，組成河北省預備役高炮72師。坦克第1師改為裝甲師。同時，天津警備區摩步第196旅也轉歸第24集團軍。2003年24軍被撤銷。