步兵第一二八師炮兵團，原為四十三軍第一二八師炮兵團，起源於解放戰爭時期的東北戰場。

1945年10月，山東野戰軍第七師在哈爾濱繳獲部分日軍武器，以其中3門速射炮為基礎，成立師炮兵連。

1947年6月，該連在佳木斯與合江軍區保安隊炮兵連(三五九旅“鋼鐵四連”)合併，成立師炮兵營。

1948年11月，改編為四十三軍一二八師炮兵營。

1950年4月，隨師進駐海南島。

1952年7月，在師編成內轉隸海南軍區兼四十三軍建制領導。

1953年3月，部隊整編，在海南島文昌縣擴編為一二八師炮兵團。同年8月，編入全軍炮兵統一序列，定番號為炮兵第五零八團，仍歸一二八師建制。

1961年1月，四十三軍建制撤銷，隨師隸屬海南軍區建制。

1964年11月，隨師由海南軍區轉隸四十二軍建制領導，移駐廣東悳陽。

1968年7月，四十三軍建制恢復，在師編成內回編四十三軍。調防廣西駐柳州。

1969年9月，奉命恢復四十三軍一二八師炮兵團番號。10月，隨師建制調防河南駐登封。

1979年1月，隨師赴廣西參加對越自衛還擊作戰。4月，凱旋歸建。

1985年9月，全軍體改整編，四十三軍番號再次撒銷，隨師歸隸二十集團軍建制，改稱二十集團軍一二八師炮兵團。