1958年建水冶公社，1975年改鎮。1997年，面積33.3平方千米，人口13.5萬，轄南關、東街、西街、南街、阜城東街、阜城西街、阜城南街、阜城北街、果元、向陽、井家莊、西蔣、天池、茶棚、彰武、東古莊、西古莊、南段、北段、陽郡、姬家屯21個行政村和東北街、北關、小東關、老城區4個居委會。2002年12月28日，國務院批准（國函[2002]123號）：將水冶鎮的北彰武村劃歸安陽市龍安區管轄。2014年8月4日，經河南省人民政府批准，河南省民政廳下發了《河南省民政廳關於調整安陽縣水冶鎮蔣村鎮行政區劃的批覆》（豫民行批〔2014〕35號），同意撤銷安陽縣水冶鎮和蔣村鎮，設立新的水冶鎮，以原水冶鎮和蔣村鎮行政區域為新設水冶鎮行政區域。新設水冶鎮人民政府駐水冶鎮輔巖路102號。 此次行政區劃調整後，水冶鎮行政區面積由原來的46.07平方公里增至91.14平方公里，總人口約為12.89萬人，所轄建制村由原來的17個變成現在的41個，所轄居委會個數不變，仍為18個，新設水冶鎮人民政府駐地不變。