小欖古為珠江口古海灣的幾個小島嶼，秦、漢間，大欖、小欖隸屬南海郡，隋、唐時屬南海縣，宋代仍屬南海縣治，稱永寧鄉潮居里，為瀕海要區，因小山丘形似橄欖而得名。南宋紹興二十二年（1152年），香山立縣，由南海縣劃入的永寧鄉潮居里改稱寧安鄉（含大欖、小欖）。宋末，香山寨從濠潭遷往縣北大欖村側後，中原人南遷，南宋鹹淳年間，由南雄珠璣巷逃離南來者，驟然增多，人口繁衍，才編立圖籍。元代（1279-1368年）習宋制，地域名稱不變。大欖、小欖以一河相隔，明洪武年間香山司巡檢陳忠，在任期間於河上建雙美橋（俗稱“拱橋”）相連。明洪武十四年，由鄉改設坊都，寧安鄉的大欖、小欖分立而統名大欖都。明洪武二十七年，大、小兩欖有18衛所軍隊進駐屯田，墾荒種植，逐漸擴大耕地面積。隨著滄桑易貌、人口繁衍，居民逐漸遷居小欖，形成圩市。清康熙三至八年（1664-1669年）實行海禁遷界，大欖都於康熙三年農曆十月十九日開始大遷徙，是有史以來一場大災難。復界後仍稱大欖都，人們遷回原地恢復生產和生活。清雍正三年（1725年），香山司轄大欖都、古鎮（時屬黃旗都）、海洲政務。清乾隆初年（1736年），古鎮劃入大欖都轄。清嘉慶七年（1802年），大欖都的大欖、小欖兩村又稱欖鄉。清道光七年（1827年），古鎮復屬黃旗都；大欖都改名為欖都。清光緒元年（1875年），古鎮、曹步兩鄉併入大欖都圖。清光緒六年，改都為鎮，欖都稱為欖鎮（小欖部分稱欖鄉）。欖鄉山明水秀，景色別緻，有“欖山”、“欖溪”雅號，又因小欖人愛菊，俗稱“小柴桑”。清宣統二年（1910年），欖鎮改為香山縣屬第三區，全區分十三段，總面積259.08平方公里。辛亥革命至中華民國初期（1912-1915年），“鄉約”改稱“公局”（又稱公約），仍實行自治，大欖、小欖境內劃為東、南、西、北、中五區， 並統以西海十八沙、東南西北香燈沙及村心沙。民國十二年（1923年），香山縣三區的欖鄉沿稱小欖鎮，為區轄下的鄉鎮，為建制鎮之始，鎮務工作由“公局”人員主理。民國三十五年（1946年）9月，中山縣政府先後撤銷6個區建制，把全縣縮編為67個鄉鎮。民國三十六年（1947年）11月，撤銷中山縣第三區區署，由縣派出指導員指導鄉鎮工作。 1949年11月，中山縣人民政府設定區建制，仍稱第三區，轄1鎮13鄉，並廢保甲制，鎮內稱坊，區內稱鄉、材。1950年6月，小欖鎮成立臨時政務委員會（9月稱人民政務委員會）。1951年6月，人民政務委員會結束，成立鄉級小欖鎮人民政府。1952年7月，三區分為上下兩區。上三區府駐古鎮，政府在六坊蘇家祠。下三區府駐小欖鎮原中心國民學校（似稽、秀峰兩間李氏祠堂）。8月，配合農村土地改革運動，成立中山縣小欖鎮城鄉聯絡委員會。1952年11月，小欖鎮升格為區級鎮，鎮政府駐地在半農李公祠與和風書院（1956年改建為磚木結構兩層樓房）。1959-1960年，小欖鎮範圍轄至小欖公社東區鋼鐵營和北區鄉沙口村。1959年6月，小欖鎮管理區（營）又改稱鎮人民公社社務委員會（又稱管理委員會），撤銷營、連、排、班軍事化建制。1960年2月1日，將鎮郊生產大隊和園林管理處合併，成立菊城農場。1966年，改稱紅衛農場；1968年，重新複名菊城農場；1974年，易名小欖鎮農場。1966年6月，小欖人民公社和小欖鎮人民公社，分別稱生產臨時委員會（生產臨時領導小組）；1967年5月，又分別稱“抓革命，促生產”委員會（簡稱“抓促”）；1968年2月，小欖公社、小欖鎮公社分別成立革命委員會。1973年7月，按縣革委會檔案精神，小欖各大隊、城鎮街道所改名稱全面恢復原來名稱。1986年12月3日，廣東省人民政府《關於中山市撤銷區公所設定鎮（街）建制的批覆》保留小欖鎮，將原小欖區析出高沙、裕民、同樂、兆隆、益隆、東昇、新成、永勝等8個鄉成立雞籠鎮（1987年3月改為東昇鎮）。餘下的永寧、九洲基、東區、西區、北區、福興、沙口、竹源、埒東、聯東、寶豐、埒西一、埒西二、績東一、績東二、績西等16個鄉劃歸小欖鎮管轄，成立新的小欖鎮。1987年1月1日合署辦公。
小欖古為珠江口古海灣的幾個小島嶼，秦、漢間，大欖、小欖隸屬南海郡，隋、唐時屬南海縣，宋代仍屬南海縣治，稱永寧鄉潮居里，為瀕海要區，因小山丘形似橄欖而得名。南宋紹興二十二年（1152年），香山立縣，由南海縣劃入的永寧鄉潮居里改稱寧安鄉（含大欖、小欖）。宋末，香山寨從濠潭遷往縣北大欖村側後，中原人南遷，南宋鹹淳年間，由南雄珠璣巷逃離南來者，驟然增多，人口繁衍，才編立圖籍。元代（1279-1368年）習宋制，地域名稱不變。大欖、小欖以一河相隔，明洪武年間香山司巡檢陳忠，在任期間於河上建雙美橋（俗稱“拱橋”）相連。明洪武十四年，由鄉改設坊都，寧安鄉的大欖、小欖分立而統名大欖都。明洪武二十七年，大、小兩欖有18衛所軍隊進駐屯田，墾荒種植，逐漸擴大耕地面積。隨著滄桑易貌、人口繁衍，居民逐漸遷居小欖，形成圩市。清康熙三至八年（1664-1669年）實行海禁遷界，大欖都於康熙三年農曆十月十九日開始大遷徙，是有史以來一場大災難。復界後仍稱大欖都，人們遷回原地恢復生產和生活。清雍正三年（1725年），香山司轄大欖都、古鎮（時屬黃旗都）、海洲政務。清乾隆初年（1736年），古鎮劃入大欖都轄。清嘉慶七年（1802年），大欖都的大欖、小欖兩村又稱欖鄉。清道光七年（1827年），古鎮復屬黃旗都；大欖都改名為欖都。清光緒元年（1875年），古鎮、曹步兩鄉併入大欖都圖。清光緒六年，改都為鎮，欖都稱為欖鎮（小欖部分稱欖鄉）。欖鄉山明水秀，景色別緻，有“欖山”、“欖溪”雅號，又因小欖人愛菊，俗稱“小柴桑”。清宣統二年（1910年），欖鎮改為香山縣屬第三區，全區分十三段，總面積259.08平方公里。辛亥革命至中華民國初期（1912-1915年），“鄉約”改稱“公局”（又稱公約），仍實行自治，大欖、小欖境內劃為東、南、西、北、中五區， 並統以西海十八沙、東南西北香燈沙及村心沙。民國十二年（1923年），香山縣三區的欖鄉沿稱小欖鎮，為區轄下的鄉鎮，為建制鎮之始，鎮務工作由“公局”人員主理。民國三十五年（1946年）9月，中山縣政府先後撤銷6個區建制，把全縣縮編為67個鄉鎮。民國三十六年（1947年）11月，撤銷中山縣第三區區署，由縣派出指導員指導鄉鎮工作。 1949年11月，中山縣人民政府設定區建制，仍稱第三區，轄1鎮13鄉，並廢保甲制，鎮內稱坊，區內稱鄉、材。1950年6月，小欖鎮成立臨時政務委員會（9月稱人民政務委員會）。1951年6月，人民政務委員會結束，成立鄉級小欖鎮人民政府。1952年7月，三區分為上下兩區。上三區府駐古鎮，政府在六坊蘇家祠。下三區府駐小欖鎮原中心國民學校（似稽、秀峰兩間李氏祠堂）。8月，配合農村土地改革運動，成立中山縣小欖鎮城鄉聯絡委員會。1952年11月，小欖鎮升格為區級鎮，鎮政府駐地在半農李公祠與和風書院（1956年改建為磚木結構兩層樓房）。1959-1960年，小欖鎮範圍轄至小欖公社東區鋼鐵營和北區鄉沙口村。1959年6月，小欖鎮管理區（營）又改稱鎮人民公社社務委員會（又稱管理委員會），撤銷營、連、排、班軍事化建制。1960年2月1日，將鎮郊生產大隊和園林管理處合併，成立菊城農場。1966年，改稱紅衛農場；1968年，重新複名菊城農場；1974年，易名小欖鎮農場。1966年6月，小欖人民公社和小欖鎮人民公社，分別稱生產臨時委員會（生產臨時領導小組）；1967年5月，又分別稱“抓革命，促生產”委員會（簡稱“抓促”）；1968年2月，小欖公社、小欖鎮公社分別成立革命委員會。1973年7月，按縣革委會檔案精神，小欖各大隊、城鎮街道所改名稱全面恢復原來名稱。1986年12月3日，廣東省人民政府《關於中山市撤銷區公所設定鎮（街）建制的批覆》保留小欖鎮，將原小欖區析出高沙、裕民、同樂、兆隆、益隆、東昇、新成、永勝等8個鄉成立雞籠鎮（1987年3月改為東昇鎮）。餘下的永寧、九洲基、東區、西區、北區、福興、沙口、竹源、埒東、聯東、寶豐、埒西一、埒西二、績東一、績東二、績西等16個鄉劃歸小欖鎮管轄，成立新的小欖鎮。1987年1月1日合署辦公。