中國自古以來就使用十進位制計數法，一些實用的計量單位也採用十進位制，所以很容易產生十進分數，即小數的概念。第一個將這一概念用文字表達出來的是魏晉時代的劉徽。他在計算圓周率的過程中，用到尺、寸、分、釐、毫、秒 、忽等7個單位；對於忽以下的更小單位則不再命名，而統稱為“微數”。

　　到了宋、元時代，小數概念得到了進一步的普及和更明確的表示。楊輝《日用演算法》(1262年)載有兩斤換算 的口訣：“一求，隔位六二五；二求，退位一二五”，即1/16=0?0625；2/16=0?125。 這裡的“隔位”、“退位”已含有指示小數點位置的意義。秦九韶則將單位注在表示整數部分個位的籌碼之下，例如： —Ⅲ—Ⅱ表示13.12寸 寸是世界上最早的小數表示法。

　　在歐洲和伊斯蘭國家，古巴比倫的六十進位制長期以來居於統治地位，一些經典科學著作都是採用六十進位制，因此十進位制小數的概念遲遲沒有發展起來。15世紀中亞地區的阿爾卡西(?～1429)是中國以外第一個應用小數的人。歐洲數學家直到16世紀才開始考慮小數，其中較突出的是荷蘭人斯蒂文(1548～1620)，他在《論十進位制》（1583年)一書中明確表示法。例如把5.714記為：5◎7①1②4③或5,7"1""4"""。而第一個把小數表示成今日世界通用的形式的人是德國數學家克拉維斯(1537～1612)，他在《星盤》(1593年)一書中開始使用小數點作為整數部分與小數部分之間的分界符。

　　而中國比歐洲早採用了小數三百多年。