十進位制小數轉換成二進位制小數採用"乘2取整，順序排列"法。具體做法是：　　用2乘十進位制小數，可以得到積，將積的整數部分取出，再用2乘餘下的小數部分，又得到一個積，再將積的整數部分取出，如此進行，直到積中的小數部分為零，或者達到所要求的精度為止。然後把取出的整數部分按順序排列起來，　　先取的整數作為二進位制小數的高位有效位，後取的整數作為低位有效位。　　例如：

因為出現了精度的問題十進位制的精度是10^（a），就換算過程來說，我們不難發現二進位制的精度是2^（a），但是他們之間相差了5^（a）可是5^（a）無法用2的冪來表示，因此任何十進位制小數都可以用二進位制來準確表示是錯誤的

於帶數數值言(論浮點數定點數)二進位制數表示精度指二進位制碼用於表示尾數部少位

於整數言通指二進位制碼位般說二進位制碼錶示範圍於模數轉換或者數模轉換言則表示同轉換精度

精度0.1%即1‰(千分之一)，小數點之後10位二進位制可以表示2E-10=1/1024(2的-10次方)，精度略高於1‰，所以要求二進位制精度達到0.1%，小數點後二進位制位數要達到10位。