對於水垢，建議採取專用清洗劑泡洗。把水垢清洗劑倒進水桶裡，然後灌滿水浸泡12小時以上，最後再用清水清洗即可。

專用洗滌劑比較貴，且用量不小，有些地方可能買不到，因此，這種情況下就要選擇替代物了。食用檸檬酸、食品級鹽酸（硫酸）等酸性物質也是一種很好的選擇，不但浸泡除垢效果好，成本更低。

家裡有食用白醋，也可以用白醋來除垢。白醋比較貴，不能像洗滌劑那樣稀釋後浸泡，不稀釋直接倒一點白醋進去泡，泡不到的地方就定期旋轉和倒動一下，最後用清水沖洗即可。

有的地方水質裡微生物比較多，水桶很容易長青苔，這些青苔比一般的水垢更難洗去。可以在清洗之前先把水桶的水倒掉，並把水桶晾乾或是曬乾，靜置幾天，讓青苔失水，這樣青苔就容易剝落了，再加洗滌劑進去稍稍浸泡，再震盪抖擻一下，就能比較輕鬆洗去。

在完全沒有洗滌劑的情況下，則可以用沙子來清洗水桶。往水桶裡放一大把細沙子，再加一點水進去，堵住水桶的口子，然後雙手握住水桶猛烈來回震盪搖晃水桶，利用沙子的摩擦，就能擦去頑固的青苔和大部分的水垢。

對於頑固的水垢，可以沙子和洗滌劑配合使用，這樣效果更好。

有些有車的家庭有高壓水槍，可以用水槍來清洗水桶的青苔等汙垢，不需要其他洗滌劑即可衝去汙垢。這樣速度快，也不像用沙子那樣費力，當然，可能會有部分死角，可以用沙子來處理。沖洗的時候要注意技巧，需要兩個人操作，一個人拿著水桶口朝下，另一個人那水槍衝擊。