柴油機因為有一套使空氣加壓的裝置，而且加的壓力又比較大，所以比起一般內燃機來，要笨重一些。另外，因為它要加很大的壓力，所以噪聲比較大。要加壓得需一定的時間，所以它起動速度也比較慢。這些都是柴油機的缺點。

柴油機這些缺點，和它用油便宜的優點相比，在許多地方用起來還是合算的。比如說，用柴油機來作火車頭就較理想。因為火車本身就很寵大，笨一點沒關係。再說它再笨也比帶著大鍋爐的蒸汽機車輕巧呀！火車在很寬敞的火車站上起動，不比在熱鬧的馬路上，起動速度慢一點沒有關系，噪聲大點也影響不大。

柴油機由於不用水作介質，不用使水蒸發，它直接燒油汽化而工作，所以熱效率高。一般內燃機車的總效率接近30%，這要比蒸汽機車大3倍。它熱效率高，所以消耗燃料較少，加足一次油可以走行500～800千米，所以可以把油直接存在車上，不必到車站上去加油。柴油機不必消耗大量的水，所以可以在沙漠和乾旱缺水地區工作，這樣就為中國邊遠地區開通火車提供方便。柴油機也是一種內燃機，燃料在汽缸內燃燒，所以司機室內比較清潔乾淨。