魯道夫·狄賽爾1858年3月18日出生於巴黎，父親是奧格斯堡人，母親是紐倫堡人。他童年時期在巴黎受教育。1870年，普法戰爭爆發，兩國關係交惡，全家不得不逃往倫敦。因為生活艱難，年僅12歲的狄賽爾被送到奧格斯堡的叔叔家裡。在這裡他讀了職業學校，並作為成績最優秀的學生畢業。

1875年，他獲得獎學金，進入慕尼黑工業大學(TUM)讀機械製造專業，成績優異，頗受著名的機械教授林德的器重。1879年，21歲的狄賽爾畢業，在瑞士溫特圖爾一家機械廠任零件設計員，兩年後轉巴黎任林德冷藏企業熱機工程師、安裝工和推銷員。在工作中，他深感蒸汽機的效率低下，於是萌發了設計新型發動機的念頭。

並開始積蓄資金。1885年，他辭去製冷工程師職務，在巴黎設立了自己的發動機實驗室。在1893年發表的文章中他如此描述這種新型發動機:這將是一種新式的理性的機器。實際上，他甚至提前一年申請了專利。為了實現他的想法，他找到奧格斯堡機器製造廠作為合夥者--這便是今天MAN公司的前身。

這些條件使狄賽爾在奧格斯堡成功地製造出這種新式發動機成為可能，而狄賽爾當時的年薪是30000馬克。1893到1897年間，狄賽爾不斷完善發動機的各方面效能。1893年第一次試驗時，壓力達到了80大氣壓，為當時人類第一次記錄下來的最高壓力，但是立刻發生了爆炸。

經過第一次失敗後，狄塞爾改進機器並在1894年繼續試驗。這次試驗運轉了一分鐘，證明這種原動機有強大的發展潛力。1896年柴油機試驗成功。1897年狄塞爾完善了他的發明。他把燒煤粉改為燒液體燃料，把無冷卻改為用水冷卻，把定溫加熱改為定壓加熱 。

他在奧格斯堡親手點燃發動機的那一瞬間，一次新的科技革命誕生了。這臺於1897年實驗的發動機就是後來狄賽爾發動機的原型，它的功率為14瓦特，遠遠超過當時的蒸汽機和已經發明的Alto發動機。這臺機器被收藏在慕尼黑德意志科技博物館裡。