第一次世界大戰，德國戰敗，當時凡爾賽條約規定德軍只能擁有一支十萬人的部隊，而且在裝備上也不允許生產自動武器以及重武器，因此德軍當時有大量的中高階軍官失業，如果不出意外的情況下，這些人就只能另行擇業，但出乎預料的就是，當時的中國蔣介石卻看重了這樣一支力量，並急於尋求合作。

1927年蔣介石發動四一二政變，驅逐共產黨，中斷了與蘇聯的合作，但在當時由於中國是一個比較落後的農業國，因此急需要西方先進的工業國家合作，蔣介石在年底奪權以後，將目標註意到了德國身上，雙方一拍即合，德國隨後組建了一支精銳的德國軍事顧問團前往中國，幫助中國訓練和改造舊式軍隊。

這也就是後來德械師的初步由來，當然隨著希特勒1933年上臺以後，更是加緊了與中國的軍事合作，因為他看中了中國的軍事資源，因此雙方就協議事項重新簽訂了協議的內容，其中提出以有限的物力財力，逐步整理中國60個師為德械師，按照國民政府的估計，只要有60個德械師組成的國防軍，就足以應對當時世界任何衝突。

實際上後期雙方合作的也十分愉快，先期預計整理十個師，由於這十個師整理比較早，也是最早形成戰鬥力的，按照先期估計來看，每個國防師直屬一個炮兵團。全師人員編制為11423人（野炮挽馬師）或11579人（山炮馱馬師），裝備野（山）炮12門、小炮24門、82迫擊炮24門、重機槍74挺、輕機槍336挺。

從這個資料來看，應該略小於當時日軍一個師團的規模，但是按照如此火力規模來看，應當不遜色於日軍，只可惜由於財力有限，當時建立這些德械師的裝備無法完全按照規模購買，因此只能以中國現有的技術生產，其中就有仿毛瑟步槍的中正式，例如仿造的捷克輕機槍（基本能做到每班一挺），但也有不足的地方，比如火炮以及重武器等等缺乏。

按照嚴格標準的話，最終完成整理的，就只有中央教導總隊，以及36師、87師、88師，其他的德械師只是在人數編制上做到了統一，但是武器裝備並不完整，原本按照估計，以中央教導總隊的戰鬥力規模來看，即便是打不過日軍，也能完全做到平手。

只可惜這些德械師裝備雖然較平常師不錯，但是由於訓練時間短，完全無法按照德軍所教給的戰術進行戰場作戰，加上重武器等匱乏，指揮系統出現失誤，以至於在淞滬會戰過程中，就基本上已經損失過半，而經歷後來南京保衛戰以後，這些德械裝備師幾乎就已經完全打光，加上後期這些德械裝備得不到補充，打完一個就少一個，其旅團一級的幹部更是死傷慘重，以至於最終完全消失。