民間通常把帶兵打仗的軍官稱為將軍，這只是一種敬稱。嚴格意義來說，近代軍隊中，將官以上的軍官才能稱為將軍。一般觀點認為，國軍當中將官多如牛毛，師長是少將以上，旅長是少將，甚至有的團長也是少將。在南京還是首都的時候，民間流行一句俗語“少將多如狗，中將滿街走”，來形容當時國軍的將官不值錢。
但事實卻與一般觀點有很大出入。據國軍新編第7軍副軍長史說所寫的《國民黨陸軍制度述略（續）》一文中描述：
銓敘廳辦理任命手續的將官職級人員，由銓敘廳發金質（銅合金）領章，背面編號。我看到少將的編號只到五百餘號。
廖耀湘
史說指的是抗戰結束前，國軍當中有正式少將軍銜的人也就500餘人，而當時國軍已有接近四百萬軍隊。可以對比的一個數字是，1955年解放軍首次授銜時，少將名單有800人。雖然兩者戰鬥力不能同日而語，但人員編制可以大概參考。可見，國軍當中的將官並沒有民間所傳的那樣多、那樣廉價。
更為極端的是廖耀湘的軍銜。1947年8月間，廖耀湘出任國軍第9兵團司令。到1948年5月，廖耀湘兵團擴大為機動攻擊兵團，下轄6個軍（新1軍、新3軍、新6軍、第71軍、地49軍、第58軍）又一個師，總兵力15萬餘人，國軍5大王牌獨佔2個，號稱實力最強的兵團。但此時廖耀湘的正式軍銜只是騎兵上校，按照各國慣例，只配做個團長。直到9月底，廖耀湘才正式晉升為少將，不過他似乎沒有當將軍的命，大概一個月後就被俘虜了。
以上校軍銜幹了一年中將的活，與國軍將官多如牛毛的印象確實相去甚遠，這又是為何呢？要回答這個問題，先要從國軍的軍銜制度說起。
國軍的軍銜制度是中華民國建立以後才慢慢制定的，內容基本上照抄日軍。因為在鄰近國家當中，日軍最為強大，值得學習。此外，從清末起，大批中國留學生在日軍學習軍事，對日軍的軍事制度有相當的瞭解，並且非常崇尚。最後就是日本也使用漢字，文化基本相通，翻譯和運用起來更簡單便捷。
1912年3月10日，孫中山以大總統名義頒佈了《陸軍人員補官任職令草案》和《陸軍官佐免官免職令草案》。同年，袁世凱上臺以後又先後頒佈了陸軍和海軍《官佐士兵等級表》。這些檔案初步建立了一套比較完整的軍銜制度，其中軍官等級主要為6級16等，包括：
將官：上將、中將、少將
校官：上校、中校、少校
尉官：上尉、中尉、少尉（排長到副營）
准尉官
軍士：上士、中士、下士
兵：上等兵、一等兵、二等兵
不過袁世凱逝世以後，中國出現了長期的軍閥割據局面，軍銜制度開始混亂。軍閥們自己招兵買馬，自己發糧餉，當然是由自己安排軍官級別，事實上當時許多軍閥部隊並沒有軍銜制度。這種局面即使到了蔣介石完成北伐，東北易幟，中國形式上完成統一以後仍無法改變，因為地方割據勢力仍然存在，老蔣仍然插不進手，甚至軍銜還成了老蔣籠絡人心的工具。
這一時期的軍銜有多亂呢？1932年，西北軍閥馬步芳委派自己12歲、還在上小學的兒子擔任青海南部邊區警備司令部上校參謀長，並上報到了南京，為了籠絡馬步芳老蔣居然同意了，並且發給了委任狀。
不僅中低階軍官多如牛毛，就連上將這樣的高級別軍官也多到到數不清，將官越來越不值錢，連老蔣自己也看不下去了。1933年，在中央陸軍軍官學校的一次紀念週上，他說：
我們軍隊裡階級的升遷，實在太容易了。譬如在黃埔畢業的學生，無論哪一個，最多不過三十多歲的人，現在已很多升到少將中將甚至上將階級……其他國家的軍官甚至一生一世都升不到上尉，也是常有的事情……我們個人的階級越高，國家的地位就越低。
為了整頓軍隊人事制度，國民政府決定重新評定軍銜。軍政部長何應欽派人到日本去考察，並且制定了一系列措施。1934年4月26日，成了軍事委員會銓敘廳，具體負責重新評定軍銜相關工作。1935年初，何應欽提出“陸軍官階過濫，殊非尊重名器之道”，建議減少上將名額，一部分上將改敘中將。3月，新的軍銜等級表頒佈，在級別上基本沿用了之前的6等16級制度，只是將上將改為一級上將、二級上將，另設特級上將。
這個特級上將當然是為蔣委員長量身打造的，以示跟其他人的區別，從1935年設立起到1980年被廢除，這個軍銜只授予過老蔣一個人。
新規定在晉升數額上做了嚴格的限制，尤其是上將這個級別，限制總數在60人左右，一級上將控制在三分之一到四分之一之間，只有出現缺額時才能從下一階擇優替補。
對軍官在某一階級的任職時間也做了具體規定，即“停年”制度，可以理解為升遷前所需最低任職年限。比如非戰時狀態：少尉升中尉一年半；中尉升上尉二年；上尉升少校四年；少校升中校二年；中校升上校三年；上校升少將四年。並且對軍官年齡也做了限制，超過限制年齡未獲得升遷的就要求退役。
老蔣的特級上將5顆星
按照這個規定，從少尉升上校最少需要十七年半的時間（戰時狀態有一定縮減），這還是仕途順利的情況下，可謂非常嚴格了。
國軍從1935年4月開始實施這一新規，但是如前面何應欽的提議，有的上將被降為中將，自然會引起不滿。為了調和矛盾，1936年初，國民政府又出臺了一個《陸軍中將加銜暫行條例》，規定符合條件的中將可以掛二級上將銜，享受同等待遇，出現缺額時優先錄用。在國軍當中，加銜這一規定只有陸軍中將這個級別才有。
老蔣的五星上將披風，材質為喀什米爾小羊毛
國軍實施的這一套新的制度，出發點是好的，有利於管理混亂氾濫的軍銜。同時，又將軍隊的人事任免權一定程度上收歸到中央，因為只有獲得中央認可的軍官才會發放相應的餉金，對於限制地方勢力起到了積極作用。不過，新制度實施後仍然有軍官掛較高的舊軍銜，老蔣不得不號召大家降低軍銜：
“你們反省一下，你們的學問能力經驗，是不是比得上外國一個軍長、師長，甚至一個團長？你們和外國一般高階將領在一處交際應酬，他們是不是把你們當做一個軍長、師長，而表示真誠的敬意？說起來真正慚愧，我們一個軍長的學問能力，不僅比不上他們的軍長，而且比不上他們的師長和團長！這種名實不符的恥辱，我們大家必須反省，必須覺悟。”
但新制度實施沒多久，抗日戰爭全面爆發，軍隊大規模擴編。此外戰爭中，中低級別軍官大量戰損，以及出於對立功人員獎勵的需要，軍官出現大規模的變動，原來的軍銜制度已經跟不上現實的變化。比如一個連長在戰場上不斷立功，升任團長，但他的軍銜往往達不到“停年”要求。同一級別的軍官如果掛的軍銜不同，日後合作和指揮都會出現很大問題。
白崇禧一級上將4顆星
為了解決這種問題，便出現職務軍銜制度。即對一軍官委任某種職務時同時授予相應的軍銜，但是這個軍銜不是由銓敘廳授予的正式軍銜，而是跟隨職務變動的臨時軍銜。比如戰時委任某人師長職務，同時授予中將軍銜，將來部隊整編以後，重新委任該人為旅長，那他的軍銜就相應地降為少將。只有經過銓敘廳授予的正式軍銜才不隨職務調整而改動。
職務軍銜和正式軍銜在待遇上沒有差別，但是顯然正式軍銜含金量要更高。在稱呼也有所不同，以少將為例，職務軍銜一般稱呼軍銜加職務，即少將軍長。而正式軍銜一般稱呼軍種加軍銜，比如：陸軍少將。在正式場合，一般都要求使用正式軍銜。
出現這兩種不同的軍銜之後，國軍的軍銜又開始亂套了，掛職務軍銜的軍官由於不透過銓敘廳，這些數字根本無法統計。而事實上，一般軍官只掛比較高的軍銜。比如戴笠一直佩戴中將軍銜，但是他1945年才正式晉升少將，死後追贈中將。另一個就是在孟良崮戰役中被擊斃的張靈甫，也是在1945年正式授予少將，但他早已經掛上中將軍銜了。
戴笠很早就掛中將軍銜
如此一來，在抗日戰爭中與盟軍合作的時候就出現了一些尷尬的場面。當時美國派到國軍總司令部的顧問最高軍銜只有少將，派到軍部最高為上校，一般是中校和少校。而在這兩個級別的機關裡，國軍少將以上的軍官多如牛毛。這就出現了，美軍顧問低兩三級卻要指揮高級別的國軍的現象。
被蔣介石派到汪偽政權潛伏的唐生明也遇到過類似尷尬的事情。唐生明是唐生智的弟弟，儘管沒什麼作戰經歷，但背景雄厚很早就獲得少將軍銜。進入汪偽政權後又被升為中將。但是一天日軍總顧問影佐幀昭（少將）帶著幾個大佐、中佐來視察。唐生明特意找了一副上校領章（相當於日軍大佐）。因為一箇中將要給日軍少將和幾個大佐敬禮，未免也太尷尬了。
到抗戰結束以後，國軍的軍銜已經完全亂了，出現了開頭所說的將官多如牛毛的情況。而且這些情況還來不及整治，馬上又爆發了內戰，最終國軍帶著這套混亂的軍銜退臺以後才有機會整治。
具體到廖耀湘升任兵團司令仍然是騎兵上校的問題，上校指的是他的正式軍銜。廖耀湘是黃埔6期畢業，論資歷在國軍將領當中只能算個小老弟。但是廖耀湘畢業以後被選派到法國聖西爾軍校機械化騎兵專業學習，1936年學成歸國授予騎兵軍銜。不久抗日戰爭爆發，隨後他又參加了中國遠征軍，因為戰績突出，獲得了快速升遷，到東北之前已經是國軍王牌新6軍軍長。
當時東北保安司令杜聿明是廖耀湘的老上級對他很照顧，而且杜聿明還把他的主要競爭對手孫立人、陳明仁排擠走了。日後，國軍戰局不利的時候，軍隊大規模擴編，指揮人員不斷更替，廖耀湘也不斷獲得升遷，很快就升到了兵團司令。但是他的正式軍銜一直沒有獲得晉升，這也就出現了上校擔任兵團司令，指揮15萬大軍的情況。
廖耀湘實際掛中將軍銜
雖然出現國軍將官多如牛毛的現象，但這些人大部分掛的只是虛假的軍銜。根據相關史料統計，從1935年4月國軍實施新軍銜制度起，到1949年9月退臺，共任命了將官4996。其中各級上將160名，中將975名，少將3861名。考慮到時間跨越14年，軍隊數量龐大，且經歷過2次較大的戰爭，這個任職數量絕對算不上多。