隨著中蘇條約正式簽署，1951年中國軍工在蘇聯專家的援助下，開始對蘇制託卡列夫軍用手槍進行仿造。蘇聯方面將為中國提供所有的圖紙以及機床流水線裝置，並且培養中方的技術人員。嚴格意義上來講，該槍只是對託卡列夫手槍進行了簡單仿製，沒有融入半點中國元素，因此只能說是中國組裝，經過中國的組裝之後該槍被重新命名為51式手槍。

1953年，得益於中蘇協議蘇聯專家大規模進入中國，其中也不乏軍事專家。雙方專家就51式手槍在北韓戰爭中暴露出的諸多問題展開了詳細的研究並作出了改進。1954年，改型手槍正式定型並大規模生產裝備部隊，被命名為54式手槍。同時該槍也是中國建國以來正式加入部隊的第一種制式武器。

後來，54式手槍先後參加過中印邊界戰爭以及中越邊界戰爭。而且54式手槍也充分滿足了惡劣環境下的作戰需要。其射程較好，穿透力強，威力也很大，在50米內的距離上可以適應戰鬥中自衛武器的需求，是一種大威力的軍用手槍。

正是因為完全可以滿足軍事作戰的需求，所以54式才能夠在軍方服役超過50年，成為中國輕武器的常青樹。此外價格便宜和結構簡單容易製造也使其頗受青睞。據了解，1987年54式手槍出廠時的號碼已經高達35000000，也就是說該型手槍的生產總數已經超過了三千萬五百萬支。同時也是中國生產和裝備量最大的手槍。