楊成武第一次知道開國大典的事，是1949年的6月初。時任第20兵團司令員的他，在中南海受領佈防平、津、塘、秦的任務時，聽周恩來談了有關建國大計的內容。“七一”後，中共中央成立了以周恩來為主任，彭真、聶榮臻等為副主任的開國大典籌備委員會，擬定了開國大典三項重大活動。楊成武任閱兵副總指揮併兼閱兵指揮所主任。

他受命後的第一項工作，是主持起草《閱兵典禮方案》，內容包括受閱部隊的選調編組，閱兵程式、閱兵禮樂以及受閱前的訓練等。方案擬出後，聶榮臻向毛澤東、朱德等彙報了基本設想，楊成武彙報了閱兵安排。毛澤東說，我們歷來主張慎重初戰，這次閱兵也是初戰，開國第一次嘛，一定要搞好。

身經百戰的楊成武深知“初戰”的重要，雖然不像戰場上那樣緊張激烈，但要在一定時空裡展現出解放軍英雄氣概，同樣很不容易。他一邊組織平津周邊防務，一邊組織閱兵準備工作，不敢掉以輕心。

他從華北軍區、平津衛戍區和有關軍兵種抽調人員組建了閱兵指揮所。從第20兵團、平津衛戍區部隊抽組分列式的部隊，協助指定了海軍和空軍的閱兵部隊，共1.64萬人。這是一場具有特別意義的盛大禮儀。楊成武深感責任重大，查閱了許多閱兵資料，還四方求教。最先拜訪的是早年留學蘇聯、知悉莫斯科紅場閱兵的劉伯承，後請教陳毅，拜訪了原國民黨東北軍的幾位老將軍，還聽取了蘇聯顧問意見。

8月17日，楊成武到天壇閱兵訓練場現場檢視情況。他與來自天津警備區部隊的幹部戰士交談，感覺官兵受閱的光榮感很強，訓練很認真刻苦。時值三伏，有的戰士當面將鞋子脫下來讓楊成武看，說才穿幾天的新布鞋鞋底就破了。楊成武說，還得準備磨破幾雙！有的老兵認為訓練單調、枯燥，沒有在戰場打打殺殺痛快。楊成武就給他們做思想工作，從佇列隊形開始講，講到了穆桂英大破天門陣、諸葛亮擺佈八卦陣，說“陣”實際上就是變化的佇列，“隊形”是在養成一種優良作風、英雄氣概、崇高品質；要通過外形、動作，告訴全國和全世界人民，這就是打敗國內外強大敵人的正義之師！

9月下旬，楊成武在天安門組織了兩次地面部隊夜間合練，每次都進行到拂曉才結束。聶榮臻給楊成武提出了許多細節性要求，甚至要求就是遇到敵機空襲，也要原地不動，保持隊形！對此，楊成武不敢懈怠，按照要求一個個認真檢查落實，直到所有步驟、細節全部到位。

1949年的9月30日，楊成武和唐延傑受命以閱兵指揮所正、副主任的名義，向受閱的三軍部隊下達了命令，明確了各部隊的入城路線、集結待閱地點、各指揮分所的位置，重申了以前閱兵會議規定的注意事項。午夜，各部隊開始入城集結。楊成武的指揮位置設在天安門城樓下的東側，以有線電話與各指揮分所聯絡。

10月1日午飯後，楊成武就趕到了指揮位置。他拿著開國大典儀式安排，對著秒錶開始計時。通過擴音器，他聽到了雄壯的國歌樂曲，聽到了毛澤東向世界的鄭重宣告。終於等到了，林伯渠祕書長宣佈了閱兵開始的命令。

朱德總司令在聶榮臻同車陪同下，檢閱了三軍部隊。隨後，楊成武用電話向東三座門外的指揮分所發出分列式開始的指令，這時候是他最幸福、也是最緊張的時刻。黨和國家領導人、各界人士注視著，廣場上30萬人民群眾注視著。楊成武也目不轉睛地盯著最先通過天安門主席臺前的水兵分隊，步兵師方隊走過來了，炮兵師方隊、戰車師方隊開過來了，空中編隊臨空了，直到最後3個騎兵方隊整齊通過。

在檢閱式和分列式兩個多小時裡，楊成武未敢離開自己的指揮位置，心隨著受閱方隊一次次走過廣場。