當初張國燾之所以投靠國民黨，原本以為能夠在國民政府中，撈到一個不小的官職。可是，讓他萬萬沒想到的是，蔣介石根本就瞧不起他這樣的可恥叛徒。於是，蔣介石就把張國燾交給戴笠去處理，讓他去軍統中幫忙。
蔣介石之所以把張國燾推給軍統特務頭目戴笠，他的意識很明顯，是想發揮一下張國燾這個叛徒的作用，讓他浸透到共產黨的內部，以便搞到一些對國民黨有用的情報。
其實，蔣介石的內心，對張國燾的叛變也是很鄙視的。老蔣曾經還 叮囑過戴笠說：“能叛變的共產黨人，利用利用就好了，不能太親近。因為說不定哪天，他又叛變國民黨了。”
然而，在軍統幹了沒幾年，張國燾那點本事就被戴笠看透了：“光吹牛，不見幹實事。”戴笠認為，本身共產黨內部就組織嚴密，防範有力，是很難浸透的。再說張國燾這個人在共產黨的內部，已經是老鼠過街人人喊打了的人，是不會有什麼人再跟他走了，所以戴笠也就不再重視張國燾了。
張國燾受到國民黨的冷落後，日子自然也是很難熬的。在1945年抗日戰爭結束的時候，張國燾在國民黨內，甚至連參政員的職務也被罷免了。後來，戴笠因為飛機失事喪命了，國民黨軍統事務都交給了鄭介民接管。
緊接著鄭介民在軍統內部進行了人事變動和裁員，讓張國燾出任善後救濟總署江西分署的署長。而當時，江西省主席恰巧又是王凌基，是張國燾曾經的冤家對頭。真是冤家路窄啊，自然有張國燾的好戲看了。
他們的冤仇，是王凌基在四川當軍閥時結下的。當時，在通南地區，王凌基被紅四方面軍打得狼狽不堪，大敗而逃。後來王凌基不僅被撤了職務，而且還被囚禁了好幾個月。因此，他可是恨透了紅四方面軍的，更何況，當時張國燾還是紅四方面軍的主要領導。
現在讓他與張國燾共事，自然不會讓張國燾好過。於是，王凌基經常是處處刁難，故意排擠和打壓張國燾，讓張國燾大受打擊，再也無法幹下去了。就這樣堅持了幾個月，張國燾就被排擠辭職了。沒有了工作的張國燾，每天都無所事事，只能靠跟朋友打麻將混日子。不久後，張國燾就移居到了上海。
1948年，張國燾不知從哪兒籌集到一筆錢。於是，他就和結識不久的魏明道、鄭家稼等幾個反動文人，一起創辦了“創進週刊”，繼續進行反共宣傳，幹了不少有害於共產黨的事情。
1948年底，當著名的遼瀋戰役取得大捷之後。我軍又緊接著，迅速開展了平津戰役、淮海戰役，此時的國民黨敗局已定，而全線崩潰的國民黨打算退守臺灣。此時，軍統特務頭目毛人鳳秘密安排後事。他指示手下特務，凡是共產黨的叛徒，一個也不準帶去臺灣，全部留在大陸。
隨即毛人鳳又來到上海，並特意找到張國燾說，要他留在大陸，並表示共產黨絕不會殺他，而且比去臺灣的作用要大。毛人鳳還特別強調，這是老頭子，也就是蔣介石的命令，不是他個人的意見。張國燾也是一個很聰明的人，如果留在大陸的話，共產黨是不會放過他的。因此，張國燾是絕不會聽從毛人鳳的安排，留在大陸的，他也必須趕緊逃跑。
1948年底，張國燾自己逃到了臺灣，並且還在臺北租了一棟房子棲身，國民黨自然也對他不聞不顧。沒過多久後，張國燾的房子就被國民黨東南軍政長官公署的人搶佔了，這就讓他在臺灣也呆不下去了。
1949年，張國燾被迫離開臺灣，移居到了香港。在香港的張國燾，看到朝鮮戰爭期間，金價上漲。於是，貪財的他，便把全部的身家5000美元，部投到了黃金市場上面。沒想到，黃金隨即暴跌，張國燾不僅一分錢也沒有賺到，反而把家底都賠了個精光。
此時的張國燾已經身無分文，只能依靠在學校教書的大兒子張海威勉強維持生計。此時，窮困潦倒的張國燾，對國民黨是失望透頂了。不過，此時的蔣介石，也只不過是依靠美國的扶持，苟延殘喘罷了。
與此同時，大陸的形勢卻是一片大好。於是，張國燾就萌生了想要回國定居的念頭。在1953年的時候，張國燾託人給中共中央捎信，表示了自己想要回大陸定居的想法。
當時，中央也給他回覆了，並且還派劉少奇轉達了中共中央對此事的態度，條件就是：張國燾要回來是可以的，但是他必須公開承認自己的錯誤，並且向中央交代他叛變期間的一切行動。
當稍信的人把中央的條件傳達給張國燾後，但張國燾卻不能接受這樣的條件，所以他回國的事情也就這樣被擱置了。後來，張國燾又向中央提出請求，希望允許他的二兒子張楚湘回國上學。
後在周總理的親自安排下，張楚湘被安排在廣州中山醫學院上學。張楚湘在醫學院讀了五年後，畢業去了香港行醫，有了穩定的收入。此時的張國燾也多少感受到了共產黨政策的寬大，也就逐漸與國民黨疏遠了。
在50年代的時候，臺灣和海外研究中國近代史和中共的人，曾多次找到張國燾，他們的目的多少有些不單純，有些是搞反共情報的目的。張國燾表現得非常謹慎，並表示拒絕與左派或者右派的人接觸。
1966年，大陸這邊的形勢也讓張國燾感到了恐懼。因為特殊的歷史背景，香港自然也被波及了。張國燾看到國內的劉少奇、彭真等一大批中共中央高階領導人遭到了打壓，香港街頭也出現了類似的行動。
張國燾想起自己以前的一些恩恩怨怨，感覺自己也在劫難逃。於是，他便向香港警察請求幫助，希望得到保護。
但是，張國燾在香港當局眼裡，只不過是一個平民百姓而已，更不可能專門保護他。張國燾感覺到自己在香港很不安全，而當時他有兩個兒子正好在加拿大留學，於是，張國燾便在1968年移民到了加拿大。
1977年的冬季，天氣非常寒冷，又大雪不止。遠在加拿大的張國燾躺在病床上，遭受到了病痛的折磨，相當艱難和淒涼，甚至連被子掉落了，也喊不來人幫忙，只能咬牙忍痛。
12月3日，張國燾不省人事。當醫生趕來檢查時，他早已經身亡了。等到楊子烈，以及他的子女聽聞張國燾去世的訊息趕來時，張國燾早已經被安放在太平間了，張國燾就這樣走完了自己可惡又可憐的一生。