會昌二年（842），吐蕃贊普朗達瑪被刺身亡，由此引發了吐蕃內部以囊德約松及墀德雲丹為首的二子爭位事件。吐蕃王國內部的爭權鬥爭，削弱了其對河隴的統治。大中二年（848），張議潮起兵反蕃，並隨即派遣以悟真等人為首的多路使團前往長安。在大中五年（851）歸義軍節度的設定，這時候歸義軍的地盤是沙州，並由此向東至瓜州或甘州，此時涼州依舊在河西吐蕃的治下，在大中十二年（858）八月，張議潮展開了東征涼州的軍事行動。在經歷了三年的征討後，鹹通二年（861），張議潮率軍收復涼州，歸義軍的勢力達到頂峰。然後在鹹通四年（863）唐朝廷又置涼州節度，《新唐書》卷67《方鎮表四》“河西”條鹹通四年載：“置涼州節度，領涼、洮、西、鄯、河、臨六州”，這個時候河西出現了歸義軍和涼州節度兩個藩鎮共存的局面，雖然張議潮率軍收復涼州，但是涼州作為中央政府重要的軍政建置，歸義軍與涼州節度的關係，行政劃分上並不是是從屬，實際上置涼州節度設定明顯反映出懿宗君臣力圖削弱歸義軍。在設定涼州節度後，歸義軍被剝奪了對涼州等地的控制權，但張議潮並沒有放棄對涼州的政治訴求。在涼州節度設定之後，張議潮仍然堅持使用了此前所自稱的“河西節度使”，表明了其並沒有放棄控制整個河西道的願望。因此涼州在晚唐雖然不是歸張議潮的歸義軍控制，但是依舊受到其影響。

晚唐時期控制涼州是唐朝中央設立的”涼州節度使“，不是歸義軍。

唐大中二年（公元848年），趁著吐蕃衰落內戰的機會，張議潮帶領沙州漢人發動起義，一舉驅逐當地吐蕃駐軍，又經過十餘年的戰鬥，到861年，攻克了原唐河西節度使的駐地涼州。

這時的歸義軍勢力達到了鼎盛時期，直接控制範圍包括沙州、瓜州、肅州、甘州、伊州和涼州六州。張議潮的志向是恢復唐朝當年的“河西節度使”建制，向唐朝請求卻未果。因為唐朝已經開始猜忌張議潮。朝廷認為歸義軍勢力過大是一種威脅，需要加以防範。

於是朝廷下令歸義軍退出剛剛收復不久的涼州，設定涼州節度使，由唐朝中央派出官員管理。又從山東天平軍節度使處調兵八千人鎮守涼州，名義上是防備吐蕃殘餘勢力，實際上是防範歸義軍。隨後，唐朝又下詔將歸義軍的轄區正式從十一州縮小為五個州。

此外，唐朝對於剛從吐蕃奴役下襬脫出來的漢人十分不信任。在吐蕃崩潰之時，曾有大批漢人奴隸群起反抗，這些人被稱為“溫末人”，他們成立了強大的武裝團體，為歸義軍恢復西北做出了不小的貢獻。但是，他們由於被長期奴化，文化習俗很大程度上吐蕃化了，因而被唐朝視為異類而排斥。

張議潮希望朝廷能接納這些人，恢復對西北的治理。他上書朝廷指出：這些被朝廷排斥的溫末人其實原本是唐朝西北戍邊將士的後裔，只是在安史之亂後淪入吐蕃被吐蕃化，朝廷如果能誠心接納他們，他們就可以迴歸漢人身份，唐朝也就可以恢復盛唐時期對西北的統治。

但是，唐朝朝廷對於仍保持漢人習俗的張議潮本人和歸義軍都非常不信任，對於那些已經吐蕃化的漢人就更不能接受了。朝廷對於溫末人的排斥，最終導致其與朝廷為敵。唐朝的涼州節度使在當地處於非常孤立的狀態，僅僅能控制州城附近小塊地區，周邊區域全在割據自立的溫末人手中。最後到五代時，涼州州城也落入了溫末人之手。

值得一提的是，這些溫末人對涼州的統治持續到了宋朝，到北宋時期他們希望和北宋聯合對抗西夏的入侵，被北宋無視。最後西夏佔領了涼州。