絲綢之路的基本走向形成於公元前後的兩漢時期。它東面的起點是西漢的首都長安(今西安)或東漢的首都洛陽，經隴西或固原西行至金城(今蘭州)，然後透過河西走廊的武威、張掖、酒泉、敦煌四郡，出玉門關或陽關，穿過白龍堆到羅布泊地區的Murano。

漢代西域分南道北道，南北兩道的分岔點就在Murano。 北道西行，經渠犁(今庫爾勒)、龜茲(今庫車)、姑墨(今阿克蘇)至疏勒(今喀什)。南道自鄯善(今若羌)，經且末、精絕(今民豐尼雅遺址)、于闐(今和田)、皮山、莎車至疏勒。

從疏勒西行，越蔥嶺(今帕米爾)至大宛(今費爾干納)。由此西行可至大夏(在今阿富汗)、粟特(在今烏茲別克)、安息(今伊

朗)，最遠到達大秦(羅馬帝國東部)的犁靬(又作黎軒，在埃及的亞歷山大城)。

另外一條道路是，從皮山西南行，越懸渡(今巴基斯坦達麗爾)，經罽賓(今阿富汗喀布林)、烏弋山離(今錫斯坦)，西南行至條支(在今波斯灣頭)。如果從罽賓向南行，至印度河口(今巴基斯坦的卡拉奇)，轉海路也可以到達波斯和羅馬等地。

這是自漢武帝時張騫兩次出使西域以後形成的絲綢之路的基本幹道，換句話說，狹義的絲綢之路指的就是上述這條道路。 歷史上的絲綢之路也不是一成不變的，隨著地理環境的變化和政治、宗教形勢的演變，不斷有一些新的道路被開通，也有一些道路的走向有所變化，甚至廢棄。

比如敦煌、羅布泊之間的白龍堆，是一片經常使行旅迷失方向的雅丹地形。當東漢初年打敗蒙古高原的北匈奴，迫使其西遷，而中原王朝牢固地佔領了伊吾(今哈密)以後，開通了由敦煌北上伊吾的“北新道”。 從伊吾經高昌(今吐魯番)、焉耆到龜茲，就和原來的絲路北道會合了。

南北朝時期， 中國南北方處於對立的狀態，而北方的東部與西部也時分時合。在這樣的形勢下，南朝宋齊梁陳四朝與西域的交往，大都是沿長江向上到益州(今成都)，再北上龍涸(今松潘)，經青海湖畔的吐谷渾都城，西經柴達木盆地到敦煌，與絲路幹道合; 或更向西越過阿爾金山口，進入西域鄯善地區，與絲路南道合，這條道被稱作“吐谷渾道”或“河南道”，今天人們也叫它作“青海道”。

還有從中原北方或河西走廊向北到蒙古高原，再西行天山北麓，越伊犁河至碎葉(今托克馬克附近)，進入中亞地區。這條道路後來也被稱作“北新道”，它在蒙古汗國和元朝時期最為興盛。