從李淵的爺爺開始，就是李虎，李虎跟著宇文泰，在北魏滅亡後建立了西魏，是開國功臣，當過太尉、尚書左僕射，還有一個公級別的爵位，隴西郡公，後來，又受封柱國將軍，是當時的八柱國之一，所謂柱國，自然就是國家的頂樑柱的意思，其地位可見一斑。

李淵的父親，安安穩穩地接替了李虎地爵位和家財，此時西魏改叫北周了，李淵的父親當過這樣幾個官職：御史大夫、安州總管、柱國大將軍，不是權力核心就是一方總管。

雖然當時李淵上面還有三個哥哥，但是李淵在各個方面都要比他的三個哥哥強，人脈廣，能力強，而且和當時的帝王私交比較好。李淵的父親就認為將爵位傳給李淵更加好一些，說明他是一個看能力的人。

李淵有三個哥哥，而他的父親一共就只有四個兒子，那麼李淵就是其中最小的一個孩子了。因為當時也算是一個比較混亂的世代，在各個方面都是不穩定的，所以在考慮繼承人方面就不是按照傳統的思路來考慮了。並不是要講究嫡長子繼承爵位，而是看能力來，沒有能力在當時的時候就算有權力最後的結局也好不到哪裡去。

尤其是李淵的家族並不是普通的家族，可以說李淵就是皇親貴族，他和後來的隋文帝可以說是親戚。這樣的家族更是需要一個有能力的人來帶領，所以李淵的父親李炳就選擇了他認為能力比較出眾的李淵來接管家族。

按照當時的情況也確實是這樣，雖然李淵的年紀是兄弟幾人當中最小的一個，但是他的能力卻是兄弟中最出眾的一個。首先就是他有很廣的人脈，因為性格原因就特別愛交朋友，要知道朋友多了好處也是自然就多。在加上李淵做事也比較得體，辦事辦得好，這樣的情況下自然會選擇李淵當作家族的繼承人。

西魏大統十七年（551年），戎馬半生的西魏柱國、隴西郡公李虎在長安去世，因為他的長子李延伯、次子李真都在之前的征戰中陣亡在戰場上（可見李氏家族的榮耀富貴也不是輕鬆得來的），所以由第三子李昞（李淵的父親）承襲了柱國、隴西郡公的官職爵位。

此後李昞先後擔任驃騎大將軍、開府儀同三司、侍中等官職。並迎娶了同為八柱國之一的河內公獨孤信第四女為嫡妻。獨孤信的長女嫁給了宇文泰庶長子宇文毓、七女嫁給了大將軍楊忠的嫡子楊堅，因此，李昞和宇文氏家族、及權勢相當的楊氏家族都有著極為親密的關係，這也是他以及他的家族在之後的發展中最重要的依仗。

李淵是李昞的第四子，換句話說，李昞上面本身就有三個哥哥，三個哥哥分別是長子李澄，次子李湛，三子李洪。

李淵繼承爵位的時候，也不過是個七歲大的孩子，若是說，七歲大的孩子能夠憑藉真才實幹搶奪三兄弟的唐國公爵位，那這個七歲大的的李淵著實是不一般的。

從歷史的角度來看，李淵的這三個兄長，更可能是因為英年早逝，因此沒有繼承爵位。

李湛的兩個兒子李博義和李奉慈在唐朝建立後，也都被封王。但他們卻驕奢淫逸，不遵循法度。兩個兒子如此不成器，可見李湛的家庭教育很失敗。或者，他本人也是這樣的人。因此，李昞才沒有立他為世子。李淵被隋文帝器重。因為與皇帝有著親戚關係，所以年幼的李淵得以時常出沒宮廷。隋文帝特別器重李淵，李淵又為人隨和，所以李昞為了家族的百年大計，便將李淵定為繼承人，讓他在自己死後繼承唐國公的爵位。

隴西郡開國公李虎就是李淵的祖父，李虎去世後，他的兒子李昞襲封隴西郡公。等到北周建立後，當時的皇帝又追封李虎為唐國公，因為李虎已經去世了，所以唐國公的爵位就被李昞世襲了。不過李昞在這個位置上沒有呆多久就去世了，而唐國公的位置就由七歲的李淵的來繼承了。

李昞（？—572年），亦作李昺，嬴姓李氏，字明澤，南北朝時期北周人，祖籍隴西成紀，是唐朝開國皇帝李淵的父親，妻為獨孤信第四女元貞皇后獨孤氏，唐太宗李世民的祖父。出身隴西李氏，家族世代都仕於北朝，其父李虎為西魏八大柱國之一，稱隴西郡公。西魏大統十七年（551年），隴西郡公李虎去世，李虎一共八個兒子，李昺是第三子，由於李昺大哥李延伯出仕北齊、二哥李真殉國，李昞承襲為隴西郡公。564年，加封唐國公。曾任北周安州總管，柱國大將軍。