李淵的父親是李昞，北周時歷官御史大夫、安州總管、柱國大將軍。母為隋文帝獨孤皇后姐，所以特別受親重。

隋煬帝即位後，李淵任滎陽(今河南鄭州)、樓煩(今山西靜樂)二郡太守。後被召為殿內少監，遷衛尉少卿。大業十一年(615)，拜山西河東慰撫大使。十三年，拜太原留守。當時，隋末農民起義遍佈全國，政局動亂。李淵便與次子李世民在大業十三年五月起兵叛亂，並從河東(今山西永濟西)召回長子李建成和四子李元吉。李淵叛亂後，一面遣劉文靜出使突厥，請求始畢可汗派兵馬相助，一面召募軍隊，並於七月率師南下。此時瓦崗軍在李密領導下與困守洛陽的王世充激戰方酣，李淵乘隙進取關中。

李昞(536年-573年)是李淵的父親,是為隋的唐國公,死後諡唐仁公。 李淵登位後,他被尊為皇帝,廟號唐世祖,諡號元帝.

李淵祖籍隴西成紀（今甘肅秦安），他的祖父李虎，是後魏的隴西郡公，官最高到太尉，死後追封唐國公，這就是後來李淵所建大唐年號的來歷。李淵的父親繼承了唐國公的封號，在北周時任柱國大將軍。在公元566年（北周天和元年）出生於長安，僅七歲就繼承了唐國公的稱號。因為有了較高的出身，加上他本人的豁達與寬厚，才幹出眾，因此威望很高。他的妻子竇氏也是隋朝貴族出身，作為一名難得的賢內助，竇氏對李淵的作用不可忽視。