对于李渊的家世渊源、出身籍贯，旧史上记载不一，疑团不少，每一种说法都振振有词，说得跟自己家对门李大爷的事似的。比如说其籍贯，宋朝牛人欧阳修、宋祁的《新唐书》记载为陇西成纪人，而同为宋代人修的《册府元龟》和五代时人的《旧唐书》等则记载为陇西狄道人，而到李渊曾祖李熙时移民到武川。有的历史学家经过层层剥丝抽茧认为，李唐祖上虽然有一些行踪可考，移民武川之事纯属扯淡。
至于说其祖上为西汉名将李广之后，更是八字没一撇的拉郎配。
唐朝人李延寿撰《北史》一百卷，其在全书之后作“序传”，更是肯定地认为“李氏之先”出自帝颛顼高阳氏。在唐尧之时，高阳氏有个儿子叫庭坚，官居“大理”，因自称为理氏。在商纣之时，其先人以直道得罪逃隐，因为食木子而得活命，遂改理为李氏。周朝时的柱下史李耳是其祖上。
说来说去，都是因为老李最后做皇帝了，皇帝怎么可以是凡人，要粉饰，要放一些光芒。
有人捧场就有人来砸场子，砸场子的人是近代著名史家陈寅恪。按照陈先生的说法是：“李唐先世本为汉族，或为赵郡李氏徙居柏仁之‘破落户’，或为邻邑广阿庶姓之‘假冒牌’，既非华盛之宗门，故渐染胡俗，名不雅驯。”
这个说法更是反其道而行之，意思是说李渊先生的家世不过是破铜镀金，那些好听的话都是一派胡言。
抛远了不好说，但有一点是可以肯定的。在李渊的祖父李虎时期，其家族就开始进入黄金时期。李虎因为积极参与后魏权臣宇文泰的政变并一举获得成功，与宇文泰、太保李弼、大司马独孤信等八人一起被称为“八柱国家”。因此成为西魏的开国功臣，官至太尉，还被赐予鲜卑姓大野氏，这个“大野氏”是国姓。由此可以肯定，李渊的祖上是依靠军功起家的，后来又倚赖婚姻巩固了这样的家世门风。以八大柱国为核心的军人之家，历史上统称为关陇军事贵族集团。
一个新兴的贵族集团横空出世，一飞冲天，延续了中国贵族时代的寿命，并开创了一个前所未有的伟大时代，这就是纵横中国近二百年的关陇军事贵族集团，他起源于西魏，初建于关中，共创造出四个王朝，分别是西魏、北周、隋、唐，这在中国历史上是绝无仅有的奇迹，并将中国推向了一个新的历史高峰，其发端便是盛极一时的西魏八大柱国。
由于李渊的祖父李虎和宇文泰交情很深，在宇文泰的儿子篡（西）魏建（北）周时，虽然他本人已经不在人间，但仍被追封为唐国公。
也就是从这时候起，李渊的家世就与唐联系起来。
所谓唐，就是传说中尧舜禹中的唐尧之唐。李渊的父亲李昞在北周时官居安州总管、柱国大将军，袭爵唐国公。李渊建立大唐之后，追尊祖父李虎为太祖景皇帝，追尊父亲为世祖元皇帝。
在北周时期，李渊的父亲就移居到了当时的国际大都市长安。
由于父亲死得早，家中排行第四的李渊七岁就袭爵唐国公。他的母亲独孤氏，是同为八柱国之家的独孤信的女儿，丈夫死了独孤老太太真孤独了。值得欣慰的是孤独的独孤老太太生了个好儿子李渊。
独孤信的长女是北周明帝的皇后，还有一个女儿是历史上著名的隋文帝杨坚的皇后。这么说来，李渊的家世自从祖父以来，就喜洋洋加牛气冲天。不仅是北周皇室宇文氏的姻亲，也是隋朝老杨家的贵戚。细论起来，李渊乃是隋文帝的内甥，隋炀帝杨广的姨表兄弟。
李渊的妻子窦氏，也是鲜卑军事贵族。其父窦毅，在北周时为上柱国，母亲是北周武帝的姐姐襄阳长公主。窦氏自幼聪明，读书能够过目不忘，武帝非常喜欢这丫头，就将其养于宫中。长大后，窦毅见闺女要才有才，要貌有貌，不能随便嫁个凡夫俗子，要为她善择“贤夫”。何谓“贤夫”，就是看事情要准，做事情要稳，要有眼光。于是窦老头就在门屏上画了两只孔雀，约定凡求婚者发给两支箭，能用箭射中孔雀眼睛者才有资格。结果前后有求婚者数十人，均未能如愿。
轮到李渊上场，啪啪，举手之间连发两箭，各中孔雀一目，帅不可挡。
窦毅大喜，将女儿许配给他。这说明在他们生活的北朝时期，武学才艺仍然是贵族子弟的立身之道，娶妻之本。
李渊能够脱颖而出，反映出他此时的卓尔不群，家世好，武功好，有前途！
可以说，从家庭背景到个人素质，从姻亲关系到政治表现，李渊都是隋炀帝时期政坛上的一个明星人物。而且他的政治野心随着隋王朝的走势而瓜熟蒂落。这一点，唐朝的国史并未隐瞒。《旧唐书》在记载史世良说“公骨法非常，必为人主，愿自爱，勿忘鄙言”之后，编者跟着加了一句，“高祖颇以自负”。
有时候家庭出生能让一个人少奋斗很多年。尤其在那个极其注重家庭门第出身和姻亲关系的时代，李渊一出场就踩着先人的肩膀达到了某种高度。他自言“承七叶之余庆，资五世之克昌”，就是说他也承认学会数理化，不如有个好爸爸的人生现状。
在隋朝建立之初，李渊还只因贵族的出身补为千牛备身。
千牛备身，听起来有点像在码头扛包的体力活，其实也就是皇帝身边的挎刀侍卫。
这个岗位在当时也是许多贵族子弟的进身之阶，不过，一直到隋文帝在世时，李渊也没干出多大的名堂。也就做到地方州郡一级的最高行政长官——刺史（后称为太守）。
到隋炀帝大业年间，李渊才调任中央朝廷担任了殿内少监，后来又改任卫尉少卿。在他个人的政治发展过程中，他那个靠射箭比赛赢来的老婆窦氏发挥过重要作用。
李渊任职地方时，她曾经劝李渊迎合隋炀帝对声色犬马的喜好，将自己的数匹骏马进献。李渊开始还有点舍不得，结果招致隋炀帝的不满。连几匹马都舍不得，还想升官，做梦去吧。
后来，摔了几次跟头，吃了几次亏，李渊才幡然醒悟，屡屡搜求鹰犬进献，很快便得到了升迁。