杨坚成为北周静帝宇文阐的大丞相之后，归还李渊本姓。开皇元年（公元581年），杨坚建立隋朝，即隋文帝。

李渊入隋后，担任千牛备身（皇帝的禁卫武官）。由于独孤皇后、隋文帝的亲近器重，他在此期间历任谯（今安徽亳州）、岐（今陕西凤翔）、陇（今陕西陇县）三州刺史。娶妻窦氏。

窦氏，系出名门，其父窦毅出身代北窦氏，深沉有器度，事亲至孝。起家员外散骑侍郎，随北魏孝武帝西迁，受封奉高县子。西魏时期，累迁骠骑大将军、开府仪同三司、豳州都督。孝闵帝践阼，进爵神武郡公，授上柱国、大司马，娶了宇文泰之女，周武帝宇文邕的姐姐襄阳长公主。

窦氏与李渊完婚之后，夫唱妇随，夫妻恩爱，先后生了四个儿子：

李建成、李世民、李玄霸、李元吉。

一个女儿，即平阳昭公主李氏，后来，许配柴绍为妻。历史上赫赫有名的“李娘子镇守娘子关”的李娘子，就是他们的这个女儿。

娘子关历史悠久，据今记载，隋开皇时曾在此设置苇泽县。娘子关原名“苇泽关”，因唐朝平阳公主曾率兵驻守于此，平阳公主的部队当时人称“娘子军”，故名“娘子关”。

娘子关在河北、山西两省交界处，是晋冀的咽喉要地，是长城的著名关隘，有万里长城第九关之称，为历代兵家必争之地。

且说，唐高祖李渊和窦氏。史料记载：“后事元贞太后，以孝闻；善书学，类高祖之书，人不能辨。工篇章，而好存规戒。”

李昞早年亡故，家事全由李渊母独孤氏（元贞皇后）一人操持。一生辛苦，晚年常患病卧床。窦氏侍奉汤药，从无倦色。

有一次，独孤氏病势沉重。家中几个年长的妯娌嫌独孤氏脾气暴躁，不愿侍奉，全部托病退出，只有窦氏昼夜陪伴在侧，小心侍候，衣不解带，达一月有余。独孤氏对这个儿媳，据说甚是喜爱。

窦氏从小长在皇宫，熟谙政治，喜读史书，擅长书法。与李渊志趣相投，两人也能在一起畅谈诗词歌赋。因为从小生活在宫里，在朝政上窦氏也给了李渊指点。

史载，窦氏从小长在皇宫，熟谙政治，曾经劝说李渊不要把好马留在家里，要及早献给皇帝，以免引起隋炀帝忌妒。李渊当时没有听从，后来不得不被迫献马以打消隋炀帝的疑心。

隋炀帝杨广即位之初，李渊先后做了荥阳（今河南荥阳）、楼烦（今山西静乐）两个郡的太守，后来又被征入朝任殿内少监。

大业九年（公元613年年）春，调任卫尉少卿，掌管宫廷禁卫事，开始由文官转任武职。炀帝征伐高句丽时，是大业八年到十年间，李渊在怀远镇（今辽宁辽中附近）督运粮草。

大业九年（公元613年），16岁的李世民迎娶13岁的长孙氏，时年李渊从四品卫尉少卿。所以，婚礼并不引人瞩目，而且两人婚后不久，灾难就降临了。

李世民的母亲窦氏在跟随担任督粮官的李渊到怀远（辽中）督运粮草的时候，于涿郡（北京）病倒。

尽管李世民衣不解带的照顾母亲，还是没能保住窦氏的命。史书记载，隋大业九年（公元613年），杨广远征高句丽，李渊奉命驻镇怀远（辽中）督运粮草，妻子窦氏随夫出征。返回途中，窦氏不幸染疾，病逝于涿州，享年45岁。

窦氏病逝后不久，长孙氏的舅舅高士廉因与斛思政交好，而受到“杨玄感事件”的牵连被外放到岭南。

大业九年六月，杨玄感利用民愤举兵反隋，李渊奉炀帝之命镇守弘化郡（今甘肃庆阳），兼知关右诸军事。在此期间，李渊广交天下豪杰，同样，遭到隋炀帝的猜疑。

大业十二年（公元616年），因多次进献鹰犬给炀帝，得以升为右骁卫将军。后来，李渊调任太原任职。17岁的李世民随李渊居守太原。15岁的长孙氏追随李世民左右，在没有婆婆妯娌的帮助下独自将府邸打理得井井有条。