第一个被收拾的是薛举。薛举在兰州称帝，手下有十万大军，还曾打败过李世民，气焰挺嚣张。公元618年八月，薛举病死，儿子薛仁杲继位。李渊派李世民去打，李世民知道薛仁杲骄傲自大，就故意坚守不出，耗了两个月，把薛仁杲的粮草耗光了，然后一战定乾坤，活捉了薛仁杲，平定了西秦。
接着是刘武周。刘武周靠突厥支持，占领了太原，还派宋金刚率军南下，差点把李渊的老巢端了。李渊一开始派裴寂去打，结果裴寂是个文官，根本不会打仗，输得一塌糊涂。李渊没办法，只好又派李世民出马。李世民还是老办法，深沟高垒，跟宋金刚耗了五个月，最后趁宋金刚粮草断绝，一举将其击败，收复了太原。
搞定了西边和北边，李渊把目光投向了东边的王世充和窦建德。公元620年七月，李世民率军东征王世充，把洛阳围了个水泄不通。王世充急了，派人去求救窦建德。窦建德也不傻，知道“唇亡齿寒”，就率十万大军来救洛阳。这下麻烦了，李世民陷入了腹背受敌的境地。
手下人都劝李世民退兵，可李世民却说：“王世充现在就是瓮中之鳖，窦建德远道而来，疲劳不堪，咱们只要分兵，一部分继续围洛阳，一部分去打窦建德，就能两全其美！”于是李世民留李元吉继续围洛阳，自己带三千精锐，直奔虎牢关，迎战窦建德。
公元621年五月，虎牢关之战爆发。李世民先是坚守不出，等窦建德军心涣散，然后亲率精锐，直冲窦建德的中军大营。窦建德当时正在开会，没防备，被唐军杀得大败，自己也被活捉了。王世充在洛阳城上看到窦建德被抓，知道没希望了，只好开城投降。这一战，李世民一下子灭了两个强敌，唐朝统一的大局，基本定了。
可就在李渊忙着平叛的时候，家里的矛盾却越来越深了——太子李建成和秦王李世民，开始争皇位了。
李建成是老大，按规矩该当太子，可他知道自己的功劳不如李世民，心里一直不安。李元吉是老四，跟李建成关系好，也怕李世民当了皇帝自己没好果子吃，就跟李建成一起，处处针对李世民。他们先是在李渊面前说李世民的坏话，说他“功高盖主，有不臣之心”；然后又收买李世民身边的人，想离间李世民和手下的关系；甚至还想下毒害死李世民——有次李建成请李世民喝酒，李世民喝了之后，吐了好多血，差点没死了。
李渊也知道两个儿子不对付，可他也没什么好办法。一方面，他觉得李建成是太子，不能随便废；另一方面，他又知道李世民功劳大，手下人才多，也不能委屈了李世民。于是他就想了个“折中”的办法：让李世民去洛阳，建天子旌旗，跟李建成分治天下。可李建成和李元吉不同意，说“要是让李世民去了洛阳，就成了第二个朝廷，到时候更难控制”，李渊一听，又犹豫了，这事就不了了之。
《旧唐书·隐太子建成传》里说：“建成、元吉潜谋害太宗，太宗遂起玄武门之变。”其实这话有点偏，李建成和李元吉确实想害李世民，但李世民也不是省油的灯，他手下的长孙无忌、房玄龄、杜如晦这些人，早就劝他先下手为强了。李渊的犹豫不决，其实是把李世民逼到了绝路上。
公元626年六月初四，长安城里出大事了。
那天早上，李建成和李元吉像往常一样，骑着马去皇宫上朝，刚走到玄武门，突然从两边冲出一群人，为首的就是李世民。李建成一看不对劲，拔腿就想跑，李世民张弓搭箭，一箭就把李建成射落马下，当场死了。李元吉吓得掉转马头，想跑回皇宫找李渊求救，结果被李世民的手下尉迟恭追上，一刀砍了脑袋。
这就是历史上着名的“玄武门之变”。
事变发生时，李渊正在皇宫里划船，享受着难得的清闲。突然，尉迟恭浑身是血地冲了进来，手里还提着李建成和李元吉的脑袋，跪在李渊面前说：“太子和齐王谋反，秦王已经把他们杀了，特命臣来保护陛下！”
李渊手里的船桨“啪”地掉在了水里，他愣了半天，才反应过来——两个儿子没了，剩下的只有李世民一个儿子了。他看着尉迟恭手里的脑袋，又想起这些年两个儿子的争斗，心里又痛又悔，可他知道，现在说什么都晚了。
身边的大臣萧瑀、陈叔达赶紧劝他：“陛下，太子和齐王本来就没什么功劳，还老想害秦王。秦王功盖天下，百姓归心，不如就立秦王为太子，这样天下就安定了。”（看来李世民没少做老爹跟前心腹的工作）李渊叹了口气，说：“好吧，我早就想这么做了。”
三天后，李渊下旨，立李世民为太子，并且宣布：“从今往后，国家大事，无论大小，都由太子裁决，然后再告诉我。”（《旧唐书·高祖本纪》）这话一出口，李渊其实已经把皇帝的权力交出去了。
接下来的几个月，李渊过得很煎熬。他看着李世民一步步清除李建成和李元吉的势力，看着李世民的手下一个个身居要职，心里明白，自己这个皇帝，已经成了摆设。公元626年八月，李渊下了道禅位诏书，把皇位传给了李世民，自己当起了太上皇，搬到了太极宫西边的大安宫居住。
退位后的李渊，日子过得挺清闲，可也挺寂寞。他不再管朝政，每天就在宫里看看书、养养花，偶尔也会参加李世民举办的宴会。有次李世民请李渊吃饭，李渊喝多了，拉着李世民的手说：“当年太原起兵，多亏了你；后来平定天下，也多亏了你。我当初要是早点立你为太子，就不会有玄武门之变了。”李世民听了，赶紧跪下说：“都是儿臣不好，让父皇担心了。”
其实李渊心里清楚，李世民的皇位，是靠刀枪拼来的，可他也明白，只有李世民，才能守住大唐的江山。公元635年五月，李渊在大安宫去世，享年七十岁。他的谥号是“太武皇帝”，庙号是“高祖”，后来被葬在了献陵。
提起李渊，很多人都会觉得他不如儿子李世民——李世民有“贞观之治”，有“天可汗”的称号，而李渊呢，好像除了太原起兵、建立唐朝，就没什么拿得出手的功绩了。
可事实真的是这样吗？
要是没有李渊早年的“韬光养晦”，要是没有他在太原积攒的实力，李世民就算有天大的本事，也没机会施展；要是没有李渊制定的“先取关中，再平天下”的战略，唐朝也不可能在短短几年内统一全国；要是没有李渊在建国初期制定的各项制度——比如三省六部制、均田制、科举制，李世民的“贞观之治”也无从谈起。
《旧唐书》里评价李渊：“高皇创图，势若摧枯。国运神武，家难圣谟。”这话其实很中肯。李渊不是一个软弱的皇帝，他只是比李世民更懂得“隐忍”和“时机”；他也不是一个昏庸的皇帝，他只是在家庭和国家之间，选择了对国家更有利的一方。
他是大唐的开国皇帝，是李世民的父亲，是“贞观之治”的奠基人。他的一生，有逆袭的传奇，有妥协的无奈，也有作为父亲的痛悔。但无论如何，他都用自己的方式，结束了隋末的乱世，开启了一个属于大唐的新时代。
参考《旧唐书·高祖本纪》《旧唐书·隐太子建成传》《隋书·恭帝纪》