这真是天赐良机。他私下对王威和高君雅说：“武周虽无所能，却敢僭（jiàn）称尊号。万一他占据汾阳行宫，而我等又不能将其剪除，此乃灭族之罪啊！”王、高二人也觉得此事非同小可。汾阳行宫所在的楼烦郡（今山西静乐县）与马邑郡相邻，里面不但储积了无数钱帛，而且住着很多宫女，很可能成为刘武周的下一个攻击目标。所以他们极力要求李渊赶紧征兵，以讨伐刘武周。
李渊心中暗笑。他知道王威和高君雅急了，可他不急。他慢条斯理地说：“再观察看看吧，通知楼烦稍作防备就可以了，我们要以静制动，以免自扰军心。”三月中旬，刘武周果然攻破楼烦，并袭取汾阳行宫，将其中的宫女悉数俘获，献给了东突厥的始毕可汗。王威和高君雅大为震恐。下一步，刘武周的兵锋绝对是直指太原了。
可李渊依旧气定神闲。他召集众文武将官说：“命士兵戒严，加强城池布防，拨粮赈济流民。这三件事如今废一不可，其他的事情，就看诸位的了。”
早已急不可耐的王威和高君雅立刻拜请说：“今日太原士庶之命，悬在明公。公若推辞，谁能担此大任？”
李渊知道，现在招募和调遣军队的理由已经非常充分了，而且王、高等人的心情都比他更为迫切，只等着他一声令下了。可李渊仍旧面露难色，说：“朝廷有令，将帅出征，一举一动都要向朝廷禀报，接受朝廷节制。眼下贼兵在几百里内，江都却在三千里外，加上道路险阻，一路上又有其他贼兵据守，一来一往，不知要到什么时候。率领这支事事要听从遥控指挥的军队，抵御狡黠诡诈、来势凶猛的贼兵，就像是叫书生去扑火，能扑得灭吗？诸公皆为国之藩篱，应当同心协力，以除国难。大家都是为了报效朝廷，最好不要相互猜疑。我今天之所以召集诸位，是想商议一个最妥善的办法，并不是消极怯战、推卸责任。”
王威等人连忙说：“公之文韬武略，远近皆知，并且兼具国亲和贤臣的身份，应当与国家休戚与共。如果事事奏报，如何应付突发事变？只要是为了讨伐叛贼，专擅行事亦无不可！”
要的就是这句话。李渊心头掠过一阵狂喜。可他脸上却装出一副无奈之状，勉强同意了王、高等人的请求，下令征兵。
命令一下，旬日之间便募集了近万人。这支队伍很快就将成为晋阳起兵的主力军。李渊命他们驻扎在兴国寺，私下对李世民说：“纪纲三千，足成霸业！处之‘兴国’，可谓嘉名。”同时分别遣使至河东和长安，催促李建成兄弟和女婿柴绍迅速前来太原集结。
万事俱备。
接下来的事情就是如何收拾王威和高君雅了。
然而，王威和高君雅也不是等闲之辈——能成为皇帝亲信并接受特别任务的人绝不会是笨蛋。
李渊的举动已经引起了他们的强烈怀疑。
因为李渊把招募来的军队分派给了三个人——李世民、长孙顺德和刘弘基。李世民是李渊的儿子，没什么好说的。问题出在后面这两个人身上。他们是什么人？他们都是逃避兵役的罪犯啊！早就应该处决了。本来没有告发他们就算是很给李渊面子了，现在李渊居然把军队交到这种逃犯手上，这是什么性质的问题？李渊到底想干什么？
王、高二人打算逮捕长孙顺德和刘弘基，以防生变。可他们的想法马上被一个人劝阻了。
他就是武士彠。
武士彠说：“这两个人都是唐公的座上宾，如果你们一定要动手，恐怕会激起事变。”王、高二人想想也有道理。如今刘武周和突厥人虎视眈眈，倘若这时候引发内讧，对谁都没有好处。于是他们只好暂时按捺下来。几天后，又有一个叫田德平的军官准备建议王威和高君雅调查李渊募兵的内情，武士彠知道后，又制止他说：“剿匪的军队全部隶属于唐公，王威和高君雅虽然挂着副留守的头衔，手中却没有实权，有什么能力调查！”田德平只好作罢。
可是随着局势的发展，王威和高君雅越来越觉得不对劲了。李渊的一举一动都让他们满腹狐疑并且心惊胆战。他们觉得李渊很可能要发动叛乱！王威和高君雅最后横下一条心，决定先下手为强。
由于当时的太原多日不雨，王、高二人就提出要在晋阳城南五十里处的晋祠举行祈雨大会，请李渊主持，准备在会上伺机将李渊干掉。
与此同时，李渊也一直在想办法解决王威和高君雅。双方都在暗中磨刀霍霍，是你死还是我亡，就看谁的出手更快了。
千钧一发之际，一个名叫刘世龙的当地乡长秘密来到李渊府上，把王威和高君雅准备在晋祠祈雨时动手的消息告诉了李渊。
刘世龙平日与高君雅颇有往来，所以他的消息应该是可靠的。李渊当即与李世民、刘文静等人紧急制订了一个行动方案。
大业十三年五月十四日夜，李渊命李世民和长孙顺德率领五百名士兵埋伏在晋阳宫城的东门。十五日晨，李渊召集王威和高君雅在宫城中的办公厅议事。众人刚刚坐定，刘文静就领着开阳府（禁军征兵府）司马刘政会来到厅前。刘政会的手里拿着一道诉状，大声禀报有事要奏。李渊示意王威和高君雅去接诉状，刘政会却说：“我要告的人正是两位副留守，只有唐公可以看！”
王威和高君雅猝不及防，顿时大惊失色。
李渊也装出一脸的惊诧，说：“怎么会有这种事？”接过诉状一看，立刻高声宣布：“王威与高君雅暗中勾结突厥，准备里应外合进攻太原。”
直到这一刻，王威和高君雅才意识到发生了什么。高君雅一下就跳了起来，卷起袖子破口大骂：“这是有人要造反，故意陷害我们！”
可是，一切都由不得他们了。此刻李世民的士兵早已控制了宫城外的所有重要路口，王威和高君雅已经毋庸置疑地成了瓮中之鳖。刘文静、长孙顺德、刘弘基等人迅速冲上来，将王、高二人当场逮捕，关进了监狱。
至此，所有准备工作全部就绪。与此同时，李建成、李元吉、柴绍等人也正在马不停蹄地向太原赶来。李渊再也没有顾虑了，只要李建成等人一到，晋阳起兵的历史大幕就会轰然拉开。
这就是晋阳起兵的动因和真相。
根据温大雅的记载，我们可以清楚地看到——李渊绝非胸无大志、庸庸碌碌之人，而是“素怀济世之略，有经纶天下之心”（《大唐创业起居注》）；并且是一位“勇敢的领袖、刚烈的对手和足智多谋的战略家”（《剑桥中国隋唐史》）。
也就是说，晋阳起兵的首谋之人，包括整个过程的组织者和全局总指挥，正是李渊本人。
但是在肯定李渊的同时，我们却不能轻易抹杀李世民在这次起义中所发挥的重要作用。虽然贞观史臣出于人所共知的原因美化了李世民，夸大了他的功绩，可我们在还原历史真相的时候却不宜矫枉过正。应该说，从“密招豪友”建立核心力量，到募集义兵组建军队，再到“伏兵晋阳宫”控制王威和高君雅，李世民在整个起兵过程中的表现都是可圈可点的。起码相对于来不及参加晋阳起兵的李建成和李元吉来说，李世民的首义之功就是他们无法比拟的。此外，李世民所表现出的年轻人特有的锐气和进取精神，也恰与李渊老成持重、顾全大局的性格形成一种微妙的互补。
按照王夫之的说法，李世民的表现是“勇于有为”，而李渊的表现则是“坚忍自持”。（《读<通鉴>论》卷二十）
从某种程度上说，也正是由于李渊父子在起兵叛隋、缔造大业的进程中既能保持战略思想上的一致，又有性格和行为方式上的互补，才能确保起兵的成功，并迅速崛起于群雄之间，最终开创大唐王朝。
在钢丝上跳舞：李渊的崛起
李渊虽然以“勾结突厥”的指控逮捕了王威和高君雅，但是，任何指控都是需要证据的。李渊的证据在哪里呢？
李建成等人还在路上，所以李渊还不敢正式起兵。在此情况下，如果李渊始终拿不出证据，很可能会引起人们的怀疑，导致兴师举义之事节外生枝。
让李渊料想不到的是，在这个紧张而微妙的时刻，老天爷居然帮了他一个大忙。
准确地说，是突厥人帮了他大忙。
大业十三年五月十七日，也就是李渊逮捕王、高二人的两天之后，数万突厥骑兵突然呼啸南下，以闪电速度对晋阳城发动了一场奇袭。
由于晋阳守兵猝不及防，致使突厥人迅速突破外城，在北门与东门之间纵横驱驰，如入无人之境。面对来势汹汹的突厥骑兵，李渊喜忧参半。喜的是自己随口栽在王威和高君雅头上的罪名居然出人意料地坐实了，而今铁证如山，王、高二人就算是跳进黄河也洗不清了；忧的是自己尚未举事便有强敌来犯，如果与他们开战，自己刚刚募集的这支军队就会被消耗掉，万一把老本赔光，还拿什么起兵？
情急之下，李渊决定唱一出空城计。
他一边命裴寂、刘文静等人在宫城（内城）各门暗中布防，一边下令将所有城门全部打开，将城头上的旗帜全部撤下来，同时严禁城墙上的士兵探头外看，严禁发出半点声响。
正在来回驱驰、耀武扬威的突厥人一瞬间全都静了下来。
因为他们看见晋阳宫的城门居然朝他们完全洞开，而且城头上看不见一名隋军士兵，整座宫城悄无声息，寂静得让人头皮发麻。
突厥人不敢贸然进攻内城，也不甘心就此离去，于是一边在外城继续劫掠，一边仍旧对内城虎视眈眈。
李渊登上东南城楼，发现突厥兵虽然人多势众，但是往来驰骋、人员分散，于是命部将王康达等人率一千余人潜行至外城北门处设伏，准备袭击突厥散兵，一方面劫掠一些马匹，一方面做一些战略试探。
但是王康达的行动失败了。他们刚一动手就被突厥兵团团包围，一千多人大部分战死，王康达阵亡，只有一百多人逃了回来。军民顿时大为恐惧，于是把怨气全都集中到“勾结突厥”的王威和高君雅身上。李渊顺势将王、高二人当众斩首，既平息众怒，又彻底根除了这两个心腹之患。
城中的军队本来就不多，现在又损失了一千人，看来硬打是不行了，而且这出空城计也唱不了多久。李渊随即又设下一个疑兵计，命部队在夜色掩护下潜出城外，然后第二天凌晨再旌旗招展、钲鼓齐鸣地从另一个方向进城。
突厥人一看就慌神了，看上去这是一支援兵，而且人数还不少！满腹狐疑的突厥人又逗留了两天，却一直不敢进攻，最终在外城饱掠一番后引兵北去。
晋阳虽然暂时解围了，但是对即将起兵的李渊来说，北方的突厥人始终是他背后的一个巨大威胁。万一他挥师长安，突厥人趁势进犯太原，那无疑会使他陷入腹背受敌、进退失据的困境。所以，必须暂时向突厥人低头，除此之外没有别的办法。
李渊亲自给始毕可汗写了一封辞意谦恭的信，说：“当今隋国丧乱，苍生困穷，若不救济，终为上天所责。我今大举义兵，欲安定天下，远迎君上还都，恢复与突厥和亲，就像开皇时代一样。如果能与我一同出兵南下，希望不要侵害百姓，金钱玉帛，皆为可汗所有；如果因为路途遥远不能南下，只愿和亲，也可坐享丰厚的财物。该怎么做，任凭可汗选择。”
写完后，李渊在信封上用了“某某启”的字样，以示谦卑。负责送信的官员看了那个“启”字觉得很不舒服，建议多给突厥人送一些财物，然后把“启”改为“书”。
李渊听了，大笑说：“这事你就不懂了，古人云：‘屈于一人之下，伸于万人之上！’况且‘启’字又不值钱，你连钱都舍得多给，还舍不得这一个字吗？”
东突厥的始毕可汗见信大喜。对他来讲，马邑的刘武周、朔方的梁师都、蒲城的郭子和都已经归附他了，如今太原留守李渊再来投靠，这就意味着隋帝国北部边境的军事重镇都已经向他豁然洞开了。日后一旦举兵南下，岂不是一路畅通无阻、如入无人之境了吗？
始毕可汗立刻给李渊回了一封信，表示全力支持他，可以给他提供士兵和战马，但条件是让他像刘武周等人那样自称天子，公开反隋。其实也就是让李渊向突厥称臣，成为突厥人的附庸。收到回信后，李渊的左右都很高兴，唯独李渊不以为然。他并不是不想获得突厥的支持，而是不想这么早就即位称尊、公然与隋朝决裂。
他的政治智慧告诉他——现在打着“尊隋”的旗号要远比“反隋”的旗号更安全，也更有利。
因为在胜败未卜、天下大势尚不明朗的情况下，“尊隋”要比“反隋”能获得更多闪转腾挪的余地和空间，而过早僭位称尊就会背负乱臣贼子的骂名，更会成为众矢之的。此外，李渊也不愿意像刘武周他们那样接受突厥的所谓“天子”册封，公开成为突厥人的附庸。道理很简单，与突厥人的合作本来就是迫于时势、不得已而为之的，或者说是只能一夕不能长久的，说白了，这是各取所需的政治一夜情。既然是一夜情，又怎么能大张旗鼓、广而告之呢？再说了，最起码在名义上、在现阶段，李渊仍旧倾向于把自己定位在隋朝的国戚和重臣的角色上，这样既不会过度伤害自己的民族自尊心和道义感，又能为自己的叛隋起兵抹上一层“匡扶社稷、安定天下”的政治保护色，并且为壮大自身的实力赢得更多宝贵的时间。
有鉴于此，李渊认为自己目前最恰当的姿态应该是在隋朝与突厥之间取得某种微妙的平衡，既不与隋朝决裂，也不与突厥为敌。
换句话说，他必须在隋王朝与突厥人之间走钢丝。
而且还要在钢丝上跳舞。
裴寂和刘文静等人看见李渊迟迟不答复突厥人，万分焦急地说：“而今士众已全部集结，最缺的就是战马。胡人的士兵我们不一定需要，但是胡人的马却不能不要。您如果迟迟不接受他们的条件，恐怕他们会反悔。”
李渊依旧不同意，说：“你们再想一个折中的办法。”
六月初，李建成、李元吉和柴绍终于抵达太原。裴寂与李建成、李世民等人商议之后，一起向李渊提出了一个在钢丝上跳舞的办法：“废皇帝而立代王；兴义兵以檄郡县；改旗帜以示突厥。”如此则“师出有名，以辑夷夏”。（《大唐创业起居注》）
李渊笑了。
首先，宣布废黜杨广，拥立长安留守、年幼的代王杨侑，这样既能顺应天意人心，还能抢占政治制高点，挟天子以令诸侯，为造反披上一件正义与合法性的外衣。其次，有了这件美丽的外衣，就能堂而皇之地传檄天下，团结一切可以团结的力量，缔结一个最广泛的统一战线，争取不战而屈人之兵，用最小的代价换取最佳的结果。最后，为了获得突厥人在政治和军事上的支持，不妨在军队的旗帜上改用突厥人所用的白色，以此向突厥示好。
很显然，这是一套既务实又灵活，既不偏不倚又左右逢源的师出有名的起兵方案。李渊几乎原封不动地接受了。
他只修改了其中一个小小的细节。在军旗的颜色上，李渊既没有使用隋朝的红色，也没有使用突厥的白色，而是使用红白相间的双色。
在钢丝上跳舞！
李渊决定将这个政治理念贯彻到底。
大业十三年六月初五，在经历了一连串惊险和曲折之后，以李渊为首的这个政治军事集团终于在太原正式起兵。
隋亡唐兴的历史大幕就此拉开。李渊的战略目标非常明确，就是隋帝国的政治心脏——西京长安。要进军长安，首先必须攻克西河郡。