皱眉不展的李渊一直在沉默，当六月初，李建成、李元吉和柴绍终于抵达太原之后，裴寂和李建成、李世民等人商议之后，一起向李渊提出了一个“在钢丝上跳舞”的办法：“废皇帝而立代王；兴义兵以檄郡县；改旗帜以示突厥。”如此则“师出有名，以辑夷夏。”
李渊笑了，这才是他想要的答案，于是，众人在初步商议后，决定首先宣布废黜杨广，拥立长安留守、年幼的代王杨侑，这样既能顺应天意人心，还能抢占政治制高点，挟天子以令诸侯。这样，可以学曹操一样，团结到那些忠于隋朝的将领。同时，为了获得突厥人在政治和军事上的支持，李渊决定在军队的旗帜上使用而是使用“红白相间”的双色，因为红色代表了隋朝，而白色代表了突厥。
这，就是政治。
随后，李渊派李建成和李世民前去夺取西河，因为要夺取长安，西河是必经之路。在二李的带领下，仅用九天时间就攻克了西河，并将郡丞高德儒斩首。
西河平定后，李渊随即开仓赈粮，远近各地的青壮年纷纷来附，每天有数以千计的人加入义军，很快部众便增至数万人。随后，李渊立为大将军，并开设大将军府，以裴寂为长史，刘文静为司马，唐俭和温大雅为记室，武士彟为铠曹，殷开山为户曹，长孙顺德、刘弘基等人为左右统军；同时以李建成为陇西公、左领军大都督，统率左三军；以李世民为敦煌公、右领军大都督，统率右三军；以柴绍为右领军府长史；其余文武将吏也各有任命。
在以少量的钱币买下突厥人的一千匹好马之后，李渊派刘文静北上突厥，表面上的目的是请求突厥给予军事上的支持，实际上是观察突厥人的态度和动向，同时防范和牵制刘武周。刘文静抵达突厥王庭后，就给始毕可汗开出了非常有利的合作条件，他说：“一旦贵军协助我军进入长安，民众土地归唐公，金银玉帛归突厥。”
这当然是一笔好买卖，始毕可汗同意，随即派兵支援李渊，于是，李渊的后顾之忧终于解决，大业十三年七月初四，李渊任命李元吉为镇北将军、太原留守，把军政大权全部交给这个小儿子，让他镇守后方根据地。初五，李渊在晋阳誓师，发布了声讨隋炀帝杨广的檄文，同时传檄四方郡县。
同日，李渊亲率三万精兵从太原出发，开始了他的攻取长安之旅。
而此时，这段日子里，河北发生了几件大事，足以影响杨浩的决策。
第一件事，便是瓦岗与洛阳几度攻伐，互有胜负。不过总的来说，洛阳处于下风。
第二件事，便是知道薛世雄南下洛阳。当然这对知道薛世雄结局的杨浩，不受什么大的影响，可是薛世雄南下击窦建德时，却是窦建德最为虚弱的时候，杨浩他怎么又会放弃这个机会呢？