听到刘黑闼逃亡突厥的消息后，山东地区的部众顿时斗志全丧，纷纷归降唐朝。只有高开道和徐圆朗这两把不安分的野火在熊熊燃烧。
正当李世民准备南下进攻徐圆朗时，李渊却突然召他入朝。李世民便将河北的军事指挥权暂时交给李元吉，自己返回长安听命。四月九日，李世民回到长安，李渊亲自到长乐宫来迎接，满脸笑容地为李世民接风洗尘，以示尊宠。刘黑闼终于败了，所以李渊迫不及待地要将李世民这张王牌收回去。
可当李世民向他面陈徐圆朗依旧猖獗的反叛形势时，李渊的笑容立刻凝结在了脸上。他不得不再次把李世民派往黎阳征讨徐圆朗。几天后李渊又追下了一道诏书，命李神通一同进攻徐圆朗，事实上就是希望他能取代李世民，接管征讨事宜。
对于父皇李渊的猜忌之心，李世民比谁都清楚。七月初，当李世民接连攻克河南的十余座城池、平定了徐圆朗的部分势力后，便主动班师回朝了，把彻底肃清徐圆朗的任务交给了李神通和李世勣。不久，徐圆朗在连战皆败后弃城夜逃，为地方乡勇所杀，他的地盘全部被唐军平定。
差不多在李世民班师的同时，刘黑闼又借助突厥兵力卷土重来，南下进围定州，其旧部董康买和曹湛立刻在鲜虞起兵响应。七月十五日，李渊任命年仅十九岁的淮阳王李道玄为河北道行军总管，负责征讨刘黑闼。李渊的用意很明显，就是尽量培养宗室的后起之秀，给他们在战场上历练的机会，同时对功高盖世的李世民形成一定的制衡。
八月初，正当复仇之神刘黑闼借助突厥人的力量再度南下时，东突厥的颉利可汗也亲率数十万铁骑大举入侵唐朝边境。颉利可汗名叫阿史那咄苾，是启民可汗的第三子、始毕可汗和处罗可汗的弟弟，他在唐武德三年（620年）即位时，正值东突厥达到全盛之际，拥有雄兵百万，所以极为骄狂，一直有侵凌中原之心。而武德初年的李渊出于天下未定、内战频仍的原因，只好对其采取绥靖策略，始终以防御为主，不愿与突厥全面开战。
自从李渊入据长安开创大唐后，东突厥与李唐王朝之间的战争总是时断时续，规模虽然不是很大，但从未完全停止。突厥人虽然在李渊起兵初期曾对他提供援助，但到了李渊登基称帝、势力逐渐壮大之后，突厥人就转而支持其他的割据势力，一意对李唐王朝进行制衡。几年来，东突厥曾经不遗余力地支持过薛举、李轨、刘武周、梁师都、窦建德、王世充等等，目的就是让他们与李渊相互制约，以便坐收渔翁之利。
只不过让突厥人没有想到的是，李唐崛起的速度实在是太快了，短短几年间便有一统天下之势，而那些原本与其势均力敌的割据群雄则一一败亡、灰飞烟灭。到了武德五年，突厥人手中的筹码只剩下梁师都、刘黑闼、高开道以及刘武周的部将苑君璋。就这几只阿猫阿狗，显然已经不能对李渊构成威胁。这种一边倒的局面是突厥人最不愿看见的。一个统一而强大的中原王朝的兴起，对突厥人而言只会有百害而无一利。
所以，此次颉利可汗亲率大军南下，就是想挫一挫李唐的锐气，让李唐感受一下突厥人在军事上的强大威胁，对突厥心存忌惮；当然，就像突厥军队每一次南下所做的那样，劫掠金银财帛也是他们此次南侵的题中之义。
这一年八月十日，颉利可汗从雁门入侵，随即兵分两路，他自己亲率十五万，攻击李唐的发祥地并州，另一路攻击原州。
突厥人大兵压境、来势汹汹，李渊不敢掉以轻心。八月十一日，李渊命唐军兵分四路，由太子李建成率一路出豳州，迎战突厥的西路军；由秦王李世民率一路出泰州，迎战突厥主力东路军；另派云州总管李子和奔赴云中，从侧翼攻击颉利大军；最后由左武卫将军段德操奔赴夏州切断突厥西路军的后路。
虽然进行了周密部署，但李渊还是不希望与突厥全面开战。他随即召开廷议，向百官询问战和之策。曾多次出使东突厥的太常卿郑元璹说：“开战则加深与突厥的积怨，以臣之见，还是和解比较有利。”中书令封德彝则认为：“突厥人自恃兵强马壮，历来有轻视中国之心，若不战而和，则是向敌人示弱，突厥日后必定卷土重来。臣认为应当奋勇还击，先打几场胜仗再来讲和，如此方可彰显我大唐恩威！”
李渊最终采纳了封德彝的意见。
八月二十日，突厥东路的主力大军进抵汾水东岸，唐并州大总管、襄邑王李神符率部迎战，击破突厥军队，首战告捷。稍后，汾州刺史萧顗也率汾州守军迎战，大破突厥的先头部队，斩首五千余级。
二十九日，突厥的西路军攻陷了大震关。颉利可汗亲率的东路军虽然略遭挫折，但是兵力仍然十分强大，遂一路向纵深挺进。河东的唐军侦察兵很快向朝廷发回了战报，说突厥大军已经深入介休与晋州一带，数百里之内，漫山遍野都是突厥骑兵。
眼看一场大战已经不可避免，就在这个时候，李渊派出的和谈使者郑元璹来到了颉利可汗的大营。
郑元璹进入可汗大帐时，马上摆出一副强硬姿态，质问颉利为何背弃盟约悍然入寇。颉利一时语塞，不知该说什么才好。
对于这个外交斡旋高手郑元璹，颉利可汗是相当了解的。此前郑元璹曾四度出使突厥，每一次都是在他们突厥人的刀