五月的一天早上，李渊与副留守王威、高君雅二人在晋阳宫处理公务，突然，刘文静引着开阳府司马刘政会急急忙忙地走进来，只见刘政会大声说道：“有密状告人谋反！”
李渊目视王威等人，令其取告密状审视。[库]刘政会却不肯给王威，说道：“密状上告的就是副留守，只有唐公可以看！”
李渊故作惊讶，“还有这样的事！”说着，取过告密状观看，只见状纸上面写道：威、君雅潜引突厥入寇。
李渊把密状递给王威，“这是告发你们的，怎么办？”
高君雅看完密状，猛地从胡凳上跳了起来，破口大骂：“贼喊捉贼，这是叛乱者要杀我！”
李渊却不听他乱喊乱叫，徐徐地站立起来，冷笑一声，喝道：“来人，将这两个乱臣贼子拿下，送大牢候审！”
刘文静不由分说，喝令左右将二人拿下。
此时，李世民已经在城中部署军队，控制了局面。
世上的事情有时竟巧得惊人。谁也不曾料道，就在李渊将王威、高君雅以密通突厥的罪名逮捕下狱的第二天，竟真的有数万名突厥兵马，风驰电掣一般来到太原，恰像是如约而至一般。
太原城里虽然有新募兵丁五六万人，但多是刚刚扔下镢头铁锹的农家子弟，未经训练，更缺乏攻城守阵的实践经验，上上下下不免大为慌乱。
李渊急召众人商议对策，李世民力排众议，请求李渊以“空城计”智退敌兵。他说：“突厥人突兀而至，志在寇掠财物牲畜，并无攻城占地之心。我们一方面将军队严密布署于各街巷路衢，严阵以待，一方面洞开四门，敌军不辨虚实，必不敢贸然入城。纵使入城，地理不熟，方位不明，其数万马队在长街短巷中也会失尽剽悍迅捷的优势。我城中军民数倍于敌，与之短兵相接，展开巷战，必能大获全胜”。
李渊认为儿子所言有理，随即下令大开城门，撤去城上旗帜，兵士百姓不准一人上城观望。
突厥兵马风卷而来，却见太原城各门洞开，城中偃旗息鼓，寂无声息，竟如一座死城、空城一般。其先头马队冲进外郭北门，见内城仍然吊桥平铺，城门四开，绝无一兵一卒把守，不知李渊用的是什么计，迟疑徘徊了许久，终不敢进城，又从外郭东门悄悄地退了出去，在城外乡村中大肆抢掠一阵，撤兵北去。
这样以来，城中军民都认为突厥人果然是王、高二人密谋引来的，皆咬牙切齿，欲杀此二人。
李渊见民心可用，于是抓住这一天赐良机，将王、高二人斩首示众。
李渊意识到，突厥势力是他争夺天下的后顾之忧；刘武周与突厥的勾结，使得突厥的骑兵随时有南下的可能。为消除这一威胁，李渊特地给突厥始毕可汗写了一封修好的书信，卑辞厚礼，派刘文静前往突厥谈判。
李渊在信上用了“启”字，这是臣下对臣上的礼节，实际上是向突厥称臣。有人认为反正突厥人不识字，何必用“启”，用一般的“书”就可以了。但李渊却认为这是“屈于一人之下，伸于万人之上”的策略问题，不必计较一个虚名。
李渊在信中向突厥始毕可汗表示，愿意像隋文帝时期那样，与突厥和亲。如果突厥不来侵犯，他愿意将征伐所得财物献给可汗，并说明自己有拥立代王杨侑的计划，请求突厥派兵马援助。
出发前，李渊再三叮嘱刘文静：“突厥骑兵入塞，终是隐患，我这样做只是为了防止刘武周联合突厥。而且突厥人向来边行军边放牧，我也不费粮草，只是作为声援。人数不必多，数百人即可。”
始毕可汗问刘文静：“唐公起事，是想干什么？”
刘文静说道：“如今天下大乱，唐公为国家近戚，担心王室毁灭，故此起兵。唐公希望与可汗兵马一同进入京师，百姓、土地归于唐公，财帛和金宝归于突厥。”
结果，始毕可汗大喜，派大将康鞘利领骑兵五百随刘文静而至，又献马两千匹。
刘文静出使突厥达到了预期的目的，消除了争夺天下时来自北方的威胁。得到消息，李渊自是十分高兴。
此时，李建成、李元吉和柴绍等人也已经赶到太原，李渊决定，乘势起兵。
六月，李渊传檄各郡，正式称“义兵”。