武德元年十一月李世民消灭西秦霸王薛仁果，不久安修仁出使大凉，瓦解甘肃的李轨政权，至此大唐消灭了位于长安西北的两大割据势力，李渊从此再无“卧榻之侧有他人酣睡”的顾虑。此时的大唐可谓天时地利人和，占据长安牢据关中，政治上享有得天独厚的优势，南取巴蜀天府之国，粮草兵器取之不尽，东可依渭河、黄河、洛河向关外输送粮草，再加上关中人才济济，因此李渊完全有自信兵出潼关与天下英雄一较高下。
李世民
按照李渊的战略部署，关中巩固后即是兵出洛阳的时机，早在武德元年，李渊已命李世民担任陕东道大行台，河东、河北两地兵力并受其节制，不久又命李世民镇守长春宫，准备出兵关外的事宜，可见其东征战略早已部署完成。然而任谁也没想到的是，此时大唐的龙兴之地却出现重大变故，那就是割据马邑的刘武周于此时南下，也要参与中原争霸。
刘武周南下之势可谓摧枯拉朽，镇守太原的李元吉先后坑掉张达、刘德威两员大将后携带家眷逃回长安，太原城很快成为刘武周南下的重要据点，同时刘武周大将宋金刚率三万之众南下，连克晋州进逼绛州攻陷龙门，并于澮州大败前来救援的裴寂大军；随着唐军节节败退，山西大部落入刘武周统治之下。除了刘武周，此时山西还有两股割据势力，一股是镇守河东城的隋朝将领王行本，另一股是响应刘武周的夏州农民起义军吕崇茂，三大势力瓜分了山西。
宋金刚手下大将尉迟敬德
面对突如其来的变故，李渊父子不得不暂时搁浅出兵中原的计划，转而先收复山西，武德二年十一月，李世民大军趁黄河结冰从龙门渡河陈兵柏壁与宋金刚对峙，唐军收复山西之战正式展开。面对宋金刚，李世民并没有急于建功，而是采取他常用的疲兵之法；当时整个山西尤其是河东州县由于连年征战(自大业十三年唐军绕过河东始，河东城一直在隋朝将领的统治之下，而大唐也一直未停止对其用兵)各地已无粮可征，百姓也因长期处于战乱之中，内心惶恐不安，因此大军于河东很难得到百姓拥护。
军情如此，李世民下令坚壁不出，分出小股部队四处劫掠宋金刚运粮部队，目标很简单就是耗尽其粮草达到不战而屈人之兵的目标。在与宋金刚部、王行本部发生几次小规模冲突后，唐军先后取得两次胜利部队士气大涨，将领们纷纷要求主动出击，然而李世民却持否定态度，他认为“宋金刚悬军深入，与太原的刘武周战线拉得太长，补给很难跟上，因此用不了多久宋金刚就会粮尽计穷，主动逃跑，到时我军乘胜追击，不战而屈人之兵”。李世民为何会认为宋金刚不久会粮尽计穷，难道他不知道太原城有的是粮食吗？
攻城战
太原城确实有粮，而且还很多，据《旧唐书》记载，李渊曾用“食支十年”来形容太原城粮仓之丰足，因此刘武周不缺粮。山西地势特殊，东边有太行山脉西边有吕梁山脉，中间是汾河冲积的狭长平原，李渊晋阳起兵时就曾借汾河运输粮草；所以刘武周完全可借以上有利条件支持宋金刚打持久战。因此要制造李世民所谓的“悬军深入”的战争态势就唯一办法就是切断刘武周与宋金刚的联系。
此时有一个地方就显得尤其重要了，那就是浩州(汾阳)，据《大唐创业起居注》记载，李渊晋阳起兵后第一次战就是拿下此城，这是唐军南下的必经之路，也保证粮食供给的重要基地，因此欲巩固山西之统治必须掌握此城；其实早在刘武周攻占并州前就已屡派大军进攻此城，其中一次宋金刚带队打了十几天也未攻下，后来唐太常少卿李仲文带千人驰援该城，形势终于稳定了下来。
汾阳城地处山西腰部
浩州的稳定基本上奠定宋金刚“悬军深入”的战略劣势，刘武周当然不甘心因粮食问题断送来之不易的战果，武德三年二月，刘武周转头进攻潞州，企图打通山西与河南的通道，接引王世充大军西援，但同样被唐军击败。眼看宋金刚粮食告罄，刘武周再次掉头进攻浩州，李仲文不负众望，击退武周大军还俘斩千人；在不到一个月的时间里，刘武周东西进攻均没有打通与宋金刚粮食通道，最终“宋金刚军中食尽；丁未，金刚北走，秦王世民追之。”