没过几天，就在二十八日，太原运来的第一批军粮到了，这时候大军库存的粮食仅仅还够吃一顿的。八月一日，秋雨也停了。军营里一片欢腾。李渊指着霍山对众人说：“这位山神的话，看来确实灵验。”于是命令部下修庙设祠，由李渊亲自上祭。当李渊祭完走后，后面将士们排着长长的队伍，跟过来拜神许愿。第二天，大军在太阳地里曝晒行装，整顿铠仗，所有的秋雨和惆怅都被太阳给晒跑啦，阳光在屋顶、在树梢、在空中飞舞。八月三日一大早，大军出发了，沿着东南山道向霍邑前进，要走七十余里路程。大军刚走的时候，四下里雾气很大，不久太阳出来了，雨后山林的秋色一片澄明透亮。“今天的行动，就看两位将军的了，”李渊对两个儿子戏谑道，“你们看这秋天的景色多么漂亮，好像上天有意安排的。不过我有些担心宋老生胆怯了，不敢和我们野战，如果他闭门守城，我们拿他怎么办？”李世民在马上沉吟着说：“宋老生出生寒微，很勇敢却没智谋，靠讨捕小盗获得这么大的名声。这次他来霍邑前，肯定受了很大的犒赏。如果他不出战，就不害怕上司怀疑他畏缩不前么?我们用轻骑挑逗他，不怕他不出战。如果他一定要固守，我们便可以诬赖他和我们暗中有联络，他又没有什么见识，不知道什么重要什么不重要，他的左右都是些凡庸小人，肯定会猜疑他，免不了会上密表告他，说不定上司会下令把他杀了。”“是啊，”李建成接过话头说，“像这种小聪明的人，为了洗刷别人的怀疑，也定会出来和我们斗一场的！”“宋老生不能乘我军在贾胡堡缺粮的时候主动向我进攻，我就知道他做不成什么事。你们兄弟的筹划，把该想到的都想到了，只是实行的时候要千万小心。”李渊满意地说。下午未时，李渊率领麾下数百名轻骑，先行赶到了离霍邑城东五六里的地方，等待步兵大队的到来。他还没下营，就派李建成和李世民各率数十骑逼近霍邑城，观察战场地形。李渊将其他骑兵分为十几个小队，命令他们从城东南迂回到城西南，边驰马边指手画脚，好像又想安营又想攻城的样子。同时又派了殷开山赶回去把马步等后军叫上来。“宋老生，见了老子来了，还不赶快下来投降！”“宋老生，敢当老子的路，看老子不吃了你！” 李世民身边的骑士对着城上隋军大骂，骂得城上人焦躁，用砖头、石子儿和更肮脏的话还骂。李世民微笑着骑在马上，带着这群骂军，缓慢地绕着霍邑城转了一圈，回到了父亲李渊那里，这时后军已经赶了上来。李世民把地形简略地给李渊划了划，李渊起先想让军士先吃了饭再上前作战，李世民指了指远处城墙上晃动的军旗说：“敌人要出动了，机不可失！”李渊沉吟了片刻，下达了作战命令：李建成领左军屯于东门，李渊跟着左军坐镇指挥。李世民率右军切断南门大路，防止敌人逃跑。于是战鼓咚咚，义军兵分两路，浩浩荡荡向霍邑城涌去。大隋虎牙郎将宋老生的身体隐藏在盔甲之中，拖着一小把黄胡子，眉毛和鼻子翘出在盔甲之外。刚才在城上看到了敌人几十位骑兵叫骂着，指指点点的，后来又远远地看见敌人的后军上来了，他判断：反贼是想直接迫近到霍邑城下安营，等到明日再行攻城，那样他的二万兵力便要被围困在城中出不来了。他可不想这么被动，得乘敌人远道疲劳，把敌人给赶回去。于是他命二万步骑兵力分两路，一路从南门杀出，一路从东门杀出，他自己亲自率领东门这一路上战场厮杀。李渊看见宋老生的军队扛着绛红色的帅旗出了城，心中暗暗地高兴，但他又担心宋老生背靠城墙不肯远斗，一旦不利又可能立即缩回城内，便勒令左路义军步骑向后稍稍退缩一两里，假装要避敌锋芒。李世民的右军也很快接到大将军的军令，缓缓地向后退却。宋老生看见李渊的军队向后退却，以为敌人害怕啦，果然引兵向前，在离城约有一里多的平原上布好阵势。然后战鼓齐鸣，在宋老生的率领下，隋军大阵快速地向前推进。李渊没想到宋老生来得这么快，在撤退中左军的方阵有些混乱，他尚未把阵形重新整好，便被迫迎战，羽箭像雨一样飞向隋军，隋军前队霎时倒下了一片，后面的却举着盾牌，凶猛地吼叫着冲了上来。阵形凌乱的义军经不起这般猛烈的冲击，纷纷向后退让，左军大都督李建成忙拉缰绳调转马头，不料马受了惊，猛地一跳，把李建成摔下马来，几名卫士赶忙上前把他救起，队伍变得更乱了。李渊追在退却的大队后面，大声吼叫着，竭力不让队伍跑散，碰到了窦琮等军官，就喝令他们带队上前，尽力抵挡一阵。这时候李世民已经率右军后撤到离城约两里的位置，远远地看到左军被宋老生的大军逼退，几乎停不住阵脚，隋军仍在后面猛冲，渐渐地已经冲了二三里地。他知道左军形势有些不妙，连忙作出决断：令身边的右军长史柴绍率领五六千步兵顶住当面之敌，令身边的军头段志玄整顿骑兵准备马上和他一道冲锋，令一名军佐到后面叫刘弘基带领其余骑兵快速跟上，令赵文恪带领一部分步兵跟在骑兵后面，向东救援左军，尽可能不要掉队。