9八月，己卯日，雨停了。庚辰日，李渊命令军中晒铠甲兵器和行装。辛巳日早晨，从东南方沿着山脚的小路奔赴霍邑。李渊担心宋老生不出战，李建成、李世民说：“宋老生勇猛而没有谋略，用轻骑兵挑战他按道理他没有不出战的；如果他固守，就诬陷他对我们有二心。他害怕被身边的人上奏，怎么敢不出战！”李渊说：“你们估量得很好，宋老生不能在贾胡堡迎战，（胡三省注：指李渊驻守贾胡堡时，宋老生不能迎战。）我知道他没有能力！”李渊和几百名骑兵先到霍邑城东几里处等待步兵，派李建成、李世民率领几十名骑兵到城下，举着鞭子指挥，好像要包围城池的样子，并且辱骂宋老生。宋老生发怒，领兵三万人从东门、南门分道而出，李渊派殷开山赶快召集后军。后军到达，李渊想让士兵先吃饭再作战，李世民说：“时机不可失去。”李渊于是和李建成在城东列阵，李世民在城南列阵。李渊、李建成的军队稍稍后退，李世民和军头临淄人段志玄从南原领兵疾驰而下，（胡三省注：《新唐志》说：武德元年，改鹰扬郎将为军头。大概起兵之初，已经设置军头。后来又改军头为骠骑将军。《隋志》，临淄县属北海郡。）冲击宋老生的阵地，从他的背后杀出，李世民亲手杀死几十人，两把刀都砍缺了，鲜血沾满衣袖，他甩掉血继续作战。李渊的军队又振作起来，于是传呼说：“已经俘获宋老生了！”宋老生的军队大败，李渊的军队先赶赴城门，城门关闭，宋老生下马跳入壕沟，刘弘基上前斩杀了他，尸体横陈几里地。太阳已经落山，李渊立刻命令登城，当时没有攻城器具，将士们徒手攀登，于是攻克了霍邑。
李渊奖赏霍邑之战的功劳，军吏怀疑奴仆应募的不能和良人同等对待，李渊说：“在箭石之间，不分贵贱，论功的时候，有什么等级差别，应该都按照本人的功劳授予官职。”壬午日，李渊接见霍邑的官吏百姓，慰劳奖赏如同西河，挑选其中的壮丁让他们参军；关中的士兵想回去的，都授予五品散官，（胡三省注：隋炀帝设置散职九大夫，朝请大夫正五品，朝散大夫从五品。）遣送回去。（胡三省注：既顺从他们回去的意愿，又以此打动关中士民的心。）有人劝谏说官职太滥，李渊说：“隋氏吝啬功勋赏赐，这是失去人心的原因，怎么能效仿他们！况且用官职收拢部众，不如用兵吗！”
丙戌日，李渊进入临汾郡，（胡三省注：平阳，古郡名，后改置唐州，后改为晋州，开皇初，改郡叫平河；平阳县改叫临汾县，是因为厌恶平阳这个名字；大业初，改叫临汾郡。）辛卯日，进军攻打，攻克了它。（此处原文可能有缺失，“叔达，陈高宗之子，有才学，渊礼而用之。”应是指李渊任用陈叔达，陈叔达是陈高宗之子，有才学，李渊礼遇并任用他。）
癸巳日，李渊到达龙门，（胡三省注：龙门县属河东郡，在郡东北。）刘文静、康鞘利率领五百名突厥士兵、二千匹马到达。李渊对他们来得晚感到高兴，对刘文静说：“我向西行进到黄河，突厥才到达，士兵少马匹多，都是您奉命行事的功劳啊。”
汾阳人薛大鼎劝李渊说：（胡三省注：按《新唐书》，薛大鼎，是蒲州汾阴人。《隋》《唐志》也都没有汾阳县，“阳”应当作“阴”。）“请不要攻打河东，从龙门直接渡过黄河，占据永丰仓，向远近发布檄文，关中可以轻易取得。”李渊准备听从他的建议。诸将请求先攻打河东，于是任命薛大鼎为大将军府察非掾。（胡三省注：察非掾，是让他监察奸邪非违，像汉代的刺奸掾。隋炀帝时左、右候卫府增置察非掾。）
河东县户曹任瓌（胡三省注：河东县，属于河东郡，旧称蒲坂，开皇十六年改名。隋代制度，县设置金、户、兵、法、士等曹佐。）劝李渊说：“关中的豪杰都踮着脚等待义兵。我在冯翊多年，（胡三省注：任瓌，仁寿年间为冯翊韩城尉。）了解那里的豪杰，请让我去晓谕他们，他们必定会闻风归附。义师从梁山渡过黄河，直指韩城，逼