“坏了！”李渊焦急地走两步，“晋阳是我们的根据地，如果有失，我等连退路也没有了。”
“父帅，退兵吧！”李建成上前劝道：“如今军中粮草也用不了几天了。秋雨绵绵，太原军供也接济不上。急切之间，又不能进军攻打宋老生。在这贾胡堡，进退维谷，实在是不利啊！”
“只好如此了。”李渊命令身边的校尉，”召集各部将佐开会，商议回师之事！”
会议上，裴寂积极赞成回师，他说：
“宋老生、屈突通连兵据险，不易即日攻下。突厥贪而无信，惟利是图。刘武周又投靠胡人。太原为一方都会，军供基地。义兵家属，皆在是处，一旦有失，后果不堪设想。如今天雨路滑，粮草接济不上，与其在这耗着，不如还兵，选救根本，再作道理。”众将佐担心太原的家属，怕有闪失，纷纷赞成裴寂的话，李渊也频频点头。
◎一个精密的作战方案
独有李世民表示强烈反对，他挥舞手臂，高声说道：“今禾菽遍野，何忧军粮不继。宋老生虽与屈突通连兵，远水难救近火。老生虽据势险要，然为人轻躁，略施小计，可一战而擒。至于刘武周，虽与突厥交好，却相互猜忌，刘武周虽贪太原之利，岂能近忘马邑老巢？我义兵原为救苍生于水火，当先入长安，号令天下，岂可一遇小敌，遽尔班师！今若退却，诸军不明原因，可能会惊恐、猜疑。一旦发生事变，还守太原一地，何以自全？”
李世民一番话说得慷慨激昂，入情入理。李渊却不为所动，拿定主意要退兵。当即下令道：“李建成后军改前军，于今日午后开始撤退。我中军和李世民所部于明日上午和下午，顺序撤退。”命令一下，众将士一哄而散，分头做准备去了。李世民留了下来，又苦劝父亲一番，李渊不听。
夜深沉，难入眠。李世民站在军帐门口，思虑万端。雨声沙沙，在风中斜斜地落着，远雷在不知名的地方轰鸣，不断有耀眼的蓝光划破沉沉的夜空。李世民想起在晋阳宫促使父亲起兵的那一天，想起自己无数次憧憬过的宏基伟业。此次出兵长安，不过是漫漫征途要走的第一步，要把这万里江山变成李氏的天下，还不知要经过多少恶战，多少磨难。但眼下小小的几场雨，三、五句传言，竟促使父亲退兵。这决不可成就大事。
想到这里，李世民再也沉不住气了，他一头冲进黑夜的雨幕，向父亲所住的大帐跑去，几里远的路，好像一霎间就跑到了，汗水、雨水和在一起，他气喘吁吁，浑身透湿来到父帅的帐前，却让放哨的卫兵挡住了。帐内漆黑，没有灯光，父帅已经就寝。李世民心急如焚，却不得入内，急得他蹲在地上，放声号哭起来。
帅帐里亮起灯来，钱九陇走出帐来，召李世民说：“大将军传您进帐。”
烛光下，但见李渊围着被子坐在床上，见李世民垂手站立，浑身湿透，还不停地抹眼泪，当父亲的有些心疼，问：
“夜已深沉，我儿不去歇息，大雨之中，因何在帐外啼哭？”
李世民正色说：“今兵以义动，进战则克，退还则散。众散于前，敌乘于后，死亡在于目前，儿焉能不哭！”
李渊似有醒悟，说：“你哥李建成已领左军先退，如之奈何？”
李世民拱手道：“我右军未发，正严装待命。左军虽发，但行犹未远，请令孩儿派人去追回！”
“你真有把握打败宋老生？”
“宋老生轻躁，破之无疑，定业取威，在此一举。儿愿亲率精兵，捐躯力战！”
“但破了宋老生，进军长安，谁能担保李密不心怀忌嫉，发后袭我？”李渊担扰地说。
“李密恋于仓米，没有远略，父亲当致书于李密，许结为盟友。可卑词推其为盟主，其必妄自尊大，不复于我威胁也。”
见儿子说得头头是道，李渊禁不住心动起来，披衣下床，在地上走了两圈，毅然命令道：“立即派快马将左军追还！”
李世民一听，精神抖擞，向李渊一施礼：“谢父帅听孩儿进言。”
李渊笑道：“成败皆在你，连我这个当父亲的也要听你的。”
过了几天，天遂人愿，雨过天晴。李渊命令部队晾晒铠甲，整理行装，准备进军。恰在这时，太原兵运粮草也来了。
三军略事休整。李渊即率大军由山中小道抄近路直奔霍邑。大军至霍邑城外十里地扎下营盘。李渊亲率李世民等百余骑靠近侦察。站在一个小山丘上，远远望去，但见城墙上幡旗招展，枪刀密布，寒光闪闪。巡逻的轻骑在城头上往来驰骋。城门紧闭，吊桥扯起，壕沟深深，一派杀气。看到这些，李渊担心地对李世民说：
“看此架式，宋老生若不出战，据城固守，我军架云梯而上，发起强攻，恐也难以取胜。”
李世民献计道：“宋老生有勇无谋，可以轻骑挑之，他一定耐不住出战。若还不出战，则诬说他已与我约定，将献城与我。老生怕左右上奏，焉敢不出城迎战。”
李渊听李世民讲得有理，点头说：
“宋老生不敢至贾胡堡迎头击我，我已知其懦弱无为也。”
回到大营，召开战前参谋会议，经过讨论，集思广益，确定了一个精密的作战方案。第二天上午，李建成，李世民带领骑兵数十名，至霍邑城下，一边命士兵高声诟骂，一边指指点点，好似巡视战地，准备攻城的样子。远处，李渊指挥数百骑兵，分成两队，一路奔东门，一路奔南门，松松垮垮，作出要围城的样子。
宋老生站在城头上，见一些敌兵赤着身子，跳着脚高声诟骂他，怒火中烧，早已按捺不住。又见李渊后续步军正以急行军速度赶来，大有安营攻城之势。
宋老生心中一亮，何不趁敌军行军疲惫，立脚未稳之时，发起猛攻，把对方消灭在安营布阵之前。想到这儿，宋老生一刻也不愿迟疑，立即点起三万大军，亲自率领，从东门、南门杀将出来。但听战鼓雷鸣，喊杀声震天，气势甚是惊人。
◎隋军血流成河死尸相枕
李渊怕宋老生不肯远斗，乃稍稍约兵后退。宋老生却以为对方怯阵，挥兵猛冲。直冲出离城约一里多路。
乘此空隙，李建成、李世民各领左、右精骑，冲向东门、南门，欲断敌兵后路。宋老生见状，忙挥兵疾进，先攻城东。两军相接，势如破竹，老生以优势兵力直冲李建成的骑兵队，激战中，李建成落马，亲兵慌忙将其救起，边战边退。
宋老生见首战得利，高兴异常，继续领兵向前冲。正在这时，李渊指挥殷开山的步军从南原上急驰而下，冲击宋老生的侧翼。李世民则领精骑从背后杀来。
两军尚未接触，义军便齐声呐喊，声势盖过隋军。这时，前军冲下，南原上又次第冲下后军，中军。宋老生心中不免惊慌，只得硬着头皮挥军迎战。
霍邑城南，一片广阔的田野上，尘土滚滚，杀声震天，枪刺刀砍，响如山崩。李世民一马当先，抡刀猛冲敌阵。他左砍右杀，纵横驰骋，亲手斩杀数十人。两把战刀都砍得卷刃了，血流满袖，甩甩袖子再战。见李世民如此英勇，紧随其后的阿史那大奈备受鼓舞，领麾下精骑发力猛冲。两军混战，杀声遍野，一时呈胶着状态，站在高处观战的李渊见状，心生一计，立即命令士兵传呼说：“宋老生已被抓住了！”
此传呼一出，义军士气大振，斗志更旺。隋军刚好相反，听说主帅被擒，心慌意乱，阵脚大乱。义军越战越勇，势不可挡，直杀得隋军血流成河，死尸相枕。
宋老生见势不妙，自领亲兵回窜南门。到了城下，却城门紧闭，吊桥扯起。后兵追兵也旋风般地赶来。老生无奈，只得弃了战马，跳入壕沟。沟内水深丈余，老生浑身带甲，艰难地向对岸游。“哪里逃！”一个汉子飞马赶来，马到壕沟边，一个急杀车，汉子就势飞进壕沟。他身手灵活，水性极好，三游二游，赶上了宋老生。宋老生大惊，回头一看，但见寒光一闪，被对方削去了脑袋。那汉子正是李世民的属下，右统军刘弘基。他爬上岸来，跳上战马，枪挑宋老生的头颅，绕场示众，义军欢呼声四起。此时的隋军非死即降。
这场恶战持续了整整半天，直杀得天昏地暗，血流成河，几里之内都是死尸。李渊率亲兵巡视战场，怆然有感，对身边浑身是血的李世民说：
“老生不识时务，使生灵横遭涂炭，乱兵之下，善恶不分，火烧昆山，谁论玉石。无妨死人之内，大有赤心于我李氏者，取来不得。及此战亡，恐以后没人再记起也。九泉之下，余恨绵绵。吾静而思之，良深痛惜。以后取得天下，当以文德治之，不用兵戈！”
李世民耐心听完了父亲的感言，拱手请求道：
“将士此刻斗志正旺，天快黑了，机不可失，请下令攻城！”李渊点点头，毅然命令道：“即刻攻城！”
由于没料到今天的战斗如此大获全胜，为攻城准备的云梯尚留在十里外的大营里。回去取也来不及了，李世民命令部队搭人梯而上。杀红了眼的将士们，恶劲憋得正足，争先恐后，飞速窜到城下，搭起人梯，赤臂而上。
守城的兵士见主将已死，主要兵力全部战死，在城外，义军英勇，势不可挡。于是兵无斗志，把手头的滚木擂石往城下一掀，而后一哄而散。义军遂以极少的伤亡，顺利攻占了霍邑。大破宋老生，攻克了霍邑城，兵进长安，首战告捷，李渊异常高兴，召开了隆重的庆功大会，对有功将士予以嘉奖。在拟定授勋的名单上，有人提出，按古来例法，地位低微的奴仆、部曲，虽然立了战功，但只能奖些金银，不应授以勋位。李世民对此陈规陋习，坚决表示反对，他说：
“义士应募，冒矢石，攻坚城，何分奴主。今论功行赏，岂可有等差！”
李渊认为李世民说得有理，下令道：
“山藏海纳，黥而为王。诸部曲及徒隶征战有功勋者，并从本色勋授，不得以贵贱论功。”
义军按功颁发赏赐，使得昨日的刑徒、仆隶，胸脯上也戴上了大红花，摇身一变，也成了有官阶的上等人。于是人人高兴、个个欢喜，手拿勋授，奔走相告。
对霍邑城的官民，李渊也不亏待，开仓放粮，赈济贫穷，安抚人心，把原属宋老生部的士兵，编入义军，不加怀疑。原官员有愿继续留任者，重新授官。
李渊这一折腾，新增品级官员五千多人，光五品以上就有上千人。有人上谏书，认为授官太滥，不利于义军的作战和发展。李渊却说：“天下之利，人不能独吞。将士皆归于我，我岂能不尊敬。隋政的败坏，亦与此有关。雁门解围之功，东都授救之勋。隋炀帝有难时，便许授人以大夫。祸去之后，则撇之脑后，惟加之以小尉。所以，士无斗志，将有叛心，板荡分崩，以致有今日之难。覆车的明鉴，不敢效仿。况且加官抚慰，正是鼓励将士效命于疆场。吾好生任赏，其优甚多，当以不日而定天下。”
李氏义军英勇善战，论功行赏，赈济贫穷，美名远播。流窜于三辅山中的大大小小的武装纷纷赶来投靠，多时一天数以千计。义军的队伍迅速壮大起来。
灭了宋老生，接下来就是屈突通。李渊父子安顿好霍邑，率兵向河东挺进。八月十二日，兵至鼓山。绛郡通守陈叔达领兵坚守。陈叔达字子聪，乃陈宣帝的第十六子，南陈时封为义阳王。此人颇有才学，即兴赋诗，援笔而就。历任侍中，丹阳尹，尚书等高官。入隋朝后，地位大跌，仅在偏僻的绛郡任个小小的通守。李渊以陈叔达非隋朝同类，且爱其才学，决定先礼后兵。李建成自认为读过多年书，腹有才学，口有辩才，自告奋勇，匹马到城下去说降陈叔达。