杨素率领五千轻骑兵在蒲州袭击王耼、纥单贵，夜里到达河边，收集商船，得到几百艘，船内多放干草，踩上去没有声音，于是士兵衔枚渡河；黎明时发起攻击；纥单贵战败逃走，王耼恐惧，献城投降。下诏征召杨素返回。起初，杨素出兵时，预计日期打败敌人，结果都如他所料，于是任命杨素为并州道行军总管、河北道安抚大使，率领几万军队讨伐杨谅。
杨谅刚起兵时，妃子的哥哥豆卢毓担任府主簿，极力劝谏，杨谅不听，豆卢毓私下对弟弟豆卢懿说：“我独自逃回朝廷，自然能免祸，这是为自身考虑，不是为国家，不如暂且假意顺从，慢慢寻找机会。”豆卢毓是豆卢积的儿子。（胡三省注：豆卢积见一百七十四卷陈宣帝太建十二年。积，则历翻。）豆卢毓的哥哥显州刺史豆卢贤（胡三省注：《隋志》：淮安郡，后魏设东荆州，西魏改淮州，开皇五年又改显州。）对炀帝说：“我弟弟豆卢毓向来有志向气节，必定不会随从叛乱，只是被凶威逼迫，不能自主，我请求从军，与豆卢毓内外配合，杨谅不值得忧虑。”炀帝同意。豆卢贤秘密派家人带敕书到豆卢毓处，与他商议。
杨谅出城，将要前往介州，（胡三省注：《隋志》：西河郡，后魏设汾州，后齐设南朔州，后周改介州。）命令豆卢毓与总管属朱涛留守。豆卢毓对朱涛说：“汉王谋反，失败在即，我们怎能坐受灭族之祸，辜负国家呢！应当和你出兵抵抗。”朱涛吃惊地说：“大王把大事托付给我们，怎能说这种话！”于是拂袖而去，豆卢毓追上斩杀了他。放出皇甫诞，与他合谋，联合开府仪同三司宿勤武等（胡三省注：宿勤是少数民族复姓，后魏末有宿勤明达反叛。）关闭城门抵抗杨谅。部署还没完成，有人告诉杨谅，杨谅回军袭击。（胡三省注：《考异》说：《皇甫诞传》记载：“杨素将至，杨谅屯驻清源抵抗。”按杨谅屯驻清源时，杨素的军队已逼近，没时间返回袭击豆卢毓！现在依从《豆卢毓传》。）豆卢毓见杨谅到来，欺骗部众说：“这是贼军！”（胡三省注：绐，欺骗。）杨谅攻打南门，稽胡守卫南城，（胡三省注：稽胡即步落稽，散居在介、石二州。）不认识杨谅，向他射箭；箭如雨下；杨谅转而攻打西门，守城士兵认识杨谅，立即开门放他进城，豆卢毓、皇甫诞都被杀死。
綦良攻打慈州刺史上官政，未能攻克，（胡三省注：《隋志》：魏郡滏阳县，后周设；开皇十年设慈州，大业初废除。）领兵攻打代理相州事务的薛胄，又未攻克，（胡三省注：魏郡设相州，治安阳。）于是从滏口攻打黎州，（胡三省注：《隋志》：汲郡黎阳县，旧设黎州。）堵塞白马津。（胡三省注：白马津在东郡白马县，北对黎阳岸，堵塞它使敌军不能渡河。）余公理从太行山南下到河内，炀帝任命右卫将军史祥为行军总管，驻军河阴。（胡三省注：河阴县，东魏设置，属洛阳郡，北对河阳岸。）史祥对军吏说：“余公理轻率无谋，仗着人多骄傲，不难打败。”余公理屯驻河阳，史祥在南岸准备船只，余公理聚集军队抵挡。史祥挑选精锐在下游秘密渡河，余公理得知后，领兵抵抗，在须水交战。（胡三省注：按《九域志》：郑州荥阳县有须水镇。但此地在河南。史祥渡河攻击余公理，应在河阳附近交战。《水经注》：湨水出原城西北原山勋掌谷，东南流过河阳无辟城，又南入洛水。疑“须水”应为“湨水”。则“须”字错误明显。）余公理还没列阵，史祥就发起攻击，余公理大败。史祥向东赶赴黎阳，綦良的军队不战而溃。史祥是史宁的儿子。（胡三省注：史宁在宇文氏麾下征战，屡立战功。）
炀帝将要征发幽州兵，怀疑幽州总管窦抗有二心，向杨素询问可派去制服窦抗的人，杨素推荐前江州刺史勃海人李子雄，（胡三省注：《隋志》：九江郡旧设江州。）授予他上大将军，任命为广州刺史。（胡三省注：任命为广州刺史却派他去幽州，并未到广州赴任。）又任命左领将军长孙晟为相州刺史，（胡三省注：《隋志》：左右领军府各掌十二军的户籍、差役、诉讼。）征发