唐祎又派人告诉东都的越王杨侗和樊子盖等人整兵防备，果然如李密所料。修武（今河南修武，属河内郡）百姓一起据守临清关，杨玄感不能渡过，就在汲郡南边渡过黄河，跟随他的人很多，像赶集一样。他派弟弟杨积善率领三千兵力从偃师（今河南偃师，属河南郡）南边沿洛水向西进军，杨玄挺从白司马坂（在邙山北，邙山在洛阳北）翻过邙山向南进军，杨玄感率领三千多人跟随其后，相距约十里，自称大军。他的士兵都手持单刀和柳条盾牌（盾牌，用来抵御弓箭），没有弓箭铠甲。东都派河南令达奚善意（《隋志》：河南县，属河南郡）率领五千精兵抵抗杨积善，将作监、河南赞治裴弘策率领八千人抵抗杨玄挺。达奚善意渡过洛水南岸，在汉王寺扎营；第二天，杨积善的军队赶到，达奚善意的军队不战自溃，铠甲兵器都被杨积善缴获。裴弘策出兵到白司马坂，一战就败逃，丢弃了大半铠甲兵器，杨玄挺也不追击。裴弘策后退三四里，收集散兵，重新列阵等待；杨玄挺慢慢赶到，休息了很久，突然发起进攻，裴弘策又败，这样接连败了五次。丙辰日，杨玄挺直抵太阳门，裴弘策率领十几名骑兵逃入宫中，其余的人没有一个返回，都归降了杨玄感。
杨玄挺驻扎在上春门（胡三省注：《隋志》记载：河南郡旧置洛州，大业元年迁都后改叫豫州。东面三门，北叫上春，中叫建阳，没有太阳门，有待考证）。他每次誓师都说：“我身为上柱国，家有亿万财产，至于富贵，没有什么追求的。现在不顾灭族之祸，只是为天下人解除倒悬之苦！”众人都很高兴。父老乡亲争相献上牛酒，子弟们到军营门口请求效力的，每天有上千人。
内史舍人韦福嗣，是韦洸的侄子（韦洸在平定陈朝后有显着功绩），随军出兵抵抗杨玄感，被杨玄感俘获；杨玄感厚待他，让他和同党胡师耽一起掌管文书。杨玄感让韦福嗣写信给樊子盖，历数隋炀帝的罪过，说：“现在想废黜昏君，拥立明君，希望你不要拘泥于小礼节，自取祸端。”樊子盖刚从外藩调入京城做官（樊子盖从涿郡留守调任东都留守），东都旧官大多怠慢他，至于军事部署，也不怎么听从他的指挥。裴弘策和樊子盖同级（赞治的班次在留守之下，所以说同级），之前出兵讨伐贼人失利，樊子盖再让他出战，他不肯去，樊子盖下令把他拉出去斩首示众。国子祭酒河东人杨汪（《杨汪传》记载：杨汪本是弘农华阴人，曾祖杨顺迁居河东），稍有不恭敬，樊子盖又要杀他；杨汪磕头流血，才得以幸免。于是将领官吏都震惊畏惧，不敢抬头看他，政令得以执行。杨玄感出动全部精锐攻城，樊子盖随机应变抵抗，杨玄感不能攻克。但达官子弟应募从军的，听说裴弘策被杀，都不敢入城。韩擒虎的儿子韩世咢、观王杨雄的儿子杨恭道、虞世基的儿子虞柔、来护儿的儿子来渊、裴蘅的儿子裴爽、大理卿郑善果的儿子郑俨、周罗睺的儿子周仲等四十多人都投降了杨玄感，杨玄感把重要职位都交给他们。郑善果是郑译的侄子（郑译是隋文帝的佐命功臣）。
杨玄感收兵得到五万多人，分五千人驻守慈磵道（今河南洛阳南，胡三省注：《隋志》记载河南郡寿安县有慈磵），五千人驻守伊阙道（今河南伊川，胡三省注：《隋志》记载河南郡伊阙县，旧称新城，开皇十八年改名，因伊阙山得名），派韩世咢率领三千人围攻荥阳（今河南荥阳，属荥阳郡，郡治在管城，荥阳在郡西），顾觉率领五千人攻取虎牢（今河南荥阳汜水镇，胡三省注：《隋志》记载荥阳郡汜水县，旧称成皋，就是虎牢。开皇十八年改叫汜水，大业初年设置虎牢都尉府）。虎牢投降，任命顾觉为郑州刺史，镇守虎牢。
代王杨侑派刑部尚书卫