辽东城久攻不下，隋炀帝派人制造一百多万个布囊，装满土，想堆积成鱼梁大道（筑道像鱼梁一样），宽三十步，高和城墙齐平，让士兵登上攻城；又制作八轮楼车（楼车下装八个轮子），高出城墙，夹在鱼梁道两边，想俯视城内射箭，约定日期将要攻城，城内形势危急。恰逢杨玄感谋反的文书送到，隋炀帝非常恐惧，召纳言苏威进帐，对他说：“这小子聪明，会不会成为祸患？”苏威说：“能分辨是非，审察成败，才叫聪明，杨玄感粗疏，肯定不用担心。但恐怕会因此逐渐酿成祸乱。”隋炀帝又听说达官子弟都在杨玄感那里，更加担忧。兵部侍郎斛斯政向来和杨玄感交好，杨玄感谋反，斛斯政参与谋划，杨玄纵兄弟逃回，是斛斯政暗中送走的。隋炀帝将要彻底追查杨玄纵等人的党羽，斛斯政内心不安，戊辰日，逃奔高句丽。（胡三省注：这里说明段文振的话应验了。）庚午日，夜里二更（二更，即乙夜，古代将夜晚分为甲、乙、丙、丁、戊五夜，守兵分班守夜，击鼓相告，称为持更），隋炀帝秘密召集众将，让他们率军返回，军资、器械、攻城器具堆积如山，营垒、帐幕都保持原样，全部丢弃而去。众人惶恐不安，军队不再有秩序，各路兵马分散。高句丽当时就察觉了，但不敢出城，只在城内击鼓呐喊。到第二天午时，才渐渐出城，向四周侦察，还怀疑隋军是诈退。过了两天，才派出几千士兵追击，因为畏惧隋军人数多，不敢逼近，常常相距八九十里；快到辽水时，知道隋炀帝的御营已经全部渡过，才敢逼近后军。当时后军还有几万人，高句丽军队趁机抄袭攻击，最后面的几千名老弱士兵被杀死抢掠。
当初，隋炀帝再次征伐高句丽，又问太史令庾质：“这次情况怎么样？”（“今段”指从今以后这一段事）庾质回答：“臣实在愚笨，还是坚持以前的看法（庾质之前的回答见上卷大业八年），陛下如果亲自出动，耗费的人力财力实在太多。”隋炀帝发怒说：“我亲自去还不能攻克，只派别人去，怎么能成功！”等到返回，对庾质说：“你之前不想让我去，就是因为这个吧。杨玄感能成功吗？”庾质说：“杨玄感地位虽然显赫，但向来没有声望，只是趁着百姓劳苦，希望侥幸成功。现在天下统一，不容易动摇。”
隋炀帝派虎贲郎将陈棱在黎阳进攻元务本，又派左翊卫大将军宇文述、右候卫将军屈突通乘驿车发兵讨伐杨玄感。来护儿到东莱，听说杨玄感围攻东都，召集众将商议回军救援。众将都认为没有诏令，不应擅自回军，坚决不从，来护儿厉声说：“洛阳被围，是心腹之患；高句丽违抗命令，不过是疥癣小病。国家的事情，知道了就不能不做，擅自回军的责任在我，和你们无关，有敢阻止的，按军法处置！”当天就回军。让儿子来弘、来整乘驿车上奏。隋炀帝当时回到涿郡，已经下令来护儿救援东都，见到来弘、来整，非常高兴，赐给来护儿玺书说：“你回军的时候，正是我下令让你回军的时候，君臣心意相合，远隔千里却如符契相合。”
此前，右武侯大将军李子雄因事被除名，命令他随军效力，跟随来护儿在东莱，隋炀帝怀疑他（《隋书·李子雄传》记载因杨玄感谋反而怀疑他），下诏用枷锁锁住李子雄送到行在。李子雄杀了使者，逃奔杨玄感。卫文昇率领两万步兵骑兵渡过瀍水（《水经》记载：瀍水出河南谷城县北山，东经洛阳、偃师流入洛水），和杨玄感交战，杨玄感屡次击败他。杨玄感每次作战，都身先士卒，所向披靡，又善于安抚部下，士兵都乐于为他拼死作战，因此每次作战多能取胜，部众越来越多，达到十万人。卫文昇寡不敌众，死伤大半，于是进军驻扎在邙山南面，和杨玄感决战，一天交战十几次。恰逢杨玄挺中流箭而死，杨玄感的军队才稍稍后退。
秋季，七月，癸未日，余杭（今浙江杭州）人刘元进起兵响应杨玄感。刘元进手长一尺多（指从手指到掌腕横纹的长度），手臂下垂过膝，自认为相貌不凡，暗中有谋反之心。恰逢隋炀帝再次征发三吴（吴郡、吴兴、会稽）的士兵讨伐高句丽，三吴士兵都相互说：“往年天下全盛，我们父兄征伐高句丽的还有大半没回来（指大业八年的事）；现在国家已经疲弊，又要去打仗，我们这些人肯定活不成了！”因此很多人逃亡。郡县追捕紧急，听说刘元进起兵，逃亡的人纷纷聚集，一个月内，部众达到几万人。
起初，杨玄感到东都，自认为天下会响应。得到韦福嗣后，把他当作心腹，不再专任李密。韦福嗣每次谋划，都模棱两可；李密猜到他的心思，对杨玄