时朝士多言北伐之计，惟东海人徐羡之默然。裕问羡之曰“卿何独不然？”羡之曰“今四方已平，拓地万里，惟有小羌未定，明公寝食不安，何可轻预其议耳？”裕曰“姚氏不小，岂可轻之？故宜早讨。”于是裕入朝见帝，戒严诸将伐秦。以刘穆之为左仆射，入居东府。
穆之内总朝政，外供军旅，决断如流，事无塞滞，求诉咨禀，盈阶满室。穆之目览耳听，手写笺书，寻览校定。而性奢豪，食必方丈，未尝独餐。尝白裕曰“穆之家本贫贱，赡生多阙。自叨忝以来，朝夕所须，微为过丰，然此外一毫不以负公。”由是刘裕深相重之。
时宁州献琥珀枕于刘裕，裕以琥珀能治金疮，命碎之以赐从征将士。以世子义符为中军将军，监留府事。即命刘穆之领军司，入居东府，总摄内外，司马徐羡之副之。遂发建康，遣将军王镇恶、檀道济将步军，自淮、肥向许、洛；朱龄石、胡藩移阳城；沈渊子、傅泓之趋武关；沈林子、刘遵考将水军出石门，自汴入河；以王仲德督前锋，开渠入河。分拨已定，令依计而行。镇恶领命欲行，前将军刘穆之谓曰“昔晋文王委蜀于邓艾，今刘公亦委卿以关中，卿其勉之！”镇恶曰“吾等因托风云，并蒙拔擢，今此一行，正是效命之秋，如若咸阳不克，誓不济江！三秦既定，而公九锡不至，亦卿之责矣！”
即辞别起身，领兵五万，入贼之境，战无不捷。
不上半月，攻破虎牢及桓谷鸠，大军进次渑池县。镇恶传令屯住三军战船，盛服乘舆，上造故人李方家。李方接入内堂，镇恶拜见礼毕，各叙契阔之情。镇恶请李方妻出，镇恶亦拜，取出金宝赐之。因谓曰“前蒙抚爱之恩，以此少酬万一。”
言讫，即召郡守拜授李方为渑池令。镇恶领大军，解缆起行。
九月，刘裕大兵至彭城。十月，王仲德水军人河，将逼滑台，魏兖州刺史尉建弃城北渡。仲德入城宣言曰“晋本欲以布帛七万匹假道于魏，不虞守将遽去。”魏王嗣闻之，遣叔孙建、公孙袁引兵济河，斩尉建于城下，问晋军以侵寇之状。仲德使人对曰“刘太尉使王征虏，自河入洛，扫清山陵，借空城以息兵，行当西引，无损于好也。”嗣又使建问裕，裕谢之曰“洛阳，晋之旧都，而羌据之；诸桓宗族，休之兄弟，晋之蠹也，而羌取之；吾今伐之，故假道于魏，非敢为不利也。”
魏王犹豫，秦阳、荥阳二城皆降，檀道济等兵至成皋。秦陈留公姚洸守洛阳，见晋兵至，遣使求救于长安。秦王泓闻知，遣兵救之。
未及至，将军赵玄言于洗曰“今晋寇益深，众寡不敌，若出战不克，则大事去矣。宜摄诸戍之兵，固守金墉，以待西师之救。金墉不下，晋必不敢越我而西，是我不战而坐收其弊也。”司马姚禹阴欲降晋，言于洸曰“殿下以英武之略，受任方面，今婴城示弱，得无为朝廷所贵乎？”洸然之。遣玄将兵五千余，南守北柏谷，玄泣曰“玄受先帝重恩，所守土，不免于死。但不用忠言，为奸人所误，后必悔之。”既而成皋、虎牢皆降道济，道济等长驱而进。玄以兵拒战，大败，被十余创。其司马蹇鉴冒刃抱玄而泣。玄曰“吾创已重，君宜速去同主保城。”鉴曰“督军不济，鉴去安之？”与之俱死。
姚禹闻玄败死，乃逾城奔降道济，道济遂进逼洛阳，洗不能守，率众出降。道济获秦人四千余，议者欲尽杀之，道济曰“吊民伐罪，正在今日。”皆释而遣之。于是夷夏咸悦，归者日众。
丁巳十三年正月朔，日食。晋师之过许昌也。秦东平公绍言于秦王泓曰“晋兵已逼安定，孤远难救，宜迁其镇户，内实京畿，可得精兵十万，虽晋夏交侵，犹不亡国。”仆射梁喜曰“齐公恢有威名，为岭北所惮。且镇人已与夏为深仇，理应无罚勃勃终不能越安定而寇京畿，若无安定，则虏马至郿矣。今关中兵足以拒晋，无为预自损削也。”泓从之。吏部郎懿密言曰“恢有忠勋，今未加殊赏而置之死地。安定人以孤危逼寇，