两位将军应该等刘裕的大军前来再一并兵发关中。但王镇恶和檀道济被前面的胜利所激励，没有等刘裕的大部队到达就率军西进，直达潼关城下。在这里，他们遭遇了后秦的顽强抵抗，虽然突破了潼关，但后秦军队随即退到距离潼关不远的定城，两军陷入僵持。
先锋已经陷入苦战，刘裕的大部队却由于绕远，迟迟无法到达。加上当时黄河的两岸属于不同的国家，北面是北魏的领土，南面则被东晋占领。由于担心晋军“假道灭虢”，北魏派出大军边设防边骚扰晋军，拖慢了刘裕的速度。刘裕于几个月后才到达河南与陕西交界的陕县（现河南三门峡陕州区），与两位将军距离不远了。
就在人们揣测接下来的战争应该怎么打时，一条意想不到的消息传来。原来，刘裕曾派遣沈田子率领三千人马进军武关，希望对敌人进行骚扰和牵制。不想，当后秦在潼关一带投入大军抵御王镇恶时，却漏掉了对沈田子的防御。沈田子不仅攻克了武关，还率军直达蓝田的青泥关，已经进入关中平原，距离长安只有百里之遥。
仓促之间，后秦皇帝姚泓不知道沈田子的部队有多少人，连忙将征召来防守潼关的大军派往青泥关应对沈田子。而刘裕知道沈田子人手不够，连忙派遣士兵从华山翻山而过，走险峻的小道支援沈田子。
沈田子的出现吓破了后秦将士的胆。在随后的战斗中，沈田子以极少的兵力击溃后秦军队。这次决定性的胜利也帮助了潼关一带的将士。在王镇恶的率领下，晋军一路掩杀，直达长安，敲响了后秦政权的丧钟。
这次北伐帮助刘裕获得了黄河以南的中原以及整个关中地区，本来可以成为一次历史教科书式的远征。但是，当军事成功之后，局势变得更加复杂。
由于在建康安插的心腹死亡，刘裕急忙赶回江南，去稳固自己的势力并组织禅让，从东晋皇帝手中接过政权。他把关中留给了未成年的儿子刘义真（时年十二岁），并让大将王镇恶辅佐刘义真。王镇恶是前秦丞相王猛的孙子，在关中地区有着很高的威望，他的留守有利于稳固关中。
但刘裕又不完全放心王镇恶，害怕他寻求独立，于是又安排沈田子监督和牵制王镇恶。不想他离开后局势随即恶化，沈田子害怕王镇恶谋反（这可能是子虚乌有），先下手为强杀死王镇恶。王修又以沈田子滥杀大臣的名义，诛杀沈田子。随后，刘义真又杀了王修。
王镇恶和沈田子，两位在北伐中功劳最大的将领就这样死于非命。
更严重的情形来自外部。在北方，一位叫赫连勃勃的匈奴人建立了政权，号称大夏，对关中地区早已虎视眈眈。当他听说刘裕退兵后关中闹起内乱，立刻率军进入关中。他采取“关门打狗”的战略，进攻潼关，同时封锁武关以北的两座要塞青泥和上洛。这三个地点的封锁，让关中的晋军没有退路，要想直接回中原和江南已经不可能。之后，赫连勃勃对长安发起攻击。
刘裕一看事态恶化，连忙召回儿子，让大将朱龄石负责关中事务。但由于王镇恶的死亡，关中百姓已经不再信任晋军，跟着赫连勃勃一同反对晋军，朱龄石逃跑时被抓获并斩首。
刘裕北伐进军关中，虽然获得过阶段性胜利，最终却一无所获：折损数员大将和大量的军队，却为他人作嫁衣，将关中让给赫连勃勃。
这次北伐的命运，也是其他历次北伐的一个缩影。在整个东晋及南朝两百多年的历史中，南方政权发起的北伐大都虎头蛇尾，以失败和得不偿失告终。
比如，在东晋刚建国时，旅居在京口的祖逖就曾率军北伐，表示不收复中原不回头。他攻克了江淮间的某些地方，以寿春为基地进行抗战，直到死亡。祖逖的弟弟祖约卷入苏峻的反叛，死于内战之中。这次北伐没有跃出淮河流域，更别提收复两京。
东晋永和五年（公元349年）开始，东晋以殷浩为首组织了三次北伐。第一次以彭城和长安为目标，第二次以后赵的国都邺城为目标，第三次到了许昌，最后全都吃了败仗而回。
东晋永和十年（公元354年），权臣桓温以长安为目标发起北伐，到达灞上，距离长安只有一步之遥，但仍然失败而回。东晋太和四年（公元369年），桓温以前燕为目标发动北伐，再次失败。
前秦与东晋的淝水之战后，北方大乱，本来是收复中原的好时机，但东晋的进攻仍然只能停留在黄河以南，最多只是在如今的山东境内更向北一些。
刘裕的北伐最接近于成功，但吊诡的是，刘裕攻克了长安，却无法持久占领。人们立了许多假设来证明刘裕已经成功，比如刘裕不回去争夺皇位而是留在北方，也许长安就不会丢失；东晋大将如果不出现纷争，就没有赫连勃勃的机会，等等。但这些假设即便应验，南方仍然很难守住长安。
进入南北朝时期，仍然有北伐。比如宋元嘉七年（公元430年）宋文帝的北伐，一举打到黄河沿岸，占据了数个战略要塞，但最终仍然败还，留下“元嘉草草，封狼居胥，赢得仓皇北顾”的千古遗憾。
到了后来，南朝的政治越来越糟糕，实力越来越弱，就只有等待北朝南征的命运了。
如果把历史界限放宽，我们就会看到，从蜀汉时期开始直到元朝，都没有南方统一北方的案例。后来朱元璋利用元朝末年的混乱成功了，但这个特例并不能改变南弱北强的事实。
那么，为什么南方的北伐大都以失败告终，无法取得持久的成就呢？答案隐藏在战略地理之中。
东晋南朝时期，南方的政治地理中心在长江边的南京，一旦南京失守，就宣告南方政权的结束，所有的抵抗也会走向终止。皇帝即便想逃也没有地方可逃：在当时浙江杭州一带仍然属于边缘地带，政治影响力不足，少数民族多，逃到那儿就基本上丧失了对中原的影响力；荆州一带虽然是战略要冲，但由于它四面临敌，如果实力不足，逃到荆州就等于陷入了死地；湖南和江西如同两个布袋，一旦进去就难以出来。所以，南方政权就相当于南京政权，北方攻克南京就等于大功告成。
而北方的政治地理却要复杂得多。在北方没有一个一旦失守就能让所有抵抗土崩瓦解的中心。
比如，刘裕可以攻克长安，但是在山西、河北、甘肃仍然可能会有大量的抵抗力量；一旦刘裕松懈，这些力量就会将他赶走。在洛阳也是如此，如果不获得山西的控制权，仅仅占领洛阳是没有意义的，因为山西的敌对势力随时可以渡过黄河进攻洛阳。在东面，仅仅占领河北也没有意义，同样是山西的存在，使得占领成本太高，无人能够承受。
所以，南方政权如果要北伐成功，必须控制洛阳和长安；为了稳定控制洛阳和长安，必须获得山西；而为了获得山西，必须进攻塞外。就这样环环相扣，南方政权没有人能够完成如此大量的任务。
历代历次北伐行动，只有刘裕完成了攻克长安这一步，而大部分甚至连洛阳都没有攻克，北伐就已经结束。更多的则陷入了在淮河流域或者荆襄地区对某一个具体城市的争夺，在耗尽了军事资源之后就撤军了。
最终，秦岭—淮河就成了军事地理的分界线。如果南方政权能够控制秦淮一带，就能暂时稳定住，但他们最多也就是达到秦淮一线，无法继续向北。只有北方政权能够一举而下，冲破秦淮防线，攻克南京，统一全国。
直到近代，热兵器的普及、机械化的使用，才有可能改变南方的命运。但即便如此，北方在战略地理上的优越性，可能仍然无法被超越。
