此时，北魏太武帝给宋文帝写信说：“此前盖吴反叛，煽动关中、陇右地区的百姓。你又派人去引诱他，给男人送弓箭，给女人送手环、手镯；这些人不过是想骗取财物，哪有远道而来服从你的道理！你身为大丈夫，为何不亲自来夺取土地，却用财物引诱我的边境百姓？招募前往你那里的人，免除七年徭役，这是奖赏奸邪之人。我如今在这片土地上获得的百姓，与你前后从我这里获得的百姓相比，谁多谁少？
“你如果想让刘氏家族继续祭祀祖先（保住政权），就应当割让长江以北的土地给我，率领手下官员向南渡过长江。这样，我就会放弃长江以南，让你在那里居住。否则，就好好命令你的方镇、刺史、太守准备好接待的营帐器具，今年秋天我就会去夺取扬州。大势已到，我最终不会放过你。你过去向北与柔然勾结，向西与赫连氏、沮渠氏、吐谷浑结盟，向东与冯弘、高丽联合。这几个国家，我都已经消灭了。由此可见，你怎能独自存在！
“柔然的吴提、吐贺真都已死去，我如今向北征伐，先消灭这个有骑兵的敌人。你如果不服从，今年秋天我就会再次来夺取你的土地；因你没有骑兵，所以不先讨伐你。我前来的时候，你会用什么计策？是挖掘壕沟坚守，还是修筑城墙自我防卫？我会公开地去夺取扬州，不像你那样暗中行事。你派来的间谍，我已经擒获，又放了回去。他亲眼看到了这里的情况，你可以详细询问他。
“你之前派裴方明夺取仇池，得到仇池后，又嫉妒他的勇武功劳，不能容忍他；有这样的大臣还将其杀死，你怎么能与我抗衡！你不是我的对手。你常想与我决战，我也不愚蠢，更不是苻坚（淝水之战中战败的前秦君主），何时会与你决战？白天我会派骑兵包围你，晚上就在距离你百里之外的地方宿营；你们吴地人擅长夜袭营寨，你招募人来偷袭，不过行军五十里，天就亮了。你招募来的人的头颅，怎能不被我获取！
“你父亲（宋武帝刘裕）时代的旧臣虽然年老，仍有智谋策略，但如今已经被你杀尽，这难道不是上天资助我吗！夺取你的土地也不需要我动用兵器，我这里有擅长咒语的婆罗门僧人，会让鬼神把你捆绑过来。”
侍中、左卫将军江湛升任吏部尚书。江湛品性公正廉洁，与仆射徐湛之都受到宋文帝的宠信，当时人称“江徐”。
北魏司徒崔浩，自恃有才能谋略，又受到太武帝的宠信，独揽朝廷大权，曾推荐冀州、定州、相州、幽州、并州五州的士人几十人，都直接被任命为郡守。太子拓跋晃说：“此前征召的人才，也是各州郡选拔出来的；他们在职已久，辛苦劳累却未得到回报，应当先补充郡县官员，让新征召的人代理郎官职位。况且郡守、县令负责治理百姓，应当任用有经验的人。”崔浩坚持争辩，最终还是将新征召的人派往郡县任职。中书侍郎、领着作郎高允听说后，对东宫博士管恬说：“崔公恐怕难逃灾祸了！如果他坚持错误，还想在君主面前争胜，怎能承受后果！”
北魏太武帝任命崔浩监管秘书省事务，让他与高允等人共同撰写《国记》，说：“务必如实记录。”着作令史闵湛、郗标，品性乖巧奸佞，受到崔浩的宠信。崔浩曾注释《周易》《论语》《诗经》《尚书》，闵湛、郗标上奏说：“马融、郑玄、王肃、贾逵的注释不如崔浩的注释精深，请求收缴国内所有这些人的注释书籍，颁布崔浩的注释，让天下人学习。并请求下令让崔浩注释《礼记》，让后辈能看到正确的释义。”崔浩也推荐闵湛、郗标有着述才能。闵湛、郗标又劝崔浩将所撰写的《国史》刻在石碑上，以彰显其如实记录的精神。高允听说后，对着作郎宗钦说：“闵湛、郗标所做的事，哪怕只有一点点差错，恐怕也会给崔家带来灭门之祸，我们这些人也会性命难保！”崔浩最终采纳闵湛、郗标的建议，将石碑刻好立在郊坛东侧，石碑占地百步见方，耗费人工三百万。崔浩在《国史》中记载北魏先祖的事迹，内容详实，石碑立在路边，往来行人看到后都议论纷纷。北方的鲜卑贵族无不愤怒，一起向太武帝诋毁崔浩，认为他暴露了国家的丑恶之事。太武帝大怒，命令有关部门审查崔浩及秘书郎吏等人的罪状。
当初，辽东公翟黑子受到太武帝的宠信，奉命出使并州时，接受了一千匹布。事情败露后，翟黑子向高允请教：“君主问我，我应当如实禀告，还是应当隐瞒？”高允说：“您是君主身边的宠臣，有罪就主动坦白，或许能得到原谅，不能再欺骗君主。”中书侍郎崔览、公孙质说：“如果主动坦白，罪责难以预料，不如隐瞒。”翟黑子怨恨高允说：“你为何要引诱我走向死地！”他入宫拜见太武帝，没有如实回答，太武帝发怒，将他杀死。太武帝让高允给太子讲授经书。等到崔浩被逮捕，太子召高允到东宫，趁机留他过夜。第二天早晨，太子与高允一同入朝，到宫门口时，太子对高允说：“入宫拜见君主，我会为你引导；如果君主有问，你就按照我说的话回答。”高允说：“是什么事情？”太子说：“你进去就知道了。”太子拜见太武帝，说：“高允做事小心谨慎、忠诚周密，而且地位低微；《国史》的撰写由崔浩主持，请赦免他的死罪。”太武帝召见高允，问道：“《国史》都是崔浩撰写的吗？”高允回答：“《太祖记》是前着作郎邓渊撰写的；《先帝记》（指太武帝之父明元帝的传记）和《今记》（指太武帝本人的传记），是臣与崔浩共同撰写的。但崔浩负责的事务繁多，只是总领编撰而已；至于具体撰写，臣写的内容比崔浩多。”太武帝发怒说：“你的罪过比崔浩还重，怎能活命！”太子感到害怕，急忙说：“君主威严庄重，高允是小臣，因害怕而语无伦次罢了。臣之前问过他，他都说《国史》是崔浩撰写的。”太武帝问高允：“真的像太子说的那样吗？”高允回答：“臣的罪过应当灭族，不敢说假话。殿下因臣长期为他讲授经书，怜悯臣，想让臣活命罢了，他其实没有问过臣，臣也没有说过那样的话，不敢因害怕而胡言乱语。”太武帝回头对太子说：“高允真是正直啊！这是常人难以做到的，而高允却能做到！临死不改变说辞，是诚信；作为臣子不欺骗君主，是忠贞。应当特别赦免他的罪过，以表彰他的品德。”于是赦免了高允。
随后，太武帝召崔浩前来，当面责问他。崔浩惶恐困惑，无法回答。高允则将事情的来龙去脉一一说明，条理清晰。太武帝命令高允起草诏书，诛杀崔浩及僚属宗钦、段承根等人，下至奴仆小吏，共一百二十八人，全部灭五族；高允迟疑不肯起草。太武帝多次派人催促，高允请求再见太武帝一面，然后再起草诏书。太武帝让他上前，高允说：“崔浩所犯的罪，如果还有其他过错，臣不敢知晓；如果只是因为撰写《国史》触犯君主，罪不至死。”太武帝发怒，命令武士逮捕高允。太子为高允下跪请求赦免，太武帝的怒气才缓解，说：“没有这个人，又会有几千人死去。”
六月己亥日，太武帝下诏，诛杀清河崔氏与崔浩同族的人，无论亲疏远近，以及崔浩的姻亲范阳卢氏、太原郭氏、河东柳氏，全部灭族，其余人只诛杀本人。官兵将崔浩关在囚车中，送到城南，数十名卫士在他身上小便，崔浩的惨叫声在路上都能听到。宗钦临刑前叹息说：“高允大概是圣人吧！”
后来有一天，太子责备高允说：“人也应当知道变通。我想为你免除死罪，已经给你暗示，而你最终不听从，反而让君主如此愤怒。每次想到这件事，都让人心惊胆战。”高允说：“史官的职责，是记录君主的善恶，为后人提供劝诫，因此君主会有所畏惧，谨慎自己的言行。崔浩辜负君主的恩德，因私欲埋没自己的廉洁，因个人爱憎遮蔽公正之心，这是崔浩的罪责。至于记录朝廷的日常事务，评论国家的得失，这是史官的本职，没有大的过错。臣与崔浩实际上共同参与此事，生死荣辱，按道义不应有区别。臣确实承蒙殿下让臣再生的恩情，但违背本心以求幸免，不是臣所愿。”太子感动得露出庄重的神情，称赞高允。高允退下后，对别人说：“我不按照太子的暗示去做，是担心重蹈翟黑子的覆辙。”
当初，冀州刺史崔赜、武城男崔模，与崔浩同族但不同支；崔浩常轻视侮辱他们，因此双方关系不和。等到崔浩被诛杀，只有这两家得以幸免。崔赜是崔逞的儿子。
辛丑日，北魏太武帝向北巡视阴山。太武帝诛杀崔浩后便心生悔意，恰逢北部尚书宣城公李孝伯病重，有人传言他已去世，太武帝哀悼道：“李宣城可惜啊！”随后又说：“朕说错话了，崔司徒（崔浩）才值得惋惜，李宣城只是令人哀伤！”李孝伯是李顺的堂弟，自崔浩被诛杀后，军国大事的谋划商议都由李孝伯负责，太武帝对他的宠信仅次于崔浩。
当初，车师大帅车伊洛世代臣服于北魏，北魏任命他为平西将军，封前部王。车伊洛准备入朝觐见时，沮渠无讳阻断了他的去路，车伊洛多次与沮渠无讳交战，击败了对方。沮渠无讳去世后，其弟沮渠安周夺取了他儿子沮渠乾寿的兵权，车伊洛派人劝说沮渠乾寿，沮渠乾寿于是率领五百多家部众投奔北魏；车伊洛又劝说李宝的弟弟李钦等五十多人归降，将他们全部送往北魏。车伊洛向西进攻焉耆，留下儿子车歇镇守城池。沮渠安周率领柔然军队从小路偷袭，攻克了车歇镇守的城池。车歇逃到车伊洛身边，父子二人共同收拢残余部众，据守焉耆镇，并派使者向北魏太武帝上书，说：“臣被沮渠氏攻击，前后已达八年，百姓饥饿穷困，无法生存。臣如今弃国出逃，得以幸免的人仅占三分之一，现已抵达焉耆东境，恳请陛下赈济救援！”太武帝下诏打开焉耆的粮仓，救济车伊洛的部众。
吐谷浑王慕利延被北魏逼迫，上奏表请求进入越巂郡（今四川西昌一带）自保，宋文帝同意了；但慕利延最终并未前往。
宋文帝想要讨伐北魏，丹阳尹徐湛之、吏部尚书江湛、彭城太守王玄谟等人都表示支持；左军将军刘康祖认为“今年出兵时间已晚，请等到明年再行动”。文帝说：“北方百姓苦于北魏的暴虐统治，义兵纷纷兴起。如果驻军等待一年，会挫伤响应正义的民心，不能这样做。”
太子步兵校尉沈庆之劝谏说：“我们以步兵为主，北魏以骑兵为主，兵力形势上本就不敌。檀道济两次北伐都无功而返，到彦之也战败而归。如今看来，王玄谟等人的能力超不过这两位将领，朝廷军队的声势也不如过去，恐怕会让王师再次蒙受耻辱。”文帝说：“王师之前两次失利，各有原因：檀道济养寇自重，到彦之中途生病。北魏所依赖的只有骑兵；今年夏季雨水充沛，河道畅通，我们乘船北上，碻磝（今山东茌平西南）的北魏守军必然逃走，滑台（今河南滑县）的小股戍军，也容易攻克。拿下这两座城池后，我们可以利用当地的粮食安抚百姓，虎牢（今河南荥阳西北）、洛阳自然难以坚守。等到初冬时节，各城防守相互衔接，北魏骑兵渡过黄河，就会被我们擒获。”沈庆之仍坚持认为不可北伐，文帝让徐湛之、江湛反驳他。沈庆之说：“治理国家就像治理家庭，耕种要问农夫，织布要问织女。陛下如今想要讨伐他国，却与白面书生商议，事情怎能成功！”文帝听后大笑。太子刘劭及护军将军萧思话也劝谏，文帝都不听从。
北魏太武帝听说宋文帝要北伐，再次给文帝写信说：“我们双方和好已久，但你贪心不足，引诱我的边境百姓。今年春天我南下巡视，只是将被你引诱的百姓驱赶回去。如今听说你要亲自前来，若你能抵达中山（今河北定州）和桑干川（今山西大同附近），可以随意行动，我既不会迎接，也不会送行。如果你厌倦了自己的国土，可以来平城居住，我也去扬州，我们交换地方。你已年过五十，从未出过家门，即便勉强前来，也像三岁婴儿，与我们这些在马背上长大的鲜卑人相比，究竟谁更强呢！我没有其他东西可以送给你，现在送你十二匹猎马以及毛毡、药品等物。你远道而来，马力不足，可以用这些马；若你不服水土，药品可自行医治。”
秋季，七月庚午日，宋文帝下诏说：“北魏近期虽遭受挫败，但残暴本性并未改变。近来收到河朔、关中、雍州一带汉族与异族百姓的奏疏，他们诉说困境，盼望朝廷拯救，还暗中相互联络，等待王师到来；柔然也派密使远道而来表达诚意，发誓与我们夹击北魏；夺取中原的时机，就在今日。可派遣宁朔将军王玄谟率领太子步兵校尉沈庆之、镇军咨议参军申坦的水军进入黄河，受青州、冀州二州刺史萧斌统领；太子左卫率臧质、骁骑将军王方回直接向许昌、洛阳进军；徐州、兖州二州刺史武陵王刘骏、豫州刺史南平王刘铄各自率领部众，从东西两面同时进发；梁州、南秦州、北秦州三州刺史刘秀之出兵震动汧水、陇山一带；太尉江夏王刘义恭出兵驻守彭城，统一调度各路军队。”申坦是申钟的曾孙。
当时朝廷大规模征兵，王公贵族、王妃公主及朝廷官员、州郡长官，下至富裕百姓，都捐献金银、丝帛及其他财物补充国家军用。又因兵力不足，朝廷征调青州、冀州、徐州、豫州、南兖州、北兖州六州中每户有三名男丁抽一人、五名男丁抽二人的壮丁，临时服役，命令到达后十天内准备好行装；长江沿岸五郡的壮丁在广陵集结，淮河沿岸三郡的壮丁在盱眙集结。还招募朝廷内外具备骑马、射箭等武艺或勇力的人，都给予丰厚奖赏。有关部门又上奏称军用物资不足，请求对扬州、南徐州、兖州、江州四州家产满五十万钱的富裕百姓，以及财产满二十万钱的僧尼，各借四分之一的财产，战事结束后归还。
建武司马申元吉率军向碻磝进军。乙亥日，北魏济州刺史王买德弃城逃走。萧斌派遣将军崔猛进攻乐安，北魏青州刺史张淮之也弃城逃走。萧斌与沈庆之留守碻磝，派王玄谟进军包围滑台。雍州刺史随王刘诞派遣中兵参军柳元景、振威将军尹显祖、奋武将军曾方平、建武将军薛安都、略阳太守庞法起率军从弘农（今河南灵宝东北）出兵。后军外兵参军庞季明年过七十，自称是关中豪门大族，请求进入长安招抚汉族与异族百姓，刘诞同意了；庞季明于是从赀谷（今河南卢氏东南）进入卢氏县，卢氏百姓赵难接纳了他。庞季明随后劝说当地士人百姓，响应他的人很多，薛安都等人趁机从熊耳山（今河南卢氏南）出兵；柳元景率军随后跟进。豫州刺史南平王刘铄派遣中兵参军胡盛之从汝南出兵，梁坦从上蔡（今河南上蔡）向长社（今河南长葛东）进军。北魏荆州刺史鲁爽镇守长社，弃城逃走。鲁爽是鲁轨的儿子。幢主王阳儿进攻北魏豫州刺史仆兰，击败对方，仆兰逃奔虎牢；刘铄又派遣安蛮司马刘康祖率军援助梁坦，逼近虎牢。
北魏群臣起初听说南朝宋军队来攻，向太武帝建议派兵救援黄河沿岸储存粮食布帛的据点。太武帝说：“现在马匹还未养肥，天气还热，仓促出兵必定无功。如果宋军持续进军，我们暂且退回阴山躲避。我们本就穿着羊皮裤，哪里需要绵帛！等到十月，我就没有忧虑了。”
九月辛卯日，北魏太武帝率军南下救援滑台，命令太子拓跋晃驻守漠南防备柔然，吴王拓跋余镇守平城。庚子日，北魏征调各州郡士兵五万人，分配给各路军队。
王玄谟的军队人数众多，武器装备精良整齐，但他本人贪婪固执又好杀戮。起初包围滑台时，城内有很多茅屋，士兵们请求用火箭焚烧茅屋。王玄谟说：“那些都是我的财产，怎能仓促烧掉！”城内守军趁机拆除茅屋，在地下挖掘洞穴居住。当时黄河、洛水一带的百姓争相捐献粮食、拿起武器前来投奔，每天有上千人，王玄谟不任命他们的首领，反而将他们分配给亲信；还向百姓收取一匹布，却索要八百个大梨作为交换；从此百姓大失所望。王玄谟围攻滑台数月未能攻克，听说北魏援军将至，士兵们请求用战车环绕营垒防守，王玄谟不听。
冬季，十月癸亥日，北魏太武帝抵达枋头（今河南浚县西南），派关内侯代郡人陆真在夜间率领数人突破宋军包围，潜入滑台，安抚城内守军，又登上城墙观察王玄谟军营的部署情况，返回后向太武帝报告。乙丑日，太武帝渡过黄河，军队号称百万，战鼓声响震动天地；王玄谟心生恐惧，率军撤退。北魏军队追击，宋军战死一万多人，王玄谟的部下几乎逃散殆尽，丢弃的军用物资和武器堆积如山。
此前，王玄谟派遣钟离太守垣护之率领一百艘战船作为前锋，占据石济（今河南滑县西南），位于滑台西南一百二十里处。垣护之听说北魏军队将至，急忙写信劝王玄谟加紧攻城，说：“昔日武帝（刘裕）进攻广固，战死的人很多。如今形势比当年更紧迫，怎能顾及士兵伤亡疲劳！希望以攻克城池为首要任务。”王玄谟不听。等到王玄谟战败撤退时，也来不及通知垣护之。北魏军队用缴获的王玄谟的战船，用三重铁锁连接起来，横截黄河，阻断垣护之的退路。黄河水流湍急，垣护之率军乘船顺流而下，每遇到铁锁，就用长柄斧头砍断，北魏军队无法阻拦；最终只损失一艘战船，其余战船都完好无损地返回。
萧斌派遣沈庆之率领五千人救援王玄谟，沈庆之说：“王玄谟的士兵疲惫衰老，北魏大军已逼近，必须有几万人才能进军。派少量军队轻率前往，没有任何用处。”萧斌坚持要他去。恰逢王玄谟逃回，萧斌准备将他斩首，沈庆之坚决劝谏说：“佛狸（北魏太武帝小名）威震天下，率领百万大军，岂是王玄谟能抵挡的！况且杀死战将只会削弱自己，不是好计策。”萧斌这才放弃杀王玄谟的想法。
萧斌想坚守碻磝，沈庆之说：“如今青州、冀州兵力薄弱，却坚守这座孤立的城池，如果北魏大军向东推进，清河以东地区就不再属于国家了。碻磝孤立无援，会重蹈滑台尚未修好就被攻克的覆辙。”恰逢朝廷使者到达，命令萧斌等人不得撤退。萧斌再次召集将领们商议，众人都认为应当留守。沈庆之说：“军事事务，将军有权自主决定。诏书从远方传来，不了解当前的形势。您有一个范增那样的人才却不能重用，空泛议论有什么用！”萧斌及在座的人都笑着说：“沈公竟然也学起文墨来了！”沈庆之厉声说：“众人虽通晓古今，却不如我这从实践中学习的人！”萧斌于是派王玄谟驻守碻磝，申坦、垣护之据守清口（今山东东平西），自己率领其余军队返回历城（今山东济南）。
闰十月，庞法起等各路军队进入卢氏县，斩杀县令李封，任命赵难为卢氏县令，让他率领部众充当向导。柳元景从百丈崖（今河南卢氏南）率军与庞法起等人在卢氏会师。庞法起等进攻弘农，辛未日，攻克弘农，擒获北魏弘农太守李初古拔。薛安都留守弘农。丙戌日，庞法起向潼关（今陕西潼关东北）进军。
北魏太武帝命令将领们分路进军：永昌王拓跋仁从洛阳向寿阳（今安徽寿县）进军，尚书长孙真向马头（今安徽怀远南）进军，楚王拓跋建向钟离（今安徽凤阳东北）进军，高凉王拓跋那从青州向下邳（今江苏邳州南）进军，太武帝亲自从东平（今山东东平）向邹山（今山东邹城东南）进军。
十一月辛卯日，北魏太武帝抵达邹山，鲁郡太守崔邪利被北魏军队擒获。太武帝看到秦始皇留下的石刻，派人将其推倒，用太牢（牛、羊、猪各一头）祭祀孔子。
楚王拓跋建从清河西岸进军，驻守萧城（今安徽萧县西北）；步尼公从清河东岸进军，驻守留城（今江苏沛县东南）。武陵王刘骏派遣参军马文恭率军向萧城进军，江夏王刘义恭派遣军主嵇玄敬率军向留城进军。马文恭被北魏军队击败。步尼公遇到嵇玄敬后，率军向苞桥进军，想要渡过清河向西；沛县百姓烧毁苞桥，夜间在树林中击鼓，北魏军队以为南朝宋大军赶到，争相渡过苞水，淹死的人将近一半。
宋文帝下诏任命柳元景为弘农太守。柳元景派薛安都、尹显祖先率军到陕城与庞法起等人会师，自己在后方督促粮草运输。陕城地势险要坚固，各路军队进攻未能攻克。北魏洛州刺史张是连提率领二万部众越过崤山救援陕城，薛安都等人与北魏军队在陕城南面交战，北魏军队出动精锐骑兵冲锋，宋军各路军队难以抵挡；薛安都大怒，摘下头盔，脱下铠甲，只穿着红色无袖铠甲，战马也去掉防护装备，瞪大眼睛手持长矛，单枪匹马冲入北魏军阵；所到之处无人能挡，北魏士兵从两侧射箭却无法射中他。这样冲锋多次，杀死杀伤北魏士兵无数。恰逢天色已晚，别将鲁元保率领军队从函谷关赶到，北魏军队才撤退。柳元景派遣军副柳元怙率领二千步兵、骑兵救援薛安都等人，夜间抵达，北魏军队并未察觉。第二天，薛安都等人在陕城西南列阵。曾方平对薛安都说：“如今强敌在前，坚固城池在后，今日正是我们决死战斗的日子。你如果不前进，我就斩了你；我如果不前进，你就斩了我！”薛安都说：“好，你说得对！”于是双方展开激战。柳元怙率领军队从南门击鼓呐喊冲出，旌旗飘扬，声势浩大，北魏军队惊慌失措。薛安都奋勇杀敌，鲜血沾满手臂，长矛折断后，换了一根再冲入敌阵，各路宋军一同奋勇作战。从清晨到午后，北魏军队大败，斩杀张是连提及将卒三千多人，其余北魏士兵坠入黄河、壕沟而死的很多，被俘二千多人。第二天，柳元景抵达陕城，责备投降的北魏士兵说：“你们本是中原百姓，如今却为北魏尽力作战，战败才投降，为什么？”投降的士兵都说：“北魏逼迫百姓作战，后出发的人会被灭族，用骑兵逼迫步兵前进，没开战就先死了，这是将军您亲眼所见的。”将领们想把投降的士兵全部杀死，柳元景说：“如今朝廷大军北上，应当让仁爱之声先传播开来。”于是将他们全部释放遣返，投降的士兵都高呼万岁离去。甲午日，宋军攻克陕城。
庞法起等人进攻潼关，北魏守将娄须弃城逃走，庞法起等占据潼关。关中地区的豪门大族纷纷起兵响应，四周山区的羌人、胡人也都前来归附。
宋文帝因王玄谟战败撤退，北魏军队深入宋境，认为柳元景等人不宜单独进军，于是将他们全部召回。柳元景派薛安都断后，率军返回襄阳。文帝下诏任命柳元景为襄阳太守。
北魏永昌王拓跋仁进攻悬瓠、项城，攻克两城。文帝担心北魏军队进攻寿阳，便召刘康祖率军返回。癸卯日，拓跋仁率领八万骑兵在尉武追上刘康祖。刘康祖有士兵八千人，军副胡盛之建议依托山地险要从小路退回寿阳，刘康祖愤怒地说：“我们到黄河边寻找敌人，却一直没见到；如今敌人自己送上门来，怎能躲避！”于是排列战车组成营阵前进，向军中下令：“敢回头观望的人斩首，敢后退的人斩足！”北魏军队从四面围攻，宋军将士都拼死作战。从清晨到午后，杀死北魏士兵一万多人，鲜血淹没脚踝，刘康祖身上负伤十处，斗志却更加旺盛。北魏军队将兵力分为三部分，轮流作战、休息。恰逢日暮时分刮起大风，北魏军队用骑兵驮着茅草焚烧宋军车营，刘康祖随即派人修补营阵缺口。这时有流箭射中刘康祖的脖颈，他坠马而死，剩余士兵无法继续作战，军队溃散，北魏军队追击，几乎将宋军全部歼灭。
南平王刘铄派左军行参军王罗汉率领三百人驻守尉武。北魏军队抵达后，士兵们想向南依靠低矮的树林自保，王罗汉因接受命令驻守此地，不愿撤离。北魏军队发起进攻，擒获王罗汉，用铁链锁住他的脖子，派三郎将（北魏官职）看守；王罗汉夜间斩杀三郎将，抱着铁链逃奔盱眙（今江苏盱眙）。
北魏永昌王拓跋仁进逼寿阳，焚烧劫掠马头（今安徽怀远南）、钟离（今安徽凤阳东北），南平王刘铄环绕城池坚守。
北魏军队驻扎在萧城（今安徽萧县西北），距离彭城仅十多里。彭城的宋军虽然人数众多，但粮食短缺，太尉江夏王刘义恭想放弃彭城南撤。安北中兵参军沈庆之认为历城（今山东济南）兵力少但粮食充足，建议组成“函箱阵”（一种严密的方阵），用精锐士兵在外侧掩护，护送刘义恭、刘骏两位亲王及王妃、公主直接前往历城；同时分兵给护军将军萧思话，让他留守彭城。太尉长史何勖则建议全军轻装逃往郁洲（今江苏连云港东），从海路返回京师。刘义恭已决定撤离，但两种方案争论了一整天仍未确定。安北长史、沛郡太守张畅说：“如果历城、郁洲确实能安全抵达，下官怎敢不极力赞同！如今城中粮食匮乏，百姓都有逃走的想法，只是因城门紧闭、防守严密，无法离开而已。一旦行动，百姓就会各自逃散，想抵达目的地，怎么可能！现在军粮虽少，但早晚之间还不至于耗尽；怎能放弃安全的方案，却选择危险的道路？如果一定要执行撤离计划，下官请求用颈血染红您的马蹄（意为以死反对）。”武陵王刘骏对刘义恭说：“叔父您是全军统帅，是否撤离我不敢干预，但我愧为彭城城主，若放弃城池逃跑，实在无颜再面对朝廷。我必定与彭城共存亡，张长史的话不能反对。”刘义恭这才放弃撤离的想法。
壬子日，北魏太武帝抵达彭城，在戏马台（今江苏徐州南）搭建毛毡帐篷，观察城内情况。
马文恭战败时，队主蒯应被北魏军队俘虏。北魏太武帝派蒯应到彭城南门的小市门，请求宋军给予美酒和甘蔗；武陵王刘骏满足了他的要求，同时向北魏请求给予骆驼。第二天，北魏太武帝派尚书李孝伯到彭城南门，向刘义恭赠送貂裘，向刘骏赠送骆驼和骡子，并且说：“魏主向安北将军（刘骏）致意，可暂时出城与我相见；我也不会进攻彭城，何必让将士们辛苦设防到这种地步！”刘骏派张畅打开城门出城会见李孝伯，说：“安北将军向魏主致意，一直盼望能当面交谈，只是作为臣子，不能与境外之人私下交往，遗憾不能尽诉心意。设防是边境城镇的常规做法，若能让将士们明白为何而战，他们即使辛苦也不会有怨言。”北魏太武帝请求宋军给予柑橘，并借赌博用具，宋军都一一提供；北魏则回赠毛毡和九种盐、豆豉。北魏又请求借用乐器，刘义恭回复说：“我们奉命出征，没有携带乐器。”李孝伯问张畅：“为何匆匆关闭城门、拆毁桥梁？”张畅说：“两位亲王因魏主营垒尚未建立，将士疲劳，担心我军十万精锐士兵轻易冲突，所以关闭城门。等贵军将士、马匹休息好，我们再共同清理战场，约定日期决战。”李孝伯说：“宾客有礼，主人应选择合适的应对方式。”张畅说：“昨天看到贵军宾客到城门，并未体现出礼貌。”北魏太武帝派人来传话：“向太尉、安北将军致意，为何不派人到我这里来？彼此的情况虽不能完全了解，但至少要看看我的身材大小、年龄老少，了解我的为人。如果亲贵僚属不便前来，派仆人来也行。”张畅以两位亲王的名义回复：“魏主的相貌、能力，早已通过往来使者知晓。李尚书亲自奉命前来，不用担心彼此情况不了解，所以不再另派使者。”李孝伯又说：“王玄谟不过是个平庸之人，南朝为何要重用他，以致战败逃亡？我军进入宋境七百多里，贵军竟然无法抵挡一次。邹山（今山东邹城东南）地势险要，是你们所依赖的屏障，我军前锋刚到，崔邪利就躲进山洞，将领们把他拖出来擒获。魏主饶他一命，如今他就在军中。”张畅说：“王玄谟是南方的偏将，我们并未认为他有才能，只是让他担任先锋。当时大军尚未赶到，黄河即将结冰，王玄谟趁夜撤军，导致军队稍有混乱而已。崔邪利被俘，对国家有什么损失！魏主率领几十万大军擒获一个崔邪利，也好意思说吗！贵军入境七百多里无人抵挡，这正是太尉的神机妙算、镇军将军（刘骏）的高明策略，用兵讲究时机，不必向你们解释。”李孝伯说：“魏主不会围攻彭城，将亲自率领大军直逼瓜步（今江苏南京六合东南）。如果能拿下南方，彭城不用围攻也会归附；如果不能成功，彭城也不是我们所需要的。我现在要南下饮长江水来解渴了。”张畅说：“去留之事，由你们自行决定。如果胡人的战马真能饮到长江水，那就是没有天道了。”此前有童谣唱道：“虏马饮江水，佛狸（北魏太武帝小名）死卯年。”所以张畅这样说。张畅言辞从容、容貌文雅，李孝伯与身边人都赞叹不已。李孝伯也善于辩论，临走时对张畅说：“长史多保重，我们近在咫尺，遗憾不能握手相见。”张畅说：“您也多保重，希望平定天下的日子不远，我们相见不会太久。您若能回到南朝，今天就是我们相识的开始。”
这时，宋文帝起用杨文德为辅国将军，派他率军从汉中向西进发，扰动汧水、陇山一带。杨文德的同族杨高率领阴平（今甘肃文县西北）、平武（今四川平武东南）的氐人抵抗。杨文德进攻杨高，将其斩杀，平定阴平、平武。梁州、南秦州二州刺史刘秀之派杨文德讨伐啖提氐（氐族部落之一），未能攻克，便将杨文德押送到荆州；派杨文德的堂兄杨头驻守葭芦城（今甘肃武都东南）。
丁未日，南朝宋宣布大赦天下。
北魏太武帝进攻彭城，未能攻克。十二月丙辰朔日（初一），率军南下，派中书郎鲁秀出兵广陵（今江苏扬州），高凉王拓跋那出兵山阳（今江苏淮安），永昌王拓跋仁出兵横江（今安徽和县东南），所到之处无不遭到摧残毁灭，城镇都望风溃逃。戊午日，建康实行戒严。己未日，北魏军队抵达淮河岸边。
宋文帝派辅国将军臧质率领一万人救援彭城。臧质抵达盱眙时，北魏太武帝已渡过淮河。臧质派冗从仆射胡崇之、积弩将军臧澄之在东山扎营，建威将军毛熙祚驻守前浦，自己在盱眙城南扎营。乙丑日，北魏燕王拓跋谭进攻胡崇之等三座营垒，三座营垒全部战败覆没，臧质按兵不动，不敢救援。臧澄之是臧焘的孙子；毛熙祚是毛修之的侄子。当天夜里，臧质的军队也溃散了，他丢弃辎重器械，仅率领七百人逃入盱眙城。
当初，盱眙太守沈璞到任时，王玄谟还在围攻滑台，江淮地区没有战事警报。沈璞认为盱眙地处交通要道，于是修缮城墙、疏通护城河，囤积财物粮食，储备弓箭石头，做好守城准备。下属官员都反对，朝廷也认为他做得过分。等到北魏军队南下，地方官员大多弃城逃走。有人劝沈璞退回建康，沈璞说：“如果胡虏因城池狭小不屑进攻，我们又有什么可担心的！如果他们逼近攻城，这正是我报效国家、各位封侯的时刻，怎能离开！各位曾见过几十万人聚集在小城下却攻不下来的情况吗？昆阳之战、合肥之战，都是过去的明证。”众人的情绪才逐渐稳定。沈璞收拢到二千精锐士兵，说：“足够了！”等到臧质向盱眙靠拢，有人对沈璞说：“如果胡虏不攻城，就无需这么多人；如果他们攻城，城中也只能容纳现有的兵力。地方狭小而人多，很容易引发祸患。况且敌众我寡是众所周知的，如果依靠臧质的军队能击退敌人、保全城池，功劳就不全在我们；如果臧质等人战败后想逃回京师，需要船只，必然会相互踩踏，只会带来祸患，不如关闭城门不让他们进来。”沈璞叹息说：“胡虏一定攻不下盱眙，我敢向各位保证。乘船逃跑的想法，早已行不通了。胡虏的残忍，古今未有，屠杀掠夺的苦难，大家都亲眼所见，其中侥幸存活的人，也不过是被驱赶到北方做奴婢而已。他们虽然是乌合之众，难道不害怕这样的下场吗！这就是所谓‘同舟共济，即使是胡人和越人也能同心协力’。如今兵力多，胡虏撤退得就快；兵力少，撤退得就慢。我怎能为了独占功劳而让胡虏长期停留呢！”于是打开城门接纳臧质。臧质看到城中物资充足，十分高兴，士兵们都高呼万岁，于是与沈璞共同防守。北魏军队南下时，没有携带粮草，只靠抢掠补充物资。渡过淮河后，百姓大多逃散躲藏，抢掠不到东西，士兵和马匹都饥饿疲惫；听说盱眙有囤积的粮食，想把它作为北撤的物资。攻克胡崇之等人的营垒后，一次攻城未能拿下，便留下将领韩元兴率领几千人驻守盱眙，自己率领大军继续南下。因此盱眙得以进一步完善防守准备。
庚午日，北魏太武帝抵达瓜步，拆毁百姓房屋，砍伐芦苇制造木筏，声称要渡过长江。建康上下震惊恐惧，百姓都挑着担子准备逃跑。壬午日，朝廷内外实行戒严，丹阳郡辖区内每户都要派出壮丁，王公以下官员的子弟都要服役。文帝命令领军将军刘遵考等人率军分别驻守沿江重要渡口，巡逻部队从于湖（今安徽当涂南）向上延伸，向下抵达蔡洲（今江苏南京西南长江中），排列战船、扎下营垒，环绕长江岸边。从采石（今安徽马鞍山南）到暨阳（今江苏江阴），绵延六七百里。太子刘劭出兵驻守石头城（今江苏南京西），统一指挥水军，丹阳尹徐湛之驻守石头城的粮仓，吏部尚书江湛兼任领军将军，军事部署都交给他们负责。
宋文帝登上石头城，面带忧虑，对江湛说：“北伐的计划，当初赞同的人很少。如今百姓劳苦、士兵愤怒，我不能不感到惭愧。给大臣们带来忧虑，是我的过错。”又说：“如果檀道济还在，怎能让胡人的战马到这里来！”文帝又登上莫府山（今江苏南京江宁南），观察形势，悬赏捉拿北魏太武帝及北魏王公的首级，许诺给予封爵和金银丝帛。又招募人携带浸泡过野葛（有毒植物）的酒放在空村中，想毒死北魏士兵，最终没能伤到敌人。
北魏太武帝在瓜步山上开凿盘山路，在山上搭建毛毡帐篷。他不喝南方的水，用骆驼驮着北方的水跟随。他向宋文帝赠送骆驼、名马，请求和解，并提议通婚。文帝派奉朝请田奇向北魏太武帝赠送美味佳肴。北魏太武帝拿到黄柑橘，立即品尝，还痛饮酃酒（今湖南衡阳产的名酒）。身边有人凑过来小声说话，怀疑食物中有毒。北魏太武帝没有回应，举起手指着天空，把他的孙子叫过来给田奇看，说：“我远道而来，不是为了追求功名，实在是想与南朝和好，让百姓休养生息，永远结为姻亲盟友。如果宋朝能把公主嫁给我的孙子，我就把公主嫁给武陵王刘骏，从今以后，不会再让一匹战马南下。”
田奇返回建康后，文帝召太子刘劭及大臣们商议。众人都认为应该答应北魏的请求，江湛说：“戎狄没有亲情，答应他们没有好处。”刘劭大怒，对江湛说：“如今三位亲王（指刘义恭、刘骏、刘铄）处境危险，怎能固执地提出不同意见！”言辞和脸色都十分严厉。朝会结束后，众人一同走出，刘劭让持剑的卫士和手下人推挤江湛，江湛差点摔倒。
刘劭又对文帝说：“北伐战败受辱，几个州沦陷，只有斩杀江湛、徐湛之，才能向天下人谢罪。”文帝说：“北伐本是我的主意，江湛、徐湛之只是没有反对而已。”从此太子刘劭与江湛、徐湛之结下怨恨，北魏与南朝宋的通婚最终也没有成功。