北魏统一中国北方后，南北朝间的矛盾上升为主要矛盾。战争的陰影笼罩在南北两朝上空。
北魏与刘宋争夺河南地区之战终于爆发。
魏宋争夺河南地区战前的基本形势是：北魏方面：拓跋-建国后，经过与东胡、高车、匈奴、柔然等部族的多次作战，特别是在击败东方强国后燕之后，国势日趋强大。但是，国内仍时有叛乱发生，且西有强盛的后秦，北有柔然的不断进袭，尚不敢向东晋展开大规模的征战。
晋安帝义熙元年、北魏天赐二年（公元405年）五月，东晋北青州刺史刘该反叛，以魏国为后援，晋清河、阳关两都太守孙全聚众响应刘该。六月，魏乘机派豫州刺史索度真、大将斛斯兰进击徐州，围攻彭城（今江苏徐州）。
晋刘裕命其弟南彭城内史刘道怜、东海太守孟龙符率兵相救，将刘该、孙全击败斩首，魏军也战败而逃，自此，北魏多年再不敢对晋用兵。义熙五年、北魏天赐六年（公元409年）十月，魏国发生内证。拓跋-、贺夫人所生之子拓跋绍，因其母受到囚禁不满，联络宫女、宦官将其父拓跋-杀死。旋即，拓跋-另一儿子拓跋嗣，又将拓跋绍杀死而即皇帝位。这就是魏明元帝。
拓跋嗣即位之后，面对后秦、夏、柔然、东晋诸国的纷争，只能与北方诸国争夺，仍无力南下。晋义熙九年（公元413年）九月，魏国内的吐京胡与离石胡人，不满魏的统治，在首领出以眷的率领下，起兵反魏。魏主拓跋嗣命元城侯拓跋屈率会稽公刘浩、永安侯魏勤率军围剿。出以眷联合夏军迎击魏军，击败并生俘刘浩，魏勤也战败身亡。
至刘裕代晋前后，魏一方面通过稳定内部，发展生产，积累社会财富；另一方面对北方诸国作战，屡屡获胜，不断俘获对方的人口和牲畜财物，实力大大增强。便从公元422年开始，在积极推进统一北方的同时，也间或向晋河南地区用兵，魏宋之间的战争遂拉开序幕。
东晋刘宋方面：东晋太尉刘裕，于义熙十三年（公元417年）九月，击灭后秦，占据了关中地区后，声威大振。魏主拓跋嗣十分惊恐，于是派使者向晋请和。刘裕为巩固关中，遂应允与魏暂时言归于好；同时也遣使至夏，与夏结为兄弟。但刘裕东归彭城（今江苏徐州）之后不久，长安便为夏军占领。
太尉刘裕早有代晋自立之意，他夺取关中之后，威望镇慑朝野上下，连北魏的崔浩也推断，刘欲篡取晋王位的时间已为期不远了。义熙十四年（公元418年）十二月，刘裕指使中书加王韶文，串通皇帝左右的人，暗中谋杀晋安帝，欲拥立琅邪王司马德文，进而过渡到自立为帝。十二月十七日，王韶文乘晋安帝不备，将安帝缢死。刘裕立即假称安帝遗诏，拥立司马德文登上帝位，这就是东晋的末代皇帝晋恭帝。
晋恭帝元熙元年（公元419年）七月，刘裕被封为宋王，八月，由彭城改镇守寿阳（今安徽寿春）。至第二年（公元420年）春，刘裕急欲称帝，但又难以启口，于是便召集群臣饮宴，说自己年已65岁，佯称欲辞官回家养老。众臣皆不解其意，均对其歌功颂德一番而去。只有中书令傅亮明白了刘裕的用意，在刘裕的默许之下，去京师建康，准备刘裕称帝的事。四月，傅亮以恭帝的名义，征召刘裕进京辅政。刘裕遂留下儿子义康镇守寿阳，回至京城。
傅亮立即暗中提示晋恭帝司马德文主动禅让帝位于刘裕，并将他早已拟好的禅位诏书，让晋恭帝抄写。晋恭帝遂于六月十一日，召集百官，宣布逊位。
刘裕便于十四日登上皇帝位，改元为永初。这即是历史上刘宋王朝建国的开始，刘裕为刘宋武帝。
刘裕即皇帝位后，即以刘道怜为太尉，刘穆之为南康郡公，王镇恶为龙阳侯；并以凉公李韵为都督高昌等七郡诸军事，征西大将军；以西秦王乞伏炽磐为安西大将军。后又封仇池公杨盛为武都王。
永初三年（公元422年）五月，刘裕病重，下诏命司空徐羡之、中书令傅亮、领军将军谢晦、镇北将军檀道济，辅佐太子刘义符，同时严令群臣：“今后若逢幼主登基，朝中大事一律交由宰相处理，母后不得临朝听政。”
刘裕“清简寡欲，严整有法度，被服居处，俭于布素，游宴甚稀，嫔御至少。财帛皆在外府，内无私藏。”一次岭南太守贡献一批津美的细布，刘裕认为织此布劳工费时，即交有司弹劾该太守，命人将布送回，下命禁止织造此布。他的公主出嫁，一概不许陪嫁锦绣之物，“内外奉禁，莫敢为侈靡”。
这些反映了刘宋王朝开国以来的社会风气。
公元421年，刘宋武帝刘裕已在位一年多，刘宋在他的治理下，逐渐呈现出欣欣向荣的景象。
但刘裕总有一块心病，即担心被他赶出皇宫，贬为零陵王的晋恭帝司马德文。
刘裕的儿子刘义符，当时已17岁，也算成人。但刘义符自幼厌恶读书，胸无大志，性格孤僻，放荡不羁，行为不轨。刘裕对他苦口婆心，劝他多读书、树大志，他均充耳不闻，依然我行我素。刘裕对他不争气的样子，大骂斥责，他也不在乎，完全是个无可救药的浪荡子。
而司马德文却怀有雄心壮志，熟读兵法，文韬武略均在一般人之上，他性格倔强，豪放，善交朋友，且退位禅让并非他心甘情愿的事，时机一到，必定会东山再起。
刘裕为此吃不好饭，睡不好觉。他知道一旦他百年后，太子义符登基，司马德文必定卷土重来，太子义符这个不学无术的不孝之子肯定是司马德文的手下败将，刘宋江山将毁在他手里。
刘裕思前想后，最后下决心除掉司马德文。
刘裕把一瓦罐毒酒交给前琅邪郎中令张伟，让他毒死改封为零陵王的东晋恭帝司马德文，张伟叹息说：“毒杀君王而求活命，不如一死。”于是在路上自饮而亡。
刘裕又把除掉司马德文的事交给太常诸秀之，侍中褚谈之，二人都是零陵王司马德文的王妃褚灵秀的哥哥。司马德文的妻妾中，只要有人生下男孩，刘裕便命褚秀之兄弟趁机扼杀。
零陵王司马德文逊位后，他深恐自己不免遭毒手，就与褚妃同住一室，在床前煮饭烧汤，饮食等所需用的东西都由褚妃亲手躁办。所以刘裕的人一时没有机会下手。这年（公元421年）九月，宋武帝刘裕命令褚谈之与其兄右卫将军褚叔度前往探视他们的妹妹褚妃。褚妃出来到另一间房子与二兄相见。刘裕派的伏兵趁机翻墙而入，把毒酒递给零陵王司马德文。司马德文不肯饮服，说：“佛教规定，自杀而死的，再世投胎时，将不能得到人身。”
司马德文话音未落，那伙凶恶的士卒就一拥而上，用棉被蒙住司马德文的头，将他活活闷死。
司马德文死后，刘裕率文武百官亲临那里朝堂三日，以示哀悼。
公元422年春。
67岁的宋武帝刘裕因朝政繁忙，每天都感到津疲力尽。一天晚上，他受凉得病，数日不愈，最后竟卧床不起。
刘裕病重期间，太尉长沙王刘道怜、司空徐羡之、尚书仆射傅亮、领军将军檀道济一道进宫，服侍刘裕治疗服药。朝中大臣们请求向神灵祈祷，刘裕不许，只派侍中谢方明到宗庙焚香，把病情向祖先报告。刘裕一向不信神怪，当他还是一个平民的时候，有许多样兆，等到后来大贵，史官们向他查证传闻，刘裕都拒而不答。
年老体弱，又患重病的宋武帝刘裕在张皇后，太子义符、太子妃司马氏（即海盐公主）及朝中重臣的日夜轮流护侍，津心调养，数日后，病情逐渐好转。大臣们相继退去，只剩下张皇后、太子义符、太子妃司马氏等继续在刘裕身边服侍。
一个没有月光、星光的夜晚，轮到太子义符和太子妃海盐公主入殿护侍。
未到半夜，太子义符吃不得苦，便回到内殿去睡觉去了，殿内只剩下海盐公主，她是晋恭帝的女儿。
海盐公主平时对刘裕恨之入骨，因为她父亲晋恭帝就是被刘裕逼得禅位，后又被刘裕派人用毒酒毒死的。
海盐公主盯着睡熟的刘裕，心生一计。
海盐公主扮成一个酷似晋恭帝模样的人，来到刘裕床前，猛地扼住刘裕的脖子。刘裕惊醒，海盐公主身穿龙袍，头戴天冠，貌似晋恭帝，张牙舞爪，口中伸出长长的舌头，一边恶狠狠地喊着：“还我德文命来！还我德文命来！”
只听刘裕“啊”地一声，吓昏过去。
第二天，刘裕开始胡言乱语，大叫大喊。经常是刚睡着，又惊醒，随即乱喊乱叫：“晋安帝、晋恭帝来找我讨命！快，快把他们赶走！”“不，司马德文不是我杀死的，你们千万别向我索命！”他喊着，叫着跳下床，东躲西藏，吓得张皇后毛骨惊然，颤栗不止。
一连几天，刘裕惊厥不已，御医诊脉眼药均无效。张皇后带着太子和太子妃海盐公主去寺庙祈求神灵保护。就这样折腾了十几天，刘裕经常昏迷，神智不清。
一天晚上，气息奄奄的刘裕，突然清醒了似的，他睁大眼睛望了望床周围的人，眼睛落到太子刘义符身上，然后慢慢伸出手，握住太子义符的手，断断续续他说：“吾儿切记，……要多做善事，少行恶……”话没说话，一口气没上来，随后头一歪，死了。
紫云殿里，张皇后、太子义符等嚎陶大哭。
东宫太子殿里，海盐公主也在哭，她一边哭，一边说：“父母大人，苍天有眼，女儿为你们报了仇，你们在九泉之下可以闭目了！”
刘裕去世的时候，刘宋使臣殿中将军沈范，正出使北魏，告辞返国，刚到黄河，北魏明元帝拓跋嗣便派人追赶，生擒而回。
明元帝拓跋嗣欲趁刘裕刚死伐宋，攻取黄河南岸与北魏隔河相望的一些地方。
拓跋嗣召集朝中重臣廷议。
拓跋嗣说：“刘裕刚死，刘宋上下混乱，朕想利用这个千载难逢的时机发兵，攻取黄河南岸的洛阳、虎牢和滑台。诸卿有何高见？”
崔浩劝阻说：“当初陛下您没有因为刘欲骤然得势，而接纳他派遣的使臣和礼物，而刘裕对陛下也十分恭敬。他现在刚死，我们却乘人家国丧而兴兵讨伐，即使得手也是不义的。更何况以我国眼下的实力，也不可能一举夺取江南，而只能落个伐丧的恶名。我以为陛下不能这样做，反倒应该派使节前往吊丧，抚慰孤寡，同情他们的不幸，以使我们仁义的名声，传播天下。
这样以来，长江以南的江山，就可不攻自服。况且如今刘裕刚刚去世，其党羽还不曾离析，一旦大军压境，他们势必会同心协力抵抗，我们不一定能成功。不如稍稍延缓，等待他们的权臣争夺内证，发生内乱时，我们再调兵遣将，军土也不曾疲劳，即可坐收淮北的大片土地。“
拓跋嗣反问道：“当年刘裕乘姚兴之死；一举灭掉了秦国。如今我要乘刘裕之死，讨伐刘宋，有什么不可以？”
崔浩说：“那不一样，姚兴死后，他的儿子们拼命内争，刘裕才得以乘机讨伐。现在江南的刘宋无机可乘，所以不可同日而语呀！”
明元帝拓跋嗣拒不接受崔浩的意见，加授司空奚斤以符节，命他兼晋兵大将军、代理扬州刺史等官职，率领宋兵将军、交州刺史周几，吴兵将军、广州刺史公孙表等，一起向刘宋进攻。
北魏南征的大军将要出发，朝中的公卿显贵在太子拓跋焘的殿前，举行会议，讨论应先攻城他还是先占领土地？
奚斤认为，应先攻取城他。
崔浩反对，说：“南方人擅长守城。从前前秦苻氏进攻襄阳，一年有余，不能破城。现在我们以大军攻小城，如果不立即攻克，必定会挫伤军力，敌人就会慢慢的增援，我军疲劳而敌人气势正盛，这是十分危险的办法。我不如分别派兵，夺取土地，以淮河为界限，依然委派地方官，征收田赋租金，把洛阳、滑台、虎牢远隔在我们大军后方。当他们对南方的救援感到绝望的时候，必定会沿着黄河向东撤，即使不走，他们也只能是我们园中的猎物，还用担心没有收获？”
吴兵将军公孙表等却仍坚持先行攻城。明元帝拓跋嗣最后应许了公孙表的请求。
于是北魏的晋兵大将军奚斤，统率着征南大军步骑兵三万人，渡过了黄河，在滑台之东安营扎寨。这时，刘宋的司州刺吏毛德祖，镇守虎牢，东郡太守王景度向毛德祖紧急求援。于是，毛德祖派遣司马翟广等率领步骑兵三千前去救援。
在此之前，司马楚之，在陈留境内招兵买马，集结力量。他听说北魏大军渡过黄河的消息，立即派遣使臣前往投降。
拓跋嗣问崔浩：“以你之见，像司马楚之这样的人应该怎样使用他们？”
崔浩说：“您的远大抱负是先统一北方，最后统一全国。现在正是用人之时，应该团结一切可以团结的势力，利用一切可以利用的人，让他们集聚在您的旗帜下，共同对敌，只有具备海纳百川的胸怀和气魄，才有可能成就伟业。像司马楚之这样的人，应该委以重任，让他为您的事业冲锋陷阵。”
明元帝拓跋嗣按照崔浩的建议，任命司马楚之为征南将军、荆州刺史，命他进攻并蚤扰刘宋的北部边境。
毛德祖派遣长社县令王法政，率领五百人守卫邵陵，将军刘怜率领二百骑兵驻防雍丘，准备迎击敌人。司马楚之率军突袭刘怜，不能攻克，这时正赶上刘宋朝廷为守军送来军用物资，刘怜出城迎接，酸枣县的居民王玉飞奔告诉了北魏军队。北魏军队由尚书滑稽率兵袭击仓垣，守兵和官吏全部翻墙逃走，陈留太守严棱向奚斤投降。北魏任命王玉为陈留太守，拨给他军队，镇守仓垣。崔浩招降纳叛的策略，使北魏得到人才，扩充了实力，分化瓦解了刘宋朝廷。
奚斤率兵来到滑台城下。
只见滑台城，施旗招展，人声沸扬。
原来守城官兵有不少人的妻子儿女都在城里，为了保全妻子儿女的生命财产，他们决心誓死与滑台城共存亡，不少人为此还写了血书。
滑台城里的百姓和大户人家此时此刻，有钱的出钱，有力的出力，大有一种同生同死的气势。
奚斤下令强攻滑台城。
北魏士卒嗷嗷叫着，冲到城根前，只听得一阵鼓声，“唰唰唰”，从城墙上飞出无数只箭来，北魏士卒一下子倒下一片。后面的一看这阵式，扭头便跑。
奚斤又组织第二次进攻，北魏士卒，前面的人举着盾牌，后面的人抬着登城的梯子。
这次滑台守城官兵没放箭。
北魏士卒有些纳闷，守城刘宋官兵怎么没动静呢？趁着机会，北魏士卒呼拉拉都涌到城根前。
很快，北魏兵支上了登城的梯子。北魏士卒想一鼓作气爬上城墙，不料，突然城墙上杀声震天，刘宋官兵和城里的老百姓从城墙上推下成百的滚石，泼下滚烫的油和水。
一时间，只听见北魏士卒鬼哭狼嚎，纷纷从梯子上落下，不少人丧命，绝大多数人被摔断了腰、胳膊和退。北魏军队无奈，只好抬着残兵逃回。
奚斤指挥北魏军队一连攻了滑台城几天，均未奏效。正如崔浩所言：“南方人擅长守城。”
奚斤无计可使，只好请求援兵。
明元帝拓跋嗣听说奚斤要援兵的事，发了火，严厉斥责了奚斤。
壬辰（二十三日），拓跋嗣亲自率领各部落联军五万余人南下，出天关，越过恒岭，援助奚斤。
北魏军队攻城受挫后，明元帝拓跋嗣后悔不已，立即拜崔浩为相州刺史，加封光禄大夫，随军担任军师。崔浩出马后，战场的局势才逐步好转。
明元帝拓跋嗣率大军赶到滑台。
拓跋嗣问崔浩：“攻取滑台，卿有何计？”
崔浩说：“目前滑台守城官兵和百姓众志成城，强攻很难奏效，我们只能‘明修栈道，暗渡陈仓’，把正面攻城作掩护，从城后偷袭，并把主力放到城后，这样就有可能攻克滑台城。”
第二天，夜幕刚降临。明元帝拓跋嗣率一部兵马进至滑台城前，随即摇旗呐喊，北魏士卒趁势冲到城根，几百人搭竖十几条云梯。
刘宋守将东郡大守王景度指挥官兵掀云梯、滚石头、扔火把、洒生石灰，北魏兵抵挡不住，撤下来。
不一会儿，北魏士卒又冲到城根，这一次来势凶猛。刘宋守将王景度忙把后城的一部分军队调来，加强前城的守卫。
此时，崔浩、北魏大将奚斤正率领三万多津兵趁黑夜运动到滑台城后。
崔浩对北魏大将奚斤说：“请将军先派两千名弓箭手埋伏到城根下，待我搭云梯的攻城军队被发现，刘宋守城官兵反扑时，立即射箭，压住敌方，掩护我攻城的军队顺利攻城。”
两千名弓箭手在夜幕掩护下，神不知鬼不觉地潜伏到后城根下待命。
夜幕中，只能听到“唰唰”的脚步声，竟无一人说话、咳嗽。因为崔浩事先下达作战命令时规定：谁如果说话，咳嗽，无故弄出声响，就地斩。
一万多名北魏士卒行进到了滑台后城根下时，突然被刘宋的一个老兵发现：开始他听到的是“唰唰”的巨大嘈杂的声响，这个声响由远而近，是向后城根方向来的，随即看到的是黑压压的一大片黑影浪潮般涌来……
刘宋老兵大喊大叫：“不好了，北魏兵来攻城了！……”
刘宋老兵的第二句话还没喊出来，就被潜伏在城根下的北魏弓箭手射中，只听他“啊！”的一声，身上已中了十几箭，倒在血泊里。
刘宋守城官兵闻讯纷纷登上城，北魏弓箭手此刻大显身手，箭像雨点般射过去，先登上城的刘宋官兵，“哗啦啦”倒下一大片。后边的刘宋守城官兵又涌上来，数千只箭像长了眼一样向他们飞去，几百名刘宋守城官兵又倒在血泊里……
北魏士卒趁势把数百条云梯搭在后城墙上，此时，数万把火把点起来，北魏军队像蚂蚁一样，在数百条云梯上爬动。
刘宋守城官兵冒死冲到城墙上往下滚石、洒生石灰、掀云梯，北魏弓箭手又将雨点般的箭射过去，上百名刘宋守城士兵又倒下，十几支北魏攻城军队在刘宋官兵战死的地方登上城墙。
北魏军队源源不断地登上后城墙。
刘宋守城官兵血战几番，终因寡不敌众，后城被北魏军队攻克。
北魏军攻下后城后，随即向滑台前城进击。
刘宋守将王景度看到大势已去，急忙带了几个随从趁夜暗逃走。
刘宋守将王景度手下的司马阳瓒被北魏兵擒获，但拒不投降，被杀。
攻克滑台城，明元帝拓跋嗣大喜。他任命成皋侯苟儿为兖州刺史，镇守滑台。
奚斤等率军进攻翟广所驻守的土楼，很快攻破翟广军队。明元帝拓跋嗣率北魏大军乘胜进军虎牢关。
在行军路上，崔浩对明元帝拓跋嗣说：“虎牢关又名武牢关、成皋关、古崤关，记水关（位于今河南省郑州荣阳县汜水镇西一公里），这里相传曾为周穆王豢养猛虎之地。公元前571年，晋成公在此筑大虎牢城，故后称虎牢关。
古时自荣阳而东，皆为平地，西入汜水县境，地势渐高。虎牢关雄踞于一座突起的山上，俯视西方乱岭，只有一条小道纤回蜿蜒而来，忽断忽续，大有在此一夫当关，万夫莫开之势。所以虎牢关一向被视为洛阳的门户，甚至有‘咽喉九州，阈阃中夏’之说。
公元前718年（春秋鲁隐公五年），郑国败燕师于此。其后，齐代郑，晋逼郑，均在虎牢用兵。韩、魏，赵三分晋地时，有个名叫段规的人对韩宣子说：“分地必取成皋。‘韩宣子说：”成皋不过是一块石头大的山地，无用之。’段规说：“成皋地方虽小，却牵动千里，大王若听我的话，韩国必能夺取郑国。‘后来，韩灭郑，果然从占领成皋开始。战国时，张仪威胁赵王，说秦军攻势如何不可阻挡，曾特别提到秦军”军成皋’。秦庄襄王元年（公元前249年），赢政命蒙骛伐韩，韩献成皋，秦国的边界遂北至大梁（开封）。自从秦国占据成皋，十九年后即灭亡了韩国。
后来，楚、汉相争，虎牢尤为重地。公元前204年，项羽派部将终公驻守成皋，自己则亲率大军东击彭越，刘邦乘机夺取了成皋。项羽闻讯大惊，回师重新攻拔成皋，但一旦到手，就又到别处去了。郦食其对刘邦说：“项羽派适卒（从外地临时招募来的士兵）分守成皋，自己又走了，这是上天在帮助我们，请立刻再次进兵，把守住这处险要。‘刘邦于是复取成皋，不久，就灭亡了项羽。公元前197年，英布反汉时，曾’据敖仓之粟，塞成皋之口‘。
汉景帝三年（公元前154年），吴、楚等七国反汉。有人对吴王濞说：“要立刻控制成皋，然后才能西据洛阳武库，食敖仓粟。‘吴王濞不从，结果事败。汉元狩初年（公元前122年），淮南王刘安亦想谋反，声称：”今我绝成皋之口，据三川（指洛阳〕之险，招山东之兵举事，一定能成功。’刘安还说过这样的话：“塞成皋之道，天下不通。‘可见当时的人对成皋地势的推崇。
东汉初，以冯异为孟津将军，冯异遂南下河南成皋以东十三具，并重修虎牢关。东汉定都洛阳，成皋为其东面的重要门户。东汉中平末年（公元189年），大将军何进为消灭皇帝身边的宦官，召集外兵进京，曾使东郡太守桥瑁屯驻成皋。东汉初平二年（公元191年），关东各州郡起兵讨伐董卓，曹躁曾建议分兵西据成皋，诸将不听，致使整个战略计划受到影响。“
明元帝拓跋嗣听得津津有味，他十分赏识崔浩对战争历史和兵要地志的津通。他说：“朕知道你为何能驾驭全局，出奇制胜了。”
略停了一会，明元帝拓跋嗣又说，“朕听说，晋初年，赵王轮企图篡位，齐王，-起兵许昌讨伐他，赵王轮派兵迎击齐王-，命其部将司马雅自成皋出。……”
崔浩说：“陛下记忆极好，确实是有此事。晋时也十分看重成皋这个地方。晋永嘉四年（公元310年），刘聪进犯洛阳，后赵国主石勒乘机出成皋关，围陈留太守王-于仓垣。东晋太守三年（公元325年），刘曜遣刘岳战于洛阳城西，刘岳败走。三年后，刘。曜又派兵来金墉攻打石生。石勒亲自率军驰援。石勒对其部下说：”刘曜若以重兵驻守成皋关，是上策；若派兵扼守洛水，是中策；若坐守洛阳，就要束手就擒了，‘等到了成皋，果然没有见刘曜的军队。石勒大为高兴，于是悄悄昼夜兼行前往洛阳，俘获了刘曜。
东晋永安五年（公元340年，梁犊反叛后赵，自风翔东出潼关，与石虎的军队战于新安及洛阳，结果都大败。被迫退守成皋，终于在荣阳境内被歼。东晋兴安二年（公元364年），前燕慕荣恪谋取洛阳时，先遣军占领孟津和成皋。东晋太和四年（公元369年），桓温讨伐前燕，前燕求援于前秦，答应割虎牢以西的地盘给前秦，前锋檀道济等进至成皋，前秦成皋守将投降，檀道济于是得以长驱而进。……依臣之见，只要我们攻克虎牢关，洛阳就是虎口之食。“
明元帝拓跋嗣听后，会意地频频点头，说：“一定要尽快攻克虎牢关，然后直取洛阳。”
崔浩和明元帝拓跋嗣正要研究如何攻克虎牢关之事时，北魏一将军报告说：“陛下，羌头部队已进至虎牢关下，陛下有何指令？”
拓跋嗣把马鞭一挥，命令脱口而出：“传朕的命令，围攻虎牢关，准先冲进去，朕有重赏！”
此时，镇守虎牢关的刘宋司州刺史毛德祖正在与部下商讨守城的计策。
毛德祖说：“北魏大军兵临城下，我们只有居险守卫，才可破敌。要告诉全城的官兵和百姓，要保护好水源，节约粮食，这是我们全城的命根子。”
北魏大将奚斤奉命攻虎牢关。
刘宋司州刺史毛德祖不断反攻，多次击败北魏军。
两军处于相持阶段。
公元422年12月20日，北魏南征军逼进虎牢。刘宋青州刺史当时镇守东阳城，立即派人告急求援。12月21日，刘宋皇帝刘义符下诏，命令南充州檀道济，督察征讨诸军事，会同徐州刺吏王仲德一起前去救援。庐陵王刘义真派遣龙骤将军沈叔-率兵三千人，奔赴豫州刺史刘粹的驻地，待时机前去救援。
公元423年3月，北魏大将奚斤、公孙表等合兵进攻虎牢。
刘宋司州刺史毛德祖，在虎牢城内挖掘地道，深达七丈，分为六路，直通魏军的包围圈外。同时又选拔敢死勇士四百人，由参军范道基率领，从地道爬出去袭击魏军的后背，北魏军队十分惊慌。范道基身先士卒带领敢死勇士冲进魏军中奋力拼搏，斩杀北魏兵数百人，然后烧毁了魏军攻城的器械，返回城中。北魏军队遭此袭击，虽然暂时溃散，但很快又集结到一起，对虎牢发动了更猛烈的进攻。
北魏大将奚斤奉命从虎牢统率步骑兵三千人，在许昌攻打颖川太守李元德，李元德放弃守城败退逃去。
刘宋司州刺史毛德祖率兵出城与北魏吴兵将军公孙表大战，从早晨到傍晚，杀死魏兵数百人。正巧奚斤从许昌得胜而回，二人合击毛德祖，毛德祖大败，损失士卒一千多人，只好撤回城内固守。
当年，毛德祖在北方时，与北魏吴兵将军公孙表有交情。公孙表智勇双全，毛德祖敌不过他，于是决定用反间手段。他致信公孙表，向公孙表问候，公孙表也回信致谢。然后毛德祖秘密派人告诉北魏晋兵大将军奚斤，说公孙表与毛德祖有陰谋。毛德祖每次给公孙表的信，都故意涂改。公孙表每次接到毛德祖的信，都呈给奚斤看，奚斤却更加怀疑，于是就把毛德祖和公孙表的事报告了拓跋嗣。过去，公孙表与大史令王亮，同在一个官署做事，公孙表一向看不起王亮，经常轻蔑地侮辱王亮。现在，王亮趁机上奏拓跋嗣说：“公孙表把军营安扎在虎牢之东，方向不利，有意使敌人多抗守一些时间，不致立刻覆灭。”明元帝拓跋嗣一向迷信巫术，认为果然如此，又勾起多年的积忿，于是派人深夜入公孙表的军帐，把公孙表勒死。
崔浩听说公孙表不明不白地被勒死，禁不住仰天长叹一声：“唉，这是中了人家的借刀杀人之计！”以后崔浩每当想起这件事，就不寒而栗。
为尽快攻克虎牢，明元帝拓跋嗣又派遣并州刺史伊楼拔帮助奚斤进攻虎牢。
虎牢关地势险峻。正像崔浩对明元帝拓跋嗣说的：“一夫当关，万夫莫开。”
北魏大将奚斤见并州刺史伊楼拔带来数千人马，甚为高兴。当日设宴款待并州刺史伊楼拔和众部下。
当夜奚斤和伊楼拔商定，决定采用前后夹击的战术，置虎牢关毛德祖的守城军队于死地。
第二天，天刚蒙蒙亮，北魏的军队就聚集在虎牢关前，北魏大将奚斤一马当先，率部进攻虎牢关前城，并州刺史伊楼拔率部迂回到虎牢关城后，伺机发起进攻。
北魏大将奚斤的先头部队禀报奚斤，刘宋司州刺史毛德祖的军队没有动静。奚斤对自己战术很满意，以为毛德祖的军队还没察觉。他下命令说：“火速攻击虎牢关城头。”
奚斤的军队一路上没受到阻击，以为这次得手了，士卒们一到城下，就迫不及待地把云梯搭到城墙上，北魏士卒蜂涌而上。几十条梯子上一个人挨一个人，当北魏士卒刚爬到云梯中间时，突然，杀声震天，刘宋毛德祖的士卒从城头上、城门、城门口杀过来，手持大刀、长矛的刘宋士卒个个英勇无比，与手足无措的北魏兵拼杀起来。因北魏兵毫无准备，被杀得丢盔卸甲，奚斤连声说，“坏了，中了毛德祖的埋伏。”奚斤不得已只好狼狈收兵。
北魏并州刺史伊楼拔听到前城打起来，便下令攻虎牢关的后城。
北魏伊楼拔的士卒满以为他们神不知鬼不觉地摸到后城，一定会给刘宋毛德祖的军队一个突然袭击。虎牢关后城此刻果然寂静无声，橡一只虎正在睡觉，屁股对着敌人，还毫无察觉。北魏伊楼拔的士卒迅速搭上云梯，士卒们手脚麻利地向上攀登着。
眼看北魏伊楼拔的士卒就要爬上城头了，只听“嗖嗖嗖”几十支箭射中北魏士卒的脑袋，北魏士卒尖叫一声，便掉下云梯，随即刘宋毛德祖的守兵，从四面八方冲出来，把滚石、生石灰、烧得滚烫的油、开水向云梯上的北魏士卒抛去，只听得北魏士卒鬼哭狼嚎地纷纷摔下云梯，当场被烫伤、砸伤、被生石灰烧坏眼睛、摔伤、摔死的就近千人。
北魏并州刺史伊楼拔暗暗叫苦，知道刘宋毛德祖早有准备，知道硬攻肯定不行。这时，北魏大将奚斤也派人告诉伊楼拔，他们中了埋伏，建议先撤兵。
伊楼拔只好指挥残兵败将返回营地。
几日后，北魏大将奚斤和北魏并州刺史伊楼拔又利用半夜偷袭刘宋毛德祖的虎牢城，也被刘宋守将毛德祖打败。一连几日，北魏奚斤和伊楼拔天天强攻虎牢城，刘宋守将毛德祖随机应变，顽强抵抗斩杀了很多魏兵，而自己的将士也日渐减少。
夏季，四月，丁卯（初一），北魏明元帝拓跋嗣和崔浩到达成皋。
明元帝拓跋嗣问崔浩：“虎牢关久攻不克，你有什么妙计。”
崔浩说：“只有切断虎牢到黄河汲水的道路，城中守兵没水喝，虎牢关将很快可以攻克。”
明元帝拓跋嗣立即命令数千军队，挖掘深沟，切断了虎牢到黄河汲水的道路。
北魏军队在明元帝拓跋嗣督战下，对虎牢城，连攻三日，仍然没有攻下。
崔浩让北魏大将奚斤送十几个战俘来，士卒、军官都要。
刘宋守将毛德祖的部下，因受伤被俘的有数百名，被送到崔浩处的是十几个轻伤员。来之前，按奚斤的嘱咐，给他们吃了一顿酒菜。这十几个轻伤员来到崔浩的住处，哆哆嗦嗦，不知是祸是福。
崔浩见到这十几个战俘，竟一声不吭，用锐利的目光盯着他们看。几分钟、十几分钟过去，崔浩仍一声不吭，盯着他们看。战俘没有一个人敢与崔浩的眼睛对视。崔浩发现一个战俘两条退不停地打颤。
崔浩大喝一声：“来人！”
北魏士卒应声进来。
崔浩指着那个双退打颤的战俘说：“把他留下，剩下的全押下去！”
那十几个被押下去的战俘惊恐不已。
留下的那个战俘“扑通”一声，跪倒在地。
崔浩用眼睛盯着他的眼睛说：“我问你，虎牢城用水，除了到黄河汲水外，还有什么别的办法？你要照实说，如果你说了实话，我会保你不死。”
那个战俘说：“虎牢城内还有一口深四十丈的井，可供饮用。”
崔浩立即把这个事告诉了明元帝拓跋嗣，并说：“陛下，虎牢城到黄河汲水的道路已被您切断，再挖地道。排泄掉虎牢城内那口四十丈深的井水，我们攻克虎牢城就为期不远了。”
明元帝拓跋嗣当天就命令北魏大将奚斤指挥人马，突击挖地道，尽快排泄虎牢城内那口四十丈深的井水。但外城还未攻破，地道暂不能挖。
虎牢被围困已有二百多天，北魏军队几乎天天攻城，刘宋守将毛德祖的守城主力大部战死。这时，北魏将军叔孙建，从滑台向西增援，与北魂大将奚斤合兵一处。
崔浩向明元帝拓跋嗣献计说：“攻克虎牢城，首先要摧毁外城。虎牢外城地势险要，强攻很难攻克，我们应采取‘调虎离山’之计，把刘宋守外城军队引出城，然后用伏兵消灭他们。”
明元帝拓跋嗣同意了崔浩的计策。命令北魏大将奚斤去执行。
崔浩又找到奚斤具体商量此事。崔浩说：“我们可利用晚上，派数千伏兵埋伏到虎牢外城城门周围，然后派小股部队装作偷袭虎牢外城的样子，引刘宋守兵出城，消灭他，并趁机攻入城门。”
一个伸手不见五指的黑夜，数千北魏军队偷偷潜伏在虎牢外城门周围。
不一会，数百名北魏兵抬着云梯来到虎牢外城根，他们搭上云梯就登城，刘宋守城兵投下数百火把，数百名北槐兵立即暴露在火光下。
刘宋虎牢外城守将一看只有数百名北魏兵卒，命令城头的士卒暂不攻击北魏兵，然后悄悄放下吊桥，率近千名士卒突然包围了北魏兵，北魏兵拼死搏斗，但寡不敌众，已不能支撑。
这时，埋伏在虎牢外城周围的北魏军队迅速冲到外城门，先占领了吊桥，一部攻进城里，一部支援虎牢外城根下的魏兵。北魏军队人多势众，很快把刘宋军队包围，随即是短兵相接的肉搏战，刘宋士卒以死相搏，大部被杀，剩下的投降了北魏军。
攻进虎牢外城的北魏军队遇到刘宋兵的顽强抵抗，但刘宋守兵主力在城外被歼，仅剩的几百人抵御不住北魏军队的反复猛烈攻击。城外的北魏军队不断涌进城里，刘宋守兵的箭全部射完，滚石一类的东西也用完，只好手拿大刀、长矛与北魏兵拼杀。北魏兵死了一批，又马上涌来一批，刘宋守兵最后被团团围在城中间，城里到处是死伤的士卒，剩下的几百名刘宋城兵最后倒在血泊里。
崔浩的“调虎离山”计成功了，北魏军队攻取了虎牢外城。
刘宋守将毛德祖有深谋远虑，早先就构筑了三层内城用来抵御，北魏军队反复攻城，最后摧毁了二城。毛德祖只剩下最后一城。刘宋守城将士因为日夜奋战，不能睡眠，眼睛都长疮。毛德祖与士卒们同甘苦共患难，始终同心同德。这时，刘宋征北将军檀道济驻军湖陆，豫州刺史刘粹驻军项城，龙骧将军沈叔-驻军高桥，都畏惧北魏兵强势盛，不敢前来救援。
虎牢外城和内城外二层，均被北魏军攻破。明元帝拓跋嗣命令北魏大将奚斤派人挖地道，排泄虎牢城里的井水。
四月二十一日，北魏军队夜以继日地挖地道，终于挖通了虎牢城里的井水，深四十丈的井水被北魏军排泄光。因山势高峻陡峭，刘宋守军无法阻止北魏军挖掘地道。
虎牢城里开始缺水，人马干渴倦乏，受伤的人更是不堪忍受，再加上饥饿和瘟疫，刘宋守军难以坚持下去。北魂军队仍然天天发动猛烈的强攻。
四月二十三日，虎牢城破。守城的将士想保护毛德祖突围，毛德祖说：“我发誓与此城同生死，共存亡。大义所在，我不能使城陷而我仍然生存。”
明元帝拓跋嗣传令攻城将士：“看见毛德祖的，必须生擒。”北魏将军、代郡人豆代田俘虏了毛德祖，呈献给了明元帝拓跋嗣。刘宋将领在虎牢城中的，也都被魏军生擒，唯独参军范道基率领二百多人突围，返回江南。
北魏这次南征占领了刘宋的司州、兖州、豫州所属备郡县，设置地方官安抚治理。北魏明元帝拓跋嗣命将军周几镇守河南。
这次北魏南征士卒死于瘟疫的，也有十分之二、三。北魏这次南征，即乘刘裕之死而伐宋，在政治上、军事上、经济上、人力上都付出了很高的代价，实际上是得不偿失。
