魏军将士因不明底细，一见东晋军队摆好阵势，派少量人马前来试攻，后来看看没有什么，就派出三万大军，持短刀肉搏猛攻。此时，隐伏在却月阵中的晋军头领令人将白旗连续晃动几下，二千名弓弩手见白旗晃动，马上抬着一百张弩弓，登上战车，准备好弓箭。北魏军一见晋军要进攻，拼命向却月阵冲去。此时，白旗一摇，晋军开始射箭，魏军一排排倒下。但是，魏军人数很多，还是不断地向前冲。忽然，一阵鼓声响起，白旗又摇几下，却月阵又推出一百辆战车，车上装着弩弓利矛。晋军用锤子敲打机关，便有无数利矛飞出，射向魏兵，魏兵三四千人纷纷倒下。魏军大败，再也不敢扰乱晋军西进。四月初，刘裕顺抵洛阳，不久又率军到达潼关。
进入潼关后，跟后秦决战的时刻来到了。王镇恶率部乘坐轻便的战舰，溯渭水西上。到了渭桥（今西安市西北），他命令士兵吃饱饭，弃舰登陆。渭水流急，倏忽之间，船只都已漂失。王镇恶对军士说：“这里是长安城北门外，我们离家万里，船舰衣粮都付东流，现在只有死战决胜，才是唯一的活路，否则大家都得死。大家努力！”士兵们奋起争先，勇气百倍，顷刻就攻下长安，俘获后秦统治者，后秦灭亡。
刘裕的北伐事业是符合广大汉人的愿望的，但刘裕没有把这个重大的战果巩固下来。灭亡后秦后，他急于回江南去争夺帝位。关中的汉人跑到军营前泣诉说：“残民在胡族统治下，已将百年。今天重睹汉家衣冠，人人庆贺。长安是汉朝的旧都，离开这里，你将到哪里去呢？”刘裕不听，托辞南归，他的行动使得关中人民深深失望。他回去后不久，关中地区又告沦陷。
尽管如此，这次北伐仍是东晋百年来最辉煌的一次胜利，刘裕因功被封为宋王。两年后，刘裕认为东晋朝已无存在价值，于是代晋称帝，国号宋。刘裕即宋武帝。
宋武帝刘裕出身寒门，少年时参加过劳动，对民间疾苦有所了解。他执政后，能抑制豪强，减轻人民负担，加强中央集权，提拔大批寒人为官，诛杀了不少反对他的门阀士族。
宋武帝当了三年皇帝就死了。他在当皇帝期间，仍旧清心寡欲，事事严整有度，车马不加装饰，后宫不奏音乐，内府不藏财宝，甚至连床脚上的金钉也令人取下，换上铁钉。当下属献来光彩艳丽、价逾百金的虎魄枕时，他听说虎魄枕可治刀伤，就命人敲碎了分给将士医治创伤；他患有热病和刀伤，需要睡在冷物上，有人献上石床，他却嫌奢侈耗费，下令毁掉；女儿出嫁，嫁妆无锦绣金玉；日常回到家中，马上脱掉公服，只穿普通衣衫，脚下则拖着双连齿木屐。他喜欢逍遥散步，每次只带几个随从，从不要任何仪仗。
刘裕为了不忘过去的苦日子，并教育子孙后代，特于宫内开设了“忆苦馆”。馆里陈列着旧时耕田用过的耨耜，以及葛制灯笼、麻绳拂尘、床头挡灰的土障等物。他临终时，觉得长公主兴弟吃苦最多，特将由妻子臧氏亲手缝制的自己旧时砍柴穿的破衣烂衫交给兴弟，反复叮嘱：“后世如有骄奢放纵的子孙，须以此物示之。”
宋武帝死后，长子义符即位。义符癫狂无道，不久被大臣们废杀。三子义隆被拥立，他就是历史上的宋文帝，改年号为元嘉。义隆节俭颇似其父，而且勤于政事，恤于民情，终于创造出元嘉盛世。一次，长公主听说她的儿子犯法，要被义隆处死，就闯进宫中，把刘裕的破衣烂衫扔到地上，对着义隆大哭大骂：“你家本来贫贱，这是我母为你父做的衣服。今天你吃饱了撑住了，竟要杀我儿子！”姐姐的一席话勾起义隆对父亲的回忆，不禁大哭。义隆有一次路过忆苦馆，睹物思人，他知道创业艰难，下决心保住刘宋家业。
刘义隆死后，三子刘骏即位，是为孝武帝。这时，他已是个“纨子弟”。他当政不久，就下令拆毁忆苦馆，于原地建造供他通宵作乐的“玉烛殿”。群臣多赞他的先祖勤俭，意图让刘骏自省，刘骏却说：“乡巴佬能混到这一步，已经过分了。”第三代已经如此，往后可想而知。到了刘宋末年，中央与地方相互残杀，宗室与大臣也相互残杀，公元479年，掌握禁军的萧道成乘机控制了政权，灭亡刘宋，登上皇位，国号齐。
早在刘裕建立南方的宋朝时，北魏逐渐强大，北魏太武帝拓跋焘兼并北方小国，于公元439年统一了北方，结束了五胡十六国的长期分裂局面。此后南北方维持了百多年的对峙局面，这一时期称为南北朝时期。