而这时仍在大梁宫中喝酒的契丹皇帝耶律德光，依然在放纵他的骑兵去民间“给战马寻找草料”，老百姓受尽了契丹人的凌辱，各地纷纷爆发反抗契丹野蛮统治的起义。耶律德光有些坐不住了，仰天背起诗来“床前明月光，疑是地上霜；举头望明月，低头思故乡。”他想家了。

借口他的老娘述律太后想他了，要回家看看。可那帮靠拍马屁混日子的前晋朝官员都舍不得他走，不知是哪个笨蛋出了个主意，说可以把太后老佛爷接到这啊，这里的生活条件多好。耶律德光见这厮不亮事，气的直翻白眼。

汉天福十二年（公元947年）三月，耶律德光留下他的表兄兼大舅哥萧翰留守大梁，把大梁的金银宝贝连同太监宫女都带着，踏上了节后返乡的路程。耶律德光在《辽史》中的评价很高，元朝脱脱说他“威德兼弘”，可这个“威德兼弘”的大皇帝在回国途中也不放过饱受苦难的老百姓，派出骑兵继续掠夺民财。

尤其残忍的是，耶律德光在路过相州（今河南安阳）时，契丹军大肆屠杀，奸y妇女，将城中的男人近乎杀绝。最最让人不能容忍的是，契丹军还虐杀婴儿，用嗷嗷待哺的婴儿扔在空中，当婴儿掉下来的时候用刀捅死，这帮禽兽不仅不以为耻，反而以此为乐。（野蛮！无耻！）

如此残忍暴虐，老天也不容他，当人面兽心的耶律德光行到栾城（今河北栾城东）时，染上重疾，勉强走到了杀胡林，因医治无效，呜呼毙命。契丹人带着耶律德光被掏空的尸体回国，他的侄子耶律兀欲继位，尊耶律德光为太宗皇帝。

刘知远得到了耶律德光的死讯，将前不久耶律德光赐给他象征地位的木拐子扔到地上，召集文武议事出兵规复中原。大多数将领七嘴八舌的建议先取河北，但郭威却有不同意见：“虽说耶律德光死了，但尚在河北的契丹军实力还很强，各地的契丹军要是玩坚壁清野，我军将进退无路，自取灭亡。不如沿汾水南下比较安全，这边没有契丹军队，而且各路豪杰多归心陛下，不过十几天我们就能拿下河南。河南是中原要州，河南一下，天下自定。”

还是郭威有军事头脑，兵法云“避实击虚”，比如想上树摘果子，有梯子不用而学猴子爬树那是天字第一号的笨蛋。刘知远紧紧握住了郭威的大手说道：“朕，也是这么想滴。”

刘知远为了安全起见，让他的弟弟刘崇（就是后来北汉的老祖宗）留守晋阳，这是根本之地，千万不能中原没到手，把老本给赔掉了。

汉开福十二年（公元947年）五月，刘知远命屯于潞州一带的侍卫步军都指挥使史弘肇率所部攻取潞州（今山西长治）和泽州（今山西晋城），自己率大军走西路，经晋州（今山西临汾）、绛州（今山西新绛），直趋陕州（今河南三门峡），然后再折向东，进入汴梁。

史弘肇奉命南下，先取潞州，不过契丹军听到汉军要来，都吓跑了。史弘肇兵不血刃得到潞州，随后攻泽州。泽州刺史翟令奇死守不降，汉军连攻数次，均不得手。刘知远得到消息，有些犹豫，想让史弘肇放弃泽潞，随他沿西路南进。

枢密使杨和集贤殿大学士苏逢吉苦劝：“河东河南皆为我所有，泽潞孤危，必不能坚守多少时日。如果召还史弘肇，军心动摇，大事就将去矣。”刘知远还有些不放心，致书史弘肇，问问情况。

史弘肇为了不动摇刘知远的决心，回奏：“请陛下宽心，大兵南向，势若破竹，不日既可下泽潞，我军行此，可进而不可退。进则成大事，退则死路一条。”刘知远这才放心。史弘肇见打不下泽州，就派马步军都指挥使李万超入城劝降翟令奇。翟令奇初不从，李万超再劝：“耶律德光已死，契丹北逃，请问公为谁守城？方今天下纷乱，四海无主。观天下各镇，能成大事，除了太原刘公，无人矣。降者富贵拒者族，翟公好好想想吧。”

翟令奇反复思量，以刘知远的脾气，万一把他惹急了，什么事干不上来，何苦为契丹人卖命，便开门迎纳史弘肇。而契丹余部崔廷勋和拽剌等军正在围攻河阳（今河南孟县），汉军屡战不利，武行德闭城死守，苦等援军。崔廷勋得到刘知远已经南进，史弘肇拿下泽州，知道中原不久必为刘知远所得，犯不着得罪刘知远。崔廷勋退保怀州（今河南沁阳），等到史弘肇援军路经怀州时，崔廷勋等人率军北去。

潞州和泽州是河东与河南之间重要的枢纽重镇，史弘肇的胜利扫除了敌对势力对河东的威胁，并让刘知远率领的主力顺顺当当的进入河南。五月底，汉军来到绛州，为契丹守城的绛州刺史李从朗、偏将成霸卿、曹可等人在刘知远刚称帝时还没把刘知远放在眼时，现在刘知远亲自来做客了，老几位一合计，觉得做好汉要能屈能伸，便开城降了。