至闵帝应顺元年正月，朝廷不欲石敬瑭久在河东，徙潞王从珂做河东节度使，却宣授石敬瑭做成德节度使。会潞王称兵反叛，捉着西京留守王思同杀了；闵帝仓皇无措，下诏召石敬瑭将兵入朝，拒敌潞王。三月，潞王兵马到陕阌乡，闵帝懮骇不知所向，只带得马军五十人，一同奔出怀州至东数里头，遇着石敬瑭统兵入卫。闵帝心中大喜，召敬瑭问兴复之策。敬瑭曰：「臣听得康义诚已行反叛，事势危急，容臣与二三大将谋之，却得闻奏。」敬瑭出外见怀州刺史王弘贽，共谋兴复大计。弘贽曰：「前代天子播迁，皆有卿相侍卫府库法物。今主上此来，仪有五十骑自随，莫是被潞王即位后，废了主上，驱迫此来，亦未可知。」敬瑭回军中，将王弘贽的话说与沙守荣、奔洪进两个。忽洪进向前责骂敬瑭曰：「令公为明宗爱婿，富贵相与共之，忧患亦宜相恤。今天子播迁，委计令公，冀图兴复，公乃以此致疑，怎不是附贼要卖天子否？」洪进抽佩刀待刺石敬瑭，当有敬瑭亲将陈晖力救得免。守荣格斗，被陈晖杀死。洪进亦自刎死。刘知远做牙内指挥使，直引兵入闵帝行宫，将左右从行的骑士，一齐杀尽；只留闵帝一人，得不加害。石敬瑭更不谒见唐主，引兵径趣洛阳。
至清泰三年，唐主宣授石敬瑭做天平节度使，敬瑭欲不拜命，朝旨差张敬达做西北都部署，迫胁敬瑭赴郓州。敬瑭疑惧，与刘知远共谋去就。刘知远道：「哥哥久在兵间，素得士卒心。今据形胜地面，士马又十分精强，若称兵反叛，帝业可成。奈何听命于一纸制书，自投身于虎口乎？」敬瑭听得知远这说，心下欣然，应道：「贤弟说的话，使我心下豁然。」便唤请掌书记桑维翰写着表，称臣于契丹主，请以父礼事之。契丹主回书，许俟八月，倾国赴援。八月，唐主使张敬达筑长围攻打晋阳。石敬瑭差刘知远做马步军都指挥使。十一月，契丹主立石敬瑭做大晋皇帝，改年号做天福元年。宣授刘知远做侍卫马军都指挥使。
天福四年，晋主加授刘知远做同平章事，与那杜重威同制。知远心下不悦道：「咱有佐命的大功，重威起自外戚，无甚功劳，耻与之同制。」制下数日，杜门不肯拜受。晋王怒，谓赵莹曰：「知远坚拒制命，可落军权，令他归家闲坐。」赵莹奏道：「陛下昔在晋阳时，兵不满五千人，受虏兵十万余所攻，危在旦夕，倘非刘知远心如金石，拚死拒守，大业何由可成？今以小小过失，弃绝功臣，天下之人将谓陛下赏轻罚重，无以制伏臣民。」晋主怒少解，遣和凝亲到知远居第，宣谕圣旨，促令受命。知远皇恐就职。
天福六年，晋王怕安重荣跋扈，宣授刘知远为北京留守。那时知远的孩儿承义，年至十二岁，因出外走马，被军卒戏笑曰：「宣赞跨马趯球快活，怎知恁的娘娘在那孟石村，日夕在河头担水，多少苦辛么？」承义未听得时，万事都休，才听得后，一日也忍遏不下，归家泣告父亲道：「孩儿每出外闲走，被军人笑骂，道咱在此快活，怎知娘娘见在孟石村河头担水辛苦。孩儿告着爹爹，待亲身去寻咱娘娘，探问消息。」知远闻言，只见眼泪汪汪，向承义道：「您不须去，您若去时，两个舅舅必用计谋陷害您。待老爷明日结束行囊，带领百十人一同走去，探您娘娘消息，两日便回。」那元帅经行，但见鼙声振野，骑气惊人；旌旗飘九陌红霞，戈甲浸满眦秋水。离了北京，离不得饥餐渴饮，夜宿晓行。不数日到得孟石村二十里头，将一行人从并潜伏一处。知远自打扮做个讨草人夫，担着一对草篮，回那孟石村李长者庄上去。那两个舅舅李洪信、李洪义全不瞅睬着知远。只有那叔叔李敬业厮认得知远，带他去厅上坐定，喝令屋里点茶出来。古人有诗说茶，道是：
玉蕊旗枪真绝品，僧家造化极工夫。
兔毫盏内香云白，蟹眼汤前细浪腴。
断送睡魔离几席，增添清气入肌肤。
幽丛自好岩溪畔，不许移根傍上都。
茶罢，盏托归台。敬业问知远道：「探听得贤亲在太原大大发迹，今将谓衣锦还乡，怎生衣服得囗囗囗囗？您的妻房在这里吃哥哥万千磨难，日夕监他去河头挑水，受尽苦辛，也指望您功名成遂，夫荣妻贵也。您下梢只恁地狼狈，怎不叫他失望！」将出两件衣服，使知远穿了，引他去上亲下情处厮叫一声。因归去见取三娘子，夫妻厮见，不觉珠泪垂垂。知远道：「咱讨草去为北京留守行司，应付喂马用度，改日却来相探。」道罢，挑起草篮便去。第二日，只见一阵军马在庄门外啰唣。少刻，北京留守头踏过了，人从喝道：「低声！」看看留守马来，直至李长者厅前下马，行上厅上坐了。看那留守坐厅时如何？
无限朱衣当砌畔，几多卫士立阶前；厖眉狱子执黄荆，努目杖家持法物。左边排列，无非客将孔目通引官；右侍森严，尽是狱级前行推款吏。法司检条定法，狱子讯问钉枷。说不尽许多威严，塑画着一堂神道。
那厅上坐的，却是李长者赘婿刘知远，受了北京留守，衣锦还乡也。使左右请将三娘子出来，令排备香案，戴冠穿帔，拜受夫人宣命；拜罢，就知远左边列坐。喝令当日排军，捉将李洪信、洪义两兄弟跪于阶下，骂之曰：「您旧时欺负自家，赶将出去投军，又要将水淹杀了咱的孩儿！咱这三娘子是您同胞的兄弟，不把半眼觑他，迫令他受尽了万万千千磨难，日夕为你做驱口去河头挑水。您是不顾恩义的贼！」喝令左右：「将第一等重枷来，将李洪信、李洪义枷着。待歇予亲眷厮见了，押赴门首斩首来军前献酒，泄了咱一肚愤气！」当得妻叔李敬业进前跪告，知远疾忙起身，走下阶来将叔叔扶起，请上厅，归主位坐定。敬业道：「人居寒微时，谁不吃人欺负？且如苏秦未遇时，嫂皆笑之，不为下机；及佩六国相印时，位高金多，亲属皆来跟随苏秦，干求富贵，秦皆周之，使满其欲而去。又如朱买臣，家贫刈薪糊口，常将书册挂担上，行且读书。其妻羞见买臣恁地，日夕求去。买臣道：『吾年五十当富贵，今四十七矣，待我富贵，厚报您恩，休要辞去。』妻骂曰：『如公终饿死沟中耳，何能富贵？』坚要改嫁。买臣不能留，姑听其去。不三年，拜颖川郡太守。买臣到任，其妻跟后夫同治桥道，买臣见之，使载后车以归。咱哥哥夫妻两个，自有眼孔识得好人，招贤亲入赘。是洪信、洪义两个凡夫肉眼，怎识好人？望留守觑着咱哥哥面皮，姑存留两个承续香火，亦是贤亲一场阴德事。」知远跪谢了敬业道：「小人听得叔叔教诲，敢不遵从？」喝令阶下排军，将洪信、洪义两个疏了枷，引上阶来，为他把一个盏，与他退惊则个。又记得旧日在李家未赘时，曾出外牧马，马吃着报恩寺田禾稼，被寺僧拿去笞了二十下。知远回孟石村后，此僧不胜恐惧。知远乃遣人唤这僧来，命之坐，以好语慰安之，道是：「大丈夫以德报怨，小人以怨报怨；您可安心，咱前日的事如风休冰解，休要疑惧。」众心服知远之器量过人。知远在孟石村住得半月十日，带取李夫人一同回北京留守衙去也。十月，知远遣亲将郭威，赉诏旨诱说吐谷浑酋长白承福，令他舍弃安重荣，来归朝廷：「您好生小心勾当，事济有赏。」威曰：「虏惟利是嗜，安铁胡当来，只将袍裤赐之，得他归服。今若捐重赂以诱之，可立致其来耳。」知远令郭威将带黄金玉带等自随，往吐谷浑白承福处谕旨云：「朝廷已割您这田地隶属契丹，您合自安部落。今者何故南来助安重荣反叛耶？只恐重荣丧亡，您部属无所归附，悔无及矣！」承福惶惧，帅众同郭威来归降刘知远，知远表白承福做大同节度使。六月，晋主石敬瑭疾亟，宣召刘知远入朝，欲使辅政，策立嗣君。是时，齐王重贵自立为帝，竟寝其命不遣。知远在后得知，由是心怀怨望。
天福八年九月，景延广执契丹回图使乔荣，因放荣归国，乃大言曰：「尔归语其主，孙有十万横磨剑，翁怒则来战，万一蹉跌，取笑天下。」知远那时做河东节度使，听得这言语，遂知延广以大言召寇，但不敢声言之。一面增募军马，置十余军以备契丹冲突耳。
开运元年二月，契丹渡河，晋主自将亲征，诏刘知远击契丹。知远兵屯乐平不进。八月，宣授刘知远为行营都统，知远受命。晋主再遣使命督促知远会兵山东，知远但按兵不动。晋主疑之，谓所亲曰：「知远据守太原，殊无援朕之急，想有异图。」虽受都统之命，实无临制之权，凡朝廷大事皆不得预闻。知远亦自知为主上见疏，但谨慎自守以度日。郭威见知远有懮色，谓知远曰：「小人见令公每日懮形于色，但以浅陋之见觇之，河东之山河险固，风俗好斗，地多良马，无事则劝民勤于耕桑，有事则募民习于弓矢，此真霸王之资也。愿令公坚守，不必移镇，进退在我，又何忧乎？」知远曰：「咱有此意久矣，顾高祖之恩不可负耳！」
开运三年八月，晋王数召白承福入朝，宴赐甚厚。其部落入太原畜牧，多犯法。刘知远无所轻贷，必以法诛之。部落往往知朝廷微弱，又怕知远严明，私谋遁归故地。刘知远与郭威商议：「今天下多事，置白承福等部落在太原，乃异日腹心之疾，不如因事图之。」密地遣人，进表奏朝廷，谓：「白承福等为谋反复，将有歹心，乞朝廷迁移其部落，使居内地。」晋王乃遣使命赉诏将吐谷浑部落分隶诸州。知远乘其未行，遣郭威招诱白承福入居太原城中，以谋叛坐之，并其部属四百余口尽杀之，不留一人。吐谷浑之党遂弱。初，晋主忌知远位望已隆，乃进爵为北平王，使为北面行营都统。知远愈增募军马，兼得吐谷浑财畜，愈觉富强，马步军各有五万余人。晋主与契丹结怨，知远心知晋室危亡，忌景延广用事，更无一言论谏。契丹举大兵深入，知远心知晋主颠沛，嫌晋主忌刻，不遣一兵救援。至晋主重贵被契丹执以北归，乃分兵据守四境；遣客将王峻奉表称臣于契丹。表云：
河东节度使北面行营都统进封北平王臣刘知远，谨顿首上表于大辽皇帝陛下：臣备位晋朝，位兼卿相，主有昏德，而不能进弼违之谏；国有兵难，而不敢遣勤王之师；实以皇帝陛下自天生德，无地不臣。今以亡国之俘臣，愿存前晋之宗社。冒死谨言，席稿待罪。伏候圣旨！
契丹主览知远所进表了，道是：「刘知远观望不至，既不属南朝，又不事北朝，意将何所属耶？」乃手诏褒美。诏云：
览卿所奏，备见忠忱。今赐刘知远木拐，优礼先朝元老，昭示朕尊贤之意。此后进表宜加「儿」字于刘知远姓名之上。勉守太原，朕将畀尔之嘉命！
王峻捧诏回归，具道契丹主的意思。孔目官郭威向知远道：「虏之恨公深矣。但王峻言契丹贪残，大失人心，虽得天下，岂能久有兹土？中国须索中国人为主，且待时而动可也。」知远曰：「公之谋，与吾意暗合，可谓英雄所见相同也！」或有劝知远乘时进兵，以兴复晋室为辞，必可得志。知远应之曰：「用兵当审时度宜，今契丹新据京邑，未有他变，怎可轻动？况契丹之志，惟在于得货财，若剽掠已满所欲，必将北归。况春寒已过，势难久留。直待其去，然后取之，可以收万全之功也。」河东将佐劝刘知远称尊号，然后号召四方忠义之士，以取中国。知远厉声曰：「晋主北迁，怎得使尔叛国？如高祖恩义何！」那时知远听得契丹主北还，声言欲出兵井陉，迎夺晋主归晋阳，命指挥使史弘肇报告诸将佐出师期限。军士皆欢言：「中国无主，今主天下者非我王而谁？宜推戴北平王先正位号，然后出师未晚。」争呼万岁。知远疾声叱之曰：「虏势尚且披猖，吾之军威未振，当且建功业，然后俟天所命。士卒何知，妄有所请！」命左右禁止之。孔目官郭威与都押衙杨邠入说知远曰：「此殆天意，非止人谋。王不乘此时应天顺人，则人心一去，怎不反受其殃？请大王熟思之！」知远为众迫胁，乃即皇帝位。自言未忍改晋国之号，又嫌开运年号不佳，更称天福十二年。诏诸道有为契丹括率民间钱帛者，截日革罢。晋主知远自将精兵东迎出帝，至寿阳，听得已过数日，乃留兵戍承天军而还。诗曰：
晋君借援犬羊群，迫胁唐君赴火焚。
谁料犬羊更吞噬，周还图汉不堪闻！