后面回来，高祖非常感谢他，高祖留守北京，知远为押衙。

潞王从珂反叛，愍帝出奔，高祖从镇州往京城在卫州遇见愍帝到驿舍，知远派勇士石敢拿铁锤侍卫高祖以防危险。高祖与愍帝议事尚未决断，愍帝左右想动武，知远保护高祖到室内，石敢与左右格斗而死，知远立即率兵杀尽愍帝左右，只留下愍帝在驿舍而去。

废帝入京即位，高祖又镇河东，不久发生矛盾，高祖想起兵，知远与桑维翰参加密谋策划，赞成起兵。高祖在太原即帝位，任命知远为侍卫亲军都虞候，领保义军节度使。契丹耶律德光送高祖到潞州，临别，指着知远说：“此都军很勇猛，无大故不要放弃他。”

天福二年(937)，升侍卫马步军都指挥使，领忠武军节度使。不久用杜重威代知远领忠武军，徙知远领归德军节度使，知远因与重威同级感到羞耻，闭门不出。高祖大怒，想罢免他的官职，宰相赵莹认为不好，高祖才派端明殿学士和凝到他家宣谕，知远才接受任命。天福五年，徙邺都留守。九月，到京城朝见，高祖到他家里。天福六年，任河东节度使、北京留守。天福七年(942)，高祖死。

知远跟随高祖起兵太原，有佐命之功，自从出帝即位，与契丹断绝盟好，用兵北方，常常怀疑知远勋位已高，对晋多事之秋幸灾乐祸而有二心，每次都优待尊崇他。升中书令，封太原王、幽州道行营招讨使，又升北面行营都统。开运二年(945)四月，封北平王，开运三年五月，加守太尉，然而王以前从未出兵。契丹进犯澶州，派伟王攻雁门，知远在秀容打败契丹军。八月，杀吐浑白承福等族，取其资产巨万，良马数千匹。