王完颜永成做妃子，徒单克宁不高兴，请求退休，没被批准，罢职为东京留守。
大定十二年（1172年），金世宗恢复他的官职，改任他为南京留守，兼河南统军使。皇帝派使者告诉他“统军使未曾用留守兼职的，这是朕的意思。经过京城时你可入朝拜见。”徒单克宁到京城，又授予为平章政事，并授世袭不扎土河猛安兼亲管谋克。金世宗想用制书亲自授给徒单克宁，主持此事的人不了解皇帝的意思，等到徒单克宁接受了命令，金世宗对徒单克宁说：“此命令朕想亲自授给你，不想被外人授给你。”金世宗又说：“朕想把你在山东的宗族迁到距京城近的地方居住，你宗族人多，公田少，他们不能全部到这里。”于是挑选他最亲的人迁居。
大定十九年（1179年），徒单克宁被授予右丞相，升封谭国公。徒单克宁推辞说：“臣没有功劳，不清楚国家大事，更是内外受重用，很惭愧。臣乞求回归田园故乡，以享晚年。”金世宗说：“朕考虑众人的功劳没有比你大的，你慎重能为大臣着想，不要再多谦让。”徒单克宁离开朝廷，金世宗派徒单怀忠告诉他说：“凡人醉时和醒时处事不相同，你今天亲临庆祝宴会，可以饮酒，过了今天可不要再饮酒了。”徒单克宁叩头致谢说“：陛下这样为臣着想，这是臣的福气。”
徒单克宁任丞相，坚持正守大体，至于簿书期会，不屑一顾。金世宗曾经说：“徒单习显在枢密职上，不曾有过荐举。”他对徒单克宁说：“宰相的职责，荐举贤能是上策。”徒单克宁谢罪说“：臣愚笨有幸为宰辅，却不能明察了解人，因此常悔恨。”
大定二十一年（1181年），左丞相完颜守道为尚书令，徒单克宁为左丞相，迁封定国公，他恳求退休。金世宗说：“你立功立事，才登上相位，朝廷需要你，你年龄虽到了，但不能离去。”三天后，徒单克宁与完颜守道上奏，都跪下请求说“：我们牙齿脱落，头发发白，幸求陛下赐给我们晚年。”金世宗说：“皇帝丞相坐下讨论道理，不图他的官职只图人，岂可多次改变？”不久，徒单克宁改任枢密使，而很难去上任。又任完颜守道为左丞相。
大定二十二年（1182年），金世宗下诏赐徒单习显名为徒单克宁。
大定二十三年（1183年），徒单克宁再次因年老而求退休。金世宗说“：你昔日在政府，整夜操劳，任你为枢密使也可以悠闲安逸了。朕想旧臣没有几人，万一边疆有警报，选举将帅，授谋略，山川险要如何用兵，舍你谁可以与之讨论？尽力为我留下！”
…。。