徐世昌的一生担任过很多职务，他超乎常人的才能在政治、经济、军事、文化等方面都有突出表现。不过，对于徐世昌本人而言，他自始至终都是一个文人，不管他后来巧治东三省、辅佐袁世凯的政绩多么辉煌，在他的潜意识里，他仍旧是那个在清水衙门里终日与书相伴的翰林编修。

中国文人的归隐情结由来已久，从魏晋南北朝开始，很多才华卓越的文人便以归隐为豪。他们怀着报国济世的思想，一边希望“入世”广济苍生，一边又轻视财权，希望“出世”享受田园之乐。正因为有着根深蒂固的文人思想，在徐世昌身上，才会发生很多世人难以理解的事情：徐在朝中举足轻重，才华也绝不在袁世凯之下，然而，他宁可用大半生的时间支持和辅佐自己的好友袁世凯，也不愿主动出头担任要职；当袁世凯终于独揽大权，世人皆以为徐世昌终于能和袁世凯一起享受胜利果实之时，他却出人意料地宣布引退，不再过问政事……徐世昌并不是一个贪图权力地位之人，他的思想与中国文人的“归隐”思想一脉相承，他心系国家又不图名利，因此才会屡次宣布远离政事，又因为政治的需要不得不重新涉政。

1916年6月，原本已经决定在河南隐居的徐世昌接到袁世凯病危的消息，连夜赶回北平，并接受了袁世凯的临终托付。这样一来，有归隐之心的徐世昌又不得不再次卷入政治的旋涡。

受袁世凯之托，徐世昌等人拟定大总统遗令，公告天下：依照《约法》第二十九条大总统因故去职，或不能视事时，副总统代行其职权。孰料，遗令一颁布，就引起了不小的波澜。民国建立之初，孙中山曾颁布《中华民国临时约法》，规定大总统去职之后，由副总统继任总统之职；而袁世凯上台后，又颁布了新的“约法”，规定副总统只有三天的代职期限，三天之后必须组织大总统选举会，从袁亲定的三个候选人中选出一位总统。当时黎元洪任副总统，而段祺瑞则在袁世凯亲定的候选人之列。尽管黎元洪最后当上了大总统，但由“约法”引起的府院之争却持续了两年之久。

以黎元洪为首的总统府集团和以段祺瑞为首的国务院集团之间的矛盾日益激烈。11月14日，徐世昌不得不再次返回京城，以“中间人”的身份调节两派矛盾。徐世昌以“不入政界”的文人身份自居，自称坚持中庸之道，绝不偏袒任何一方，也不从中谋取私利。他建议将矛盾最激烈的府派孙洪伊、院派徐树铮免职，任命张国淦为国务院秘书长，这样一来，府院之间的矛盾才得以暂时缓解。

国事日益混乱，徐世昌没有一天不想尽早脱身。然而，麻烦却接踵而来。1917年6月，张勋趁黎元洪与段祺瑞矛盾之际，率领“辫子军”进京，拥戴溥仪为皇帝，改此年为“宣统九年”，十二天后，张勋复辟破产。紧接着，黎元洪将国会解散，任冯国璋以副总统代理大总统事务，而段祺瑞仍旧担任内阁总理。这一次，徐世昌以为可以高枕无忧，再次宣布引退。