段祺瑞最后一次下野后，他幕后的一群人仍希望尚存实力的派系能够拥戴他出山收拾残局，但这些人四处奔走，却四处碰壁。就在他们感到一筹莫展的时候，有人向他们建议让段祺瑞与逊帝溥仪合作，还说：“宣统皇帝是块大招牌，段祺瑞如能与他合作，号召力比单干大多了。”
　　段祺瑞作为“三造共和”的元勋，一时昏了头，竟然也听信了这些话，打算悄悄地见溥仪。由于溥仪仍自尊为皇帝，不肯枉駕段祺瑞的寓所，而段祺瑞也不愿降低身份主动去溥仪居住的静园，于是双方就相约在溥仪的生父载沣家中见面。
　　段祺瑞把溥仪看作一个可以合作的政治伙伴，但溥仪却不这么想，他还把自己看成大清皇帝，将段祺瑞看作当年那个湖广总督，所以见面时态度十分傲慢，气氛也颇为尴尬，协商合作之事自然就更谈不上了。段祺瑞又羞又恼，告辞出来后对等候在侧厅的手下说：“我总还当过中华民国元首，这小子竟在我面前摆皇帝的臭架子，真是岂有此理！”
　　其实即便溥仪不摆架子，段祺瑞与他也不可能合作成功，因为两人的政治目标不一致。段祺瑞以前的一位心腹幕僚曾毓隽与溥仪的师傅陈宝琛既是同乡又是世交，往来比较密切。陈宝琛曾对曾毓隽说：“希望你能在段祺瑞身边为逊帝尽一分力量，从中斡旋。能合作更好，若不能合作，希望段祺瑞不要反对逊帝复辟之事。”曾毓隽深知段祺瑞之心，他当时就回答陈宝琛：“段祺瑞一向主张共和，他生性刚愎，我想很难在他面前说得通。”
　　渐渐地，段祺瑞终于明白复出已完全无望，只得继续过他的寓公生活。
　　政坛失意固然让段祺瑞心情郁郁，但最令他伤心和难过的还是眼看着北洋一步步地走向历史的尽头，而自己却无能为力——1928年，北伐军攻入北京，南方发动的新一轮“武力统一”取得胜利，曾经盛极一时的北洋时代终告谢幕。
　　就在诸事不顺之际，突然有人给段祺瑞寄来了一封信。信是以一个学生的口吻写的：“老师可记得送入日本士官学校的学生中，有一个叫蒋志清的？那就是我……”段祺瑞当年在保定筹办军校时，确曾选送学生去日本学军事，但他的学生那么多，哪还记得一个蒋志清？再看下去，段祺瑞才知道蒋志清原来就是写信人、现任北伐军总司令蒋介石。想到自己培养出来的后辈居然成了新政权的领军人物，而且在大红大紫后仍不忘乃师，段祺瑞大为欣喜，以后常对人说：“蒋介石是我学生。”
　　1928年秋，蒋介石第一次到北平。当时段祺瑞的侄子段宏纲居住在北平，且与蒋介石的幕僚吴忠信认识。经吴忠信介绍和陪同，蒋介石与段宏纲相约在北京饭店见了面。一见面，蒋介石就对段宏纲说：“我是保定陆军学堂学生，段祺瑞先生是我的老师。”接着便询问了段祺瑞的起居生活情况。随后，蒋介石对吴忠信说：“我因公务繁忙，不能前往天津看望段老师，请你代表我去。”当天下午，在段宏纲的陪同下，吴忠信到天津谒见段祺瑞。
　　返回北平后，吴忠信向蒋介石进行了报告。得知段家生活很困难，蒋介石马上让人给段祺瑞送去两万元。在以后的三四年内，他还向段祺瑞赠送过几万元生活费，段家的生活问题遂得到了解决。