1923年，冯友兰学成归国，到开封的中州大学担任文科主任。家人也随之来到开封。

需要补充说明的是，冯友兰已经有“家人”了。那年他自北大毕业，经人介绍与任载坤结婚。他的岳父任芝明是辛亥革命的前辈，思想开明，把几个女儿都送到外面读书，任载坤便是北京女子师范学校的学生。冯友兰与她同年毕业后，很快就结婚了。在这里之所以特别提到冯友兰的岳父，是因为后来发生的一件事情与他有一点关系。冯友兰一生中曾经两次加入国民党。1924年国民党在各地发展组织，派到河南来组织省党部的人是冯友兰岳父的老战友兼亲戚，冯友兰第一次加入了国民党，还被选为执行委员会的候补委员。由于他没有参加两年后国民党所进行的重新登记，等于是自行脱党。1939年他担任西南联大文学院院长的时候，教育部命令所有大学院长以上的人都必须是国民党党员，因此他第二次加入了国民党。说来他两次加入国民党都并非自己积极主动，而且都是国共合作十分密切的时期，本来算不得什么大事。但是几十年后，却因为这个“历史问题”而被整得抬不起头来。当然，那些都是后话了。

1925年，冯友兰离开中州大学去广州中山大学任职。这次离开中州大学的经过很有意思。冯友兰当时已经有了不小的名气，因此有很多学校都想聘他前去任教，因碍于情面，他不想贸然离开，同时，他也很想把中州大学办好。因此他托人向校长摊牌：要么让自己当校务主任，以便有足够的权力实现改造学校的目的；要么就只有离开。如此坦率地伸手“要官”虽然出人意料，但校长很欣赏他的做法，也理解他的动机。不过，由于种种原因，校长无法满足他的要求，冯友兰便选择了离开。其实当时他早已做好了多种准备，而且主要的选择是重回北京，只是由于曾经应允过中山大学，才选择了先到广州。当时广州是革命的中心，冯友兰本是抱着“想当一个革命的人”的想法而去的，没想到那里的情况十分复杂，各派力量的斗争十分激烈，因此他很快就离开了。

1926年，冯友兰到燕京大学任教，两年后又到清华，这是他学术研究的第二个阶段，大约有10年时间，主要成果是他的《中国哲学史》。