但外祖父不想浮沉宦海，很快便弃官不仕。1908年4月，他应张元济之邀，进上海商务印书馆编辑所任英文部主任，直到1929年前后才退休。他很欣赏商务印书馆的同事，又觉得它管理有方，不惜将多年的储蓄都投资在商务的股票上，并自嘲道：“余今不仅为馆之职员，徒为他人作嫁衣而已也。”外祖父在编译所工作了大约二十年，其间茅盾也曾经是他的下属。他编写过很多畅销的英语教科书，如《循序英文读本》《英语作文教科书》《英语会话教科书》《新世纪英文读本》《初学英文规范》等，对中国的英语教育发展有很大贡献。

外祖父的成就除著述外，还有慈善事业。他是虔诚的基督教徒，本着博爱精神，常常为慈善机构出钱出力，如麻风救济会、青年会、盲童学校等都得过他不少帮助。由于兼顾太多慈善事业，又用储蓄买了商务的股票，邝家并不富裕，有时甚至颇为拮据。我母亲在这样的基督教家庭长大，自小已养成一种舍己为人的情操，非常体贴，所以日后连张爱玲也频频称赞她贤惠。外祖父跟我祖父一样，都是在1938年过世。