顺治十八年，已44岁的于成龙，不顾亲朋的阻拦，抛妻别子，怀着“此行绝不以温饱为志，誓勿昧无理良心”的抱负，接受清廷委任，到遥远的边荒之地——广西罗城为县令。

罗城新隶于清统治下不到两年，由于局势未稳，两任知县一死一逃。于成龙到罗城时，这里遍地荒草，城内只有居民六家，茅屋数间，县衙穷得连门墙都没有，只有三间破草房，他只得寄居于关帝庙中。于成龙从山西老家带来的一位仆人忍受不了这样的清苦，就对于成龙说：“当官如果是这个样子，还有谁愿意当官呢？你应该请求调离此地，否则还不如回老家呢。”

于成龙说：“我本来就是个农家子弟，现在能当上知县，为百姓做事，还有什么不满足呢？和这的百姓相比，我们并不算清苦，你就不要抱怨了。”

于成龙知足常乐，为百姓的事到处奔忙。他那个仆人见劝不动他，又不甘心跟着他吃苦，竟然偷偷逃跑了。

罗城的百姓见于成龙是真心为他们办事，便自发地前来看望他，有的还给他带来了一点钱物。于成龙说：“我一个人用不了多少钱，你们的心意我领了。钱物我绝不能收下，这是我做人的准则啊！”

罗城百废待举，于是，于成龙一边着手消除内忧外患、安定社会，另一方面又开始招募流民，以恢复生产。三年之间，就使罗城摆脱混乱，得到治理，出现了百姓安居乐业的新气象。

康熙六年，于成龙被两广总督芦光祖举荐为广西省唯一“卓异”，并升任四川合州知州。离罗城时，他连赴任的路资也没有，出现了百姓“遮道呼号：‘公今去，我侪无天矣！’追送数十里，哭而还”的感人情景。

后来于成龙升湖广下江陆道道员，驻地湖北新州。在湖北期间，无论地位和环境都有很大改善，但他仍然心清如水，保持了异于常人的艰苦生活作风。

康熙十七年，于成龙升福建按察使离湖北时，依然一捆行囊，两袖清风，沿途以萝卜为干粮。

于成龙在20余年的宦海生涯中，历任知县、知州、知府、道员、按察使、布政使、巡抚和总督、加兵部尚书、大学士等职，虽然官阶越升越高，但他的心却没有被宦海中的各色欲望所腐蚀，仍然是那样清澈，没有混杂，始终活泼地流动着，充满了盎然生机。