清朝时，出身于农家的于成龙少有大志，自幼过着耕读生活，受到较正规的儒家教育。顺治十八年，已44岁的于成龙，不顾亲朋的阻拦，抛妻别子，怀着“此行绝不以温饱为志，誓勿昧无理良心”的抱负，接受清廷委任，到遥远的边荒之地——广西罗城做县令。
罗城归于清朝统治不到两年，由于局势未稳，两任知县一死一逃。于成龙到罗城时，这里遍地荒草，城内只有居民6家，茅屋数间。县衙穷得连门墙都没有，只有三间破草房，他只得寄居于关帝庙中。于成龙从山西老家带来的一位仆人忍受不了这样的清苦，就对于成龙说：“当官如果是这个样子，还有谁愿意当官呢?你应该请求调离此地，否则还不如回老家种地呢。”
于成龙说：“我本来就是个农家子弟，现在能当上知县，为百姓做事，还有什么不满足呢?和这里的百姓相比，我们并不算清苦，你就不要抱怨了。”
于成龙知足常乐，为百姓的事到处奔忙。他那个仆人见劝不动他，又不甘心跟着他吃苦，竟然偷偷逃跑了。
罗城的百姓见于成龙是真心为他们办事，便自发地前来看望他，有的还给他带来了一点钱物。于成龙说：“我一个人用不了多少钱，你们的心意我领了。钱物我绝不能收下，这是我做人的准则啊!”
罗城百废待举，首要的在于安定社会，恢复生产。于是，于成龙采取“治乱世，用重典”的方法，首先在全乡建立保甲，严惩罪犯，大张声势地“严禁盗贼”。境内初安后，他又令乡民练兵，接着又在全县搞联防，从此，“邻盗”再不敢犯境。
在消除内忧外患的同时，于成龙十分注意招募流民以恢复生产，他常常深入田间访问农事，奖勤劝惰，闲时带领百姓修民宅、建学校、筑城墙。对迁入新居的农家，还亲为题写楹联，以示鼓励。三年之间，就使罗城摆脱混乱，出现了百姓安居乐业的新气象。
康熙六年(公元1667年)，于成龙被两广总督芦光祖举荐为广西省唯一的“卓异”，并升任四川合州(今四川合川市)知州。离开罗城时，他连赴任的路资也没有，出现了百姓“遮道呼号：‘公今去，我侪无天矣!’追送数十里，哭而还”的感人情景。
后来于成龙升任湖广下江陆道道员，驻地湖北新州(今新春县)。在湖北期间，他的地位和环境都有了很大改善，但他仍然心清如水，保持了异于常人的艰苦生活作风。
于成龙在20余年的宦海生涯中，历任知县、知州、知府、道员、按察使、布政使、巡抚和总督、加兵部尚书、大学士等职。三次被举“卓异”，以卓著的政绩和廉洁刻苦的一生，深得百姓爱戴和康熙帝赞誉，以“天下廉吏第一”蜚声朝野。
如果心如水质一般清澈，即便有泥沙倾倒下来，也不过是晃上几晃，泥沙尽可沉底，水质仍是一片清明。