在清代官吏中，于成龙善于决狱，执法严正，为官正直清廉。二十余年的宦海生涯中，于成龙三次被举“卓异”，所到之处，皆有政声，成为清代循吏的代表人物。康熙帝曾破例亲自撰碑文并题写“高行清粹”匾额赐给于成龙，评价他为“清官第一，天下第一廉吏”。史称“闾巷诵其绩，久而弗渝”，百姓呼为“于青天”。

　　清顺治十八年，年已45岁，大器晚成的于成龙被选任广西柳州罗城知县。地处万山丛中的罗城，偏僻荒凉，匪盗猖獗，少数民族杂居，世代械斗。当时罗城县衙只有草屋三间，仅六家居民。他“插棘为门”“累土为几”，在极其艰苦的条件下办公。七年的罗城任职，于成龙生活十分清苦，每天只吃两顿或一顿，他的几个仆从难以忍受，“死逃殆尽”。而于成龙“万里一身，生死莫主。夜枕刀卧，床头树一枪以自防”。他殚精竭虑，洁己爱民，肃荡匪盗，鼓励耕种，创建学宫，创养济院。数年，“禾穗被野，牛羊满山”，罗城大治。

　　由于于成龙非常俭朴，除朝廷俸禄外分文不取。附近百姓看他独身一人滞留南疆，怜其清苦，每天早晚都去给于成龙请安，有时还凑些钱给他，说：“知道阿耶苦，供上一点盐米费罢了。”于成龙婉拒答谢：“我一人何须如许物，可持归易甘旨奉汝父母，如我受也。”有一年，于成龙的儿子千里迢迢从山西老家来看望，返乡之时，无所物送，家中只有一只咸鸭，于是就切了一半给儿子带在路上。此事传开，人们都称他为“半鸭知县”。

　　因治绩斐然，康熙六年于成龙晋升为四川合州知府。当时，合州官员以土产馈赠上司之风盛行。一次，上司下帖，让合州送鱼。于成龙拒不送鱼，他说：“民脂膏竭矣，无怜而问者，顾乃欲渔吾鱼，吾安所得鱼乎?”上司得知后，非但未怪罪他，反而裁革了十余件对合州不合理的摊派。康熙十七年，政绩显著的于成龙升任福建按察使。赴闽之前，于成龙命人买了许多萝卜。有人讥笑说：“贱物耳，何多为?”他却坦然回答：“我沿途供馔赖此矣。”

　　不久，于成龙又升任布政使。虽然掌管全省户籍、田亩和赋税的大权，他本人却一贫如洗，衙署里连薪米都无法按时供应，不得不典当衣物来买。朝廷派来的使臣进入于成龙的衙署，发现室内布满蜘蛛网，几案上竟然有老鼠活动的痕迹，房间的陈设仅有一个贮藏官服的竹笥，两口煮饭的锅，文卷、书册数十束，此外别无一物。

　　任黄州知府时，于成龙一上任就着手清查庸劣的官员，责令各属速行揭报。有一年中秋，于成龙管辖下的一位县令送来一份厚礼，美其名曰“遵循旧习”而已，他不仅当场严词拒绝，更是张榜颁发了一份《严禁馈赠檄》，明令所属官员一律不准送礼行贿，如再有犯者绝不宽恕，以此惩一儆百。

　　于成龙就任两江总督后，颁发《兴利除弊条约》，在条约中他郑重声明：“本部院下车清介自持，誓不受属员一毫馈送。”同时，他又制订了以“勤抚恤、慎刑法、绝贿赂、杜私派、严征收、崇节俭”为内容的《示亲民官自省六戒》作为地方官员的行为准则。

　　虽身为封疆大吏，但于成龙坚持“为民上者，务须躬先俭仆”。去直隶，他“屑糠杂米为粥，与同仆共吃”。在江南时，“日食粗粝一盂，粥糜一匙，侑以青菜，终年不知肉味”。江南百姓因而亲切地称他作“于青菜”。有人劝他不必如此清苦，他说：“多留一些米，就可以多赈济一些饥民。”他为官二十余年，只身天涯，从不带家眷，发妻阔别二十年后才得一见。 

　　康熙二十三年，于成龙在两江总督任上去世。僚属们为他清点遗物，仅有破袍一件、盐豉几罐。“民罢市聚哭，家绘像祀之”。《清史稿》对他评价道：“秉刚正之性，苦节自励，始终不渝，所至民怀其德。”