四去秽政，兴公益，设善堂，实行社会救济
    晚清社会黑暗腐败，弊政百出，各种怪现象层出不穷。厘捐为弊政中之至弊，厘局成为官吏搜刮民脂民膏的场所，尤应尽早清除。杨毓辉抨击说，“厘局委员大则太守，小则县令，……皆视厘局为利薮，钻营者有之，奔竞者有之，甚至贿赂公行，苞苴迭进，差一到手便以为此乃生财之地，机会不可失也。于是以多报少，百计弥缝，而司事差役又层层扣，其实数上解者大约不过十之三四耳。”厘金成为某些官员中饱私囊的项目，是吏治腐败的根源之一。“终无裨于库款，何如酌量减免反可惠彼商民！”（注：夏东元编《郑观应集》上册，第554－555页；第529-531页。）
    不但厘捐应裁减，严刑酷法也应酌改。1893年夏，杨毓辉又作《中外各国刑律轻重宽严异同得失考》，认为中律严西律宽，判刑轻重差异很大。如断狱，“西律审讯案件，俱凭人证，从无刑讯之条。……中律不然，审案由官独断，原告被告俱须下跪，不论事之从违，动用刑讯”。除律载夹棍、拶指、枷号、竹板、拧耳、跪链、压膝、掌责等刑外，“乃今之刑官，动用点锤、太平架、老虎凳板、罾吊、吃金饼，上凤凰台等刑，直出乎律之外，安得不严于泰西哉？”这也是应改革的，“为今之计，莫如设律例馆，将中西各国律例逐条译出，衡情酌理，汇为中西谳案一书”（注：《近代中国对西方及列强认识资料汇编》第三辑，第779页；第833-837页；第829-833页；第781-785页；台北版。 ），以资借鉴。这里他已提出借鉴西方法律，进行法律改革，特别是改革严酷的刑罚制度的问题，这在近代中国也是比较早的。我们知道，清政府借鉴西方法律，进行法律制度改革是1902年实行“新政”以后的事，比杨毓辉的提法晚了整整十年。
    杨毓辉还曾作《论泰西善堂》，主张仿西法，设善堂，实行社会救济。他说：“自道光年间大开海禁，西人之工于牟利者接踵而来，操贸易之权，逐锥刀之利。民间生计皆为其所夺。未通商之前，大布衣被苍生，业此为生者何可数计。自洋布、洋纱入口，土布销场遂滞，纺绩稀少。机轴之声几欲断矣！帆船亦为绝大生业，当其盛时，北至天津、牛庄，南至八闽、百粤，凡舵工水手恃以养赡家口者尤多。自轮船入华，而帆船之失业日众，帆橹之影几叹无矣！近来中国贫民之多，职是之故。”“为今之计，非仿西法以设善堂不足安流民而归久远。”他认为西方善堂法良意美，很值得中国当道学习。方法是建立善堂，收留鳏、寡、孤、独及其他难民，“教工艺，严部勒，洁居室，别勤惰”。其中，所谓教工艺，则男女不同，针对不同对象教给不同技能。男如做鞋、理破布、制木器、铜器等；聪明者教以印书、绘画、制造、织造之细工；粗愚者，教以农工、种茶、种谷、垦地、肥地、兴修水利等；女工，则教以纺线织布，刺绣缝衣，甚至读书识字、烹饪等，让他们掌握谋生技能，尽量自食其力。他还身体力行，奔走呼号，曾与江、浙、闽、粤有关人士筹办直赈义捐，还参与倡设李鸿章批准的天津广仁善堂，办义学、施医、施药、施棺，且收养无业小童，教以工艺，织有藤器，刻有善书出售。他还奉劝世人，“窃观各省富绅积财以贻子孙，不三代而尽散。何妨仿设善堂，收养万人，立德立功，名垂不朽乎？”（注：夏东元编《郑观应集》上册，第554－555页；第529-531页。）表达了他心怀天下，忧国忧民，抚恤贫孤的善良社会愿望。而且这种积财不如积德的劝导，还是富有劝世意义的。
    此外，杨毓辉还非常推崇郑观应的洋务思想。郑观应也非常赏识这位青年学者。杨毓辉被郑请去协助编校《盛世危言》，时为1894年。他在《盛世危言·跋》中称誉“郑陶斋观察经济才也，所著《盛世危言》高掌远蹠”。读其书，如读“经世文编”，如披“名臣奏议”，“今之士大夫犹多鄙夷时务，有以西学用心者则讥之曰‘悖圣教’，有以西法相尚者则斥之曰‘攻异端’。……吾知斯编一出，世之不达时务者如闻晨钟暮鼓，忽发省悟之心，如服玉札金丹，悉革聩聋之病，为斯人导其先路，使天下除厥弊端，不诚有裨于大局哉！”（注：《盛世危言·杨毓辉跋》，《郑观应集》上册，第929-930页。）。从《盛世危言》的社会启蒙作用中，看到中国振兴富强的希望。
    杨毓辉在维新运动时期，还著有文稿《权度考》，《寿椿庐治平刍议》，《寿椿庐时务丛谈》十卷，内分《时务刍议》、《时务通考》、《时务新说》、《时务略论》、《时务要策》等，所论皆时务（即洋务），曾请汪康年《时务报》馆代印代销。今已难窥其全貌。
    尽管如此，我们仍能从上面叙述中看到他们的思想价值。而且这些思想反映了近代岭东文化的开放性（向异域求新知、容纳外来文化），务实性（检讨现实、改造现状），民主性（追求民主自由平等）以及对未来美好社会的憧憬等若干特点，这是值得我们注意的。