清后，陈兆棠奉岑春煊之命稽查广东全省各军，事业如日中天。当他被破格提拔为惠州知府后，专门负责清乡行动时，陈兆棠布告示要求各约绅房族，“务将族内各匪行按名捆送惩办，以期拔尽根除”。言外之意就是由惠州绅商来指攻族内匪徒，以达到清乡的目的。三年内惠州被屠杀盗贼与疑似盗贼者高达三千人，这三千人皆为二十多岁的轻壮，整个惠州陷入血雨腥风之中，陈兆棠也就有了“屠伯”的绰号。

岑春煊担任军机大臣不久，被奕劻弹劾，陈兆棠遂即也丢了官，不过却被张人骏赏识，成了其下幕僚。陈兆棠与袁照芙两人是张人骏的左膀右臂，两人一文一武配合得当，袁照芙名声不大，因此此行张人骏派陈兆棠前往说和。