其后随湘军将领席宝田入贵州镇压苗民起义，由军功累迁至道员，赏花翎。平乱之后，旁人都忙着报功请赏，把俘虏的脑袋割下来装进木匣里向上峰递送，他却忙着做另一件事：安抚流民，恢复生产，把那些被战火赶进深山的苗人一户一户劝回来，给他们种子、耕牛和一条活路。西南官场上提起陈宝箴，都说一句"仁吏"。在那样的年代，"仁"字不是夸你心善，是夸你记得仗打完之后，还有人在山沟里饿着肚子等一口饭吃。
光绪朝之后，他辗转浙江按察使、湖北按察使、直隶布政使，每到一处必整顿吏治、兴修水利、清理积案。
甲午战起，他以直隶布政使身份督办湘军东征粮台，往返山海关与辽东前线筹措军需。他见过炮弹打完的阵地，见过冻死在运粮路上的民夫，见过士兵啃着冻硬的干粮在雪窝子里缩成一团，也见过《马关条约》签完之后京城的沉默。
签完约的那天夜里，他独自在灯下坐了很久，写了长长一道奏疏，直言"非力破成法不足以图存"，痛哭流涕，随后自请辞官。这道奏疏递上去，朝野震动。一个封疆大吏，不恋栈、不观望、不做姿态，说走就走，把自己的顶戴花翎往案头一搁便要走人，这在那时的官场里，比战败本身还让人不适。有人劝他，说你这又是何苦，朝廷正是用人之际。他回了一句："正是用人之际，才要用能做事的人。我若留在位上只做泥塑木雕，那便是占着茅坑不拉屎。"这话粗，理却不粗。